Pre nekoliko dana tokom panela na konferenciji All-In Summit u Los Anđelesu, dogodio se nesvakidašnji trenutak. Predsednik SAD Donald Tramp je telefonom pozvao šefa kompanije Nvidia Jensena Huanga dok je ovaj bio na bini pred publikom. Tramp je (preko telefona) napao šefove OpenAI-ja i Anthropic-a, rekavši da su njihove bezbednosne brige i priče o tome da će „roboti preuzeti svet“ čista „prevara“. Huang se složio i rekao da „usporavanje“ razvoja ove tehnologije nema naučnu osnovu.
Dodajte Trender.media kao preferirani izvor i vidite naše vesti na vrhu Google pretrage.
Dodaj kao preferirani izvorZa Huanga, jedino pravo usko grlo industrije trenutno jeste struja i prostor za data centre, a ne to što AI postaje „preopasan“. Na Trampovu poruku tokom poziva da „neće dozvoliti da bilo ko koči izgradnju data centara“, Huang mu je pred publikom odgovorio: „Gospodine, nećemo dozvoliti da se to desi, u pravu ste“.
Povod za ovu „frku“, su vodeći ljudi ove industrije, koji su poput Sema Altmana (OpenAI) i Darija Amodeija (Anthropic), počeli javno da pozivaju na usporavanje trke i uvođenje zajedničkih bezbednosnih ograničenja brzine razvoja. Priličan preokret, obzirom da dolaze od ljudi kojima kočnice nisu radile u proteklo vreme.
Tri razloga za preokret
Tri glavna razloga zašto je došlo do ovog preokreta su sledeći. Ponestalo je kvalitetnih ljudskih podataka, jer dosadašnji modeli (poput GPT-4) trenirani su tako što su usisali praktično ceo javni internet, knjige, Vikipediju, naučne radove i društvene mreže. Kompanije su doslovno potrošile zalihe kvalitetnih tekstova koje su ljudi ikada napisali.
Drugi problem je „tehnološki zid“ i suludi troškovi. Zakon skaliranja je počeo da pokazuje sve manje povraćaja na uložen novac. Da bi model bio samo malo bolji od prethodnog, više nije dovoljno uložiti duplo više, već 10 ili 100 puta više resursa. Tu je, naravno, problem struje i hardvera, koji će, kako smo prethodno čuli, Tramp „rešiti“. Ali bez obzira na obećanja, investitori na berzi su se uplašili jer troškovi divljaju, a profit kasni.
Treći (i trenutno najvažniji) je strah od gubitka kontrole. Vodeći inženjeri i istraživači otvoreno upozoravaju da bi nekontrolisano prebrzo razvijanje sistema sledeće generacije moglo da dovede do gubitka kontrole nad sistemima.
„Jahači tehnološke apokalipse“ i zakonski okvir
Zbog toga šefovi kompanija (koje smo jednom nazvali „jahači tehnološke apokalipse“) traže od države (prevashodno u SAD) zakonski okvir i uvođenje obaveznog „glavnog prekidača“ za gašenje sistema ako stvar izmakne kontroli. U ostale faktore možemo ubaciti i kineski faktor, tj strah da će ih ova zemlja preteći u napretku.
Zato i ne čudi da su direktori kompanija, nekada ujedinjenih u borbi za „cvetanje čovečanstva“, sada u ozbiljnom sukobu. Barem medijskom.
Udario Microsoft na Anthropic
Poslednji koji se (za sada) oglasio je direktor Microsoft-ovog odeljenja za veštačku inteligenciju koji je upozorio da bi Anthropic-ov pristup obučavanju njegovog AI modela Claude mogao imati „katastrofalan uticaj na dobrobit čovečanstva“. Podsetimo, Anthropic sada traži uspostavljanje pravila.
Mustafa Sulejman rekao je da njegov rival rizikuje da stvori nešto „nemoguće“ za kontrolu, jer se prema modelu odnosi kao prema čoveku. To, između ostalog, uključuje i poruke da je Claude „možda svestan“ i da „zaslužuje nezavisnu delatnost“.
„Ne smemo nesvesno ući u odluku zbog koje ćemo kasnije gorko žaliti“, napisao je.
On je oštro je kritikovao Anthropic zbog toga što svoj AI uči ljudskim osobinama. Ta praksa poznata je kao antropomorfizacija.
Prema njegovim rečima, ona stvara utisak da Claude ima sopstvene želje, vrednosti i osećaj sopstvenog identiteta.
Da li je u pitanju stvarni strah od napretka veštačke inteligencije ili stvarna borba da se ovlada tehnologijom i preuzme svetski primat, možda saznamo, a možda i ne. U oba slučaja, sigurno je da veliku ulogu ima ogroman novac koji se trenutno oko njih vrti.
