„Ključna odluka o sudbini čovečanstva se opasno približava“

Džared Kaplan, glavni naučnik u kompaniji za veštačku inteligenciju Anthropic, izneo je u britanskom Guardian-u niz ozbiljnih predviđanja o budućnosti čovečanstva, upozoravajući da se ključna odluka o našoj sudbini opasno približava.

Prema njegovim rečima, izbor je još uvek u našim rukama, ali samo ako ne odlučimo prepustiti kontrolu mašinama.

Kaplan, naime, predviđa da se ta tačka odluke brzo približava. On je upozorio da će čovečanstvo najkasnije do 2030. godine, a možda već i 2027., morati da odluči hoće li preuzeti „ultimativni rizik“ i dopustiti AI modelima da se sami obučavaju. Takav bi korak mogao pokrenuti „eksploziju inteligencije“ koja bi tehnologiju vinula u nove visine i dovela do stvaranja opšte veštačke inteligencije (AGI) – sistema koji nadmašuje ljudski intelekt. To bi moglo doneti ogromne dobrobiti čovečanstvu kroz naučne i medicinske napretke. S druge strane, ista odluka mogla bi omogućiti nekontrolisano širenje moći AI, ostavljajući nas na milost i nemilost njenim hirovima.

„Zvuči kao nekakav zastrašujući proces“, rekao je. „Ne znate gde ćete završiti.“

Dok se veći AI modeli već koriste za obuku manjih u procesu poznatom kao destilacija, Kaplan je prvenstveno zabrinut zbog takozvanog rekurzivnog samopoboljšanja – procesa u kojem AI uči bez ikakve ljudske intervencije i tako ostvaruje goleme skokove u svojim sposobnostima.

Dopuštanje takvog razvoja postavlja teška filozofska pitanja. „Glavno pitanje je: jesu li AI-jevi dobri za čovečanstvo?“ rekao je Kaplan. „Jesu li korisni? Hoće li biti bezopasni? Razumeju li ljude? Hoće li dopustiti ljudima da i dalje imaju kontrolu nad svojim životima i nad svetom?“

AI bi mogao da stagnira

Ipak, Kaplanova upozorenja treba posmatrati i s dozom opreza. Vizije apokalipse, iako zvuče dramatično, ujedno jačaju percepciju da je AI najvažnija tehnologija ikad stvorena, što služi kao svojevrstan marketing. Takva predviđanja često skreću pažnju sa stvarnih i trenutnih problema, poput ogromnog ekološkog otiska AI tehnologije, kršenja autorskih prava i njenih iluzornih kognitivnih učinaka.

Osim toga, mnogi stručnjaci, uključujući i uticajne figure poput Jana Lekuna, ne veruju da je trenutna arhitektura jezičnih modela (LLM) uopšte sposobna da se razvije u svemoćne sisteme kakvih se Kaplan pribojava. Nije čak ni sigurno da AI doista povećava produktivnost – neka istraživanja sugerišu suprotno, a zabeleženo je i nekoliko neuspešnih pokušaja zamene radnika AI agentima koji su na kraju ponovo zaposleni.

I sam Kaplan priznaje mogućnost da bi razvoj AI-ja mogao da stagnira. „Možda je najbolji AI ikada onaj AI koji imamo sada“, rekao je, no odmah se ogradio: „Ali mi stvarno ne mislimo da je to slučaj. Mislimo da će se nastaviti poboljšavati.“