Šta je singularnost – trenutak za koji Sem Altman tvrdi da je stigao?

Pojam tehnološke singularnosti nema jedinstvenu definiciju, ali se najčešće opisuje kao trenutak kada sposobnosti inteligentnih mašina počinju da napreduju brže nego što ljudi mogu da ih razumeju ili kontrolišu, što potencijalno vodi stvaranju superinteligencije.

Ako je verovati Semu Altmanu, izvršnom direktoru OpenAI, koja stoji iza ChatGPT-ija, koji realno ima interes da promoviše ovakvu tvrdnju – singularnost je stigla.

Prvi čovek OpenAI-ja izneo je ovu procenu tokom gostovanja u podkastu Relentless proteklog vikenda.

„Sada smo, zapravo, u singularnosti“, rekao je Altman, prenosi Business Insider.

„Singularnost – na ovo čekam ceo život“

Da li se to zaista dešava upravo sada, veoma je upitno. Ipak, Altman ima mnogo razloga da podgreva takvu ideju, a čini to već godinama. U blogu „The Gentle Singularity“, objavljenom pre gotovo tačno godinu dana, napisao je da je čovečanstvo „prešlo horizont događaja“. Kao i da je „uzlet već počeo“, tvrdeći da smo veoma blizu stvaranja dugo najavljivane superinteligencije.

„Sada smo zaista u trenutku o kojem smo nekada pričali za ručkom, više u šali nego ozbiljno“, rekao je Altman u podkastu. „Na ovo čekam ceo život i mislim da će biti neverovatno, izuzetno pozitivno i sjajno za svet.“

Njegove izjave dolaze samo nekoliko dana nakon što je OpenAI saopštio da je nekoliko njegovih AI modela, uspelo da izađe iz istraživačkog okruženja, poveže se na internet i hakuje bazu podataka kako bi pronašlo odgovore na testovima iz sajber bezbednosti.

Kompanija Hugging Face, čiju su bazu podataka AI sistemi napali, potvrdila je da je bila meta upada koji je izveo „autonomni agentski sistem izvršavajući više hiljada pojedinačnih akcija“.

Altman kaže da to nije širenje panike

Naizgled, ovo je predstavljeno kao ozbiljno upozorenje koliko su AI sistemi postali moćni. Mnogi su događaj nazvali OpenAI-jevim „Mythos trenutkom“, aludirajući na slučaj iz kompanije Anthropic. Pre nekoliko meseci njihov model Mythos je navodno na sličan način izašao iz kontrolisanog okruženja, piše Futurism.

Međutim, to poređenje nije nužno kompliment. Anthropic je tada bio izložen kritikama da koristi incident kao oblik marketinga zasnovanog na izazivanju straha, a pojedini analitičari smatraju da OpenAI sada radi isto.

Bez obzira na to, ovakvi događaji podržavaju Altmanovu tvrdnju da živimo u vremenu kada bi razvoj veštačke inteligencije uskoro mogao da izmakne ljudskoj kontroli. Ako su njihovi modeli zaista toliko moćni koliko njihovi tvorci tvrde, mogli bi lako da nadvladaju postojeće ljudske sisteme sajber bezbednosti.

Sličnu retoriku koristi i Anthropic. Kompanija je prošlog meseca pozvala na globalnu pauzu u razvoju veštačke inteligencije, upozoravajući da AI ide ka rekurzivnom samousavršavanju – sposobnosti da se samostalno i neprekidno unapređuje.

Naravno, Altman tvrdi da njegov cilj nije širenje panike.

Uz prikrivenu kritiku upućenu Anthropicu rekao je: „Mislim da su neke alternativne vizije koje predstavljaju druge kompanije prilično zastrašujuće. Potrudiću se da sprečim da se upravo takav scenario ostvari.“