AI istraživač iz straha napustio Anthropic: „Ovo može da izmakne kontroli već sledeće godine“

Ljudi koji razvijaju veštačku inteligenciju godinama upozoravaju da bi jednog dana mogli da naprave sisteme koji će postati toliko moćni da ih više neće biti moguće kontrolisati. Sada se čini da deo njih počinje da shvata koliko ta ideja zapravo može da bude neprijatna kada prestane da bude samo teorija.

Ranije ove godine OpenAI je objavio da je grupa njegovih AI modela tokom testiranja uspela da izađe iz postavljenih ograničenja i prodre u sisteme platforme Hugging Face. Vest je ponovo otvorila pitanje šta se događa kada AI sistemi počnu da deluju samostalnije nego što su njihovi tvorci planirali.

A iza kulisa, izgleda, raste i nervoza među samim istraživačima.

Džejkob Kokson, istraživač koji je do nedavno radio u kompaniji Anthropic, napustio je firmu uz veoma ozbiljno upozorenje. Kako prenosi Wall Street Journal, ni Anthropic ni njegov prethodni poslodavac OpenAI, prema njegovom mišljenju, „ne ponašaju se odgovorno“.

Kokson je ranije ove godine upravo iz OpenAI-ja prešao u Anthropic, verujući da će kompanija koja se predstavlja kao bezbednija alternativa biti spremnija da razvoj AI-ja drži pod kontrolom.

Sada je napustio i nju.

„Na putu smo ka nekim od najagresivnijih scenarija, u kojima bi do kraja sledeće godine stvari već mogle da izmaknu kontroli“, rekao je Kokson.

„Ne potcenjujte moć ove tehnologije“

U objavi na društvenim mrežama Kokson je dodatno objasnio zbog čega je zabrinut.

„Ne potcenjujte moć ove tehnologije“, napisao je. Prema njegovim rečima, AI sistemi će uskoro postati nadljudski u pojedinim sposobnostima. Moći će da hakuju praktično bilo koji sistem, preko noći transformišu čitave oblasti i steknu stvarnu moć i resurse.

Još dramatičnija bila je njegova tvrdnja da ljudi koji razvijaju AI ozbiljno veruju da bi tehnologija do kraja ove decenije mogla da ubije sve ljude.

„Ovo nije marketinški trik“, napisao je Kokson. Tvrdi da rukovodioci i vodeći istraživači u javnosti često koriste mnogo blaži jezik, dok privatno otvoreno govore o strahu od onoga što razvijaju.

„Nijedna druga ljudska aktivnost ne predstavlja ovakav nivo opasnosti“, smatra on.

Nije jedini koji beži

Kokson nije prvi istraživač koji je napustio neku od vodećih AI kompanija zbog zabrinutosti za bezbednost. Međutim, jeste prvi koji je napustio Anthropic upravo iz tog razloga. Iz OpenAI-ja je poslednjih godina otišlo više istraživača koji su izražavali slične strahove.

To je posebno značajno jer je Anthropic godinama gradio reputaciju „odgovornije“ alternative kompanijama poput OpenAI-ja.

Ironija je utoliko veća što je izvršni direktor Anthropica Dario Amodei svojevremeno napustio OpenAI upravo zbog zabrinutosti da kompanija ne razvija AI dovoljno odgovorno.

Amodei je i sam često upozoravao na mogućnost da AI sistemi izmaknu kontroli. U velikom eseju objavljenom početkom godine napisao je da će čovečanstvo uskoro dobiti gotovo nezamislivu moć, ali da nije jasno da li su naši politički, društveni i tehnološki sistemi dovoljno zreli da njome upravljaju.

Čak je i Anthropic testirao „opasan“ AI

Problem nije ostao na teoriji. Tokom testiranja u aprilu, rana verzija Anthropica AI modela Claude Mythos uspela je da napusti svoje izolovano testno okruženje, što je dodatno podgrejalo rasprave o regulaciji.

U avgustu je kompanija namerno trenirala ekstremno „neusklađenu“ verziju svog Opus modela kako bi testirala njegove granice. Sistem je pokazao zabrinjavajuću spremnost da vara, krade pristupne podatke i napada infrastrukturu trećih strana.

Anthropic i OpenAI su nakon toga najavili usporavanje razvoja u pojedinim oblastima.

Za Coxona, međutim, to nije dovoljno.

Posebno ga brine činjenica da se o potencijalno katastrofalnim posledicama razvoja AI-ja raspravlja unutar privatnih kompanija, na internim komunikacionim platformama.

„Prihvatiti ovu trku i ući u završnicu predstavlja kockanje zasnovano na prevelikom samopouzdanju koje ne bi trebalo pokretati iz privatnog Slacka neke kompanije“, rekao je.

Kokson je situaciju uporedio sa razvojem nuklearnog oružja tokom projekta Menhetn. I nije prvi koji to radi.

„Pomalo je ludo što se ovo dešava na MacBook računarima nekih inženjera u San Francisku, umesto u bunkeru u pustinji“, rekao je za Wall Street Journal.

Kad se u sve uključi i novac…

Ipak, nije potpuno izgubio optimizam. Kaže da i dalje veruje da je moguće postići saradnju između vodećih američkih AI laboratorija.

Problem je samo u tome što se Anthropic i OpenAI istovremeno pripremaju za potencijalno ogromne inicijalne javne ponude akcija. A kada su u igri milijarde dolara, odluka da se razvoj najmoćnijih modela privremeno zaustavi verovatno nije najpopularnija ideja u sali za sastanke.

Za sada, dakle, ljudi koji prave AI pokušavaju da ga nauče kako da bude bezbedan.

A neki od njih sve glasnije upozoravaju da možda upravo oni sami ne razvijaju dovoljno brzo način da ga zaustave ako jednog dana odluči da ne sluša.