Dok AI kompanije godinama ponavljaju da je njihov najveći prioritet bezbednost čovečanstva, jedna od njih sada predlaže da se ceo svet zaustavi i razmisli. Problem je što taj predlog došao od kompanije koja je trenutno na samom vrhu industrije i ima ogromnu tržišnu prednost u odnosu na konkurenciju. Kada ste prvi u trci, poziv na usporavanje odjednom počinje da zvuči mnogo „mudrije“.
Anthropic, jedna od vodećih svetskih AI laboratorija, upozorava da bi veštačka inteligencija uskoro mogla da dostigne tačku nakon koje će njeno napredovanje biti teško kontrolisati i poziva na globalnu pauzu u razvoju najmoćnijih modela.
Anthropic poziv na pauzu
Anthropic je u opširnom blog postu objavljenom u četvrtak izneo tvrdnju da se njegova porodica AI modela Claude približava sposobnosti poznatoj kao „rekurzivno samousavršavanje“ (recursive self-improvement), hipotetičkom trenutku kada bi sistemi mogli samostalno da unapređuju sopstvene sposobnosti bez ljudske pomoći.
Prema mišljenju kompanije, upravo bi to mogla biti ključna prekretnica na putu ka stvaranju izuzetno moćnih AI sistema koji bi jednog dana mogli da deluju nezavisno od ljudskih interesa.
Anthropic naglašava da ta tačka još nije dostignuta, ali upozorava da bi mogla stići mnogo brže nego što su vlade, regulatorna tela i društvo spremni da prihvate.
„Verujemo da bi za svet bilo korisno da postoji mogućnost usporavanja ili privremene pauze u razvoju najnaprednijih AI sistema, kako bi društvene institucije i istraživanja bezbednosti mogli da sustignu tehnološki napredak“, navodi kompanija.
Istovremeno priznaje da bi sprovođenje takve pauze bilo izuzetno teško. Za uspeh bi bilo potrebno da se više vodećih laboratorija u različitim državama istovremeno složi da zaustavi razvoj pod istim uslovima.
„Trening novih modela mnogo je lakše sakriti nego raketne silose“, navodi se u tekstu.
Poziv na pauzu u pravom trenutku?
Kritičari ističu da Anthropic ovaj poziv upućuje u veoma pogodnom trenutku za sopstveni biznis.
Kompanija je poslednjih meseci prestigla OpenAI po tržišnoj vrednosti i postala najvrednija AI kompanija na svetu, sa procenjenom vrednošću od bilion dolara. Njeni Claude modeli danas se često smatraju vodećim u oblasti programiranja i naprednog rezonovanja.
Drugim rečima, ukoliko bi industrija zaista usporila razvoj, Anthropic bi svoju trenutnu prednost mogao da pretvori u dugoročnu dominaciju.
Među skepticima je i poznati kritičar AI industrije Gary Marcus.
On je tekst kompanije opisao kao svojevrsni „mamac i zamenu“.
„Anthropic pokušava da zastraši javnost pričama o mogućem gubitku ljudske kontrole nad AI sistemima, ali ono što su zaista pokazali jeste samo brže programiranje, i to potpuno pod ljudskom kontrolom“, napisao je Marcus.
„Brži alat za kodiranje verovatno neće uništiti svet.“
Imidž odgovorne AI kompanije
Anthropic godinama gradi reputaciju kompanije koja bezbednost stavlja ispred profita. Važan deo tog narativa vezan je za izvršnog direktora Dario Amodei, koji je više puta tvrdio da je odlagao objavljivanje moćnih modela zbog bezbednosnih razloga, dok su konkurenti bili spremniji da rizikuju.
Pre samo dva meseca kompanija je predstavila novi model pod nazivom Mythos, ali ga nije pustila u javnu upotrebu, tvrdeći da poseduje sposobnosti koje bi mu potencijalno omogućile kompromitovanje velikog broja operativnih sistema i internet pregledača.
Međutim, poslednjih meseci taj pažljivo građeni imidž počeo je da se urušava.
Ranije ove godine Anthropic se našao u centru rasprave oko saradnje sa američkim vojnim i obaveštajnim strukturama. Kompanija je javno izražavala zabrinutost zbog upotrebe AI-ja u autonomnom naoružanju i masovnom nadzoru građana, ali su se kasnije pojavili izveštaji da se Claude koristi za pomoć pri odabiru vojnih ciljeva u Iranu.
Istovremeno, kompanija je povukla jedno od svojih najvažnijih bezbednosnih obećanja, da neće nastaviti razvoj sistema za koje ne može da garantuje odgovarajuće zaštitne mehanizme.
Dodatne kritike stigle su od Stivena Mardoka sa londonskog University College, koji je ukazao na izveštaje da Anthropic sarađuje sa američkom NSA u razvoju sajber-operacija protiv država poput Kine i Irana.
„Anthropic ostavlja utisak tople i dobronamerne kompanije, ali njihova definicija AI bezbednosti prilično je uska“, rekao je Mardok za The Guardian. „Podrška američkim vlastima u razvoju ofanzivnih kapaciteta nikada nije bila nešto protiv čega su javno istupali.“
Šta sledi?
Bez obzira na to da li kompanija zaista veruje da globalna pauza može biti ostvarena ili je reč o pokušaju da dodatno učvrsti svoj imidž „odgovornog igrača“, Anthropic najavljuje nastavak kampanje.
Kompanija planira da u narednim mesecima organizuje razgovore sa političarima, istraživačima, predstavnicima civilnog društva i drugim AI kompanijama kako bi se raspravljalo o mogućim posledicama rekurzivnog samousavršavanja i načinima međunarodne koordinacije razvoja veštačke inteligencije.
„Objavićemo zaključke tih razgovora“, poručili su iz Anthropic-a.
Za sada ostaje otvoreno pitanje da li je upozorenje iskren poziv na oprez ili strateški potez kompanije koja se trenutno nalazi na vrhu AI industrije i želi da tamo ostane što duže.
