Istraživač bezbednosti veštačke inteligencije napustio je američku kompaniju Anthropic uz zagonetno upozorenje da je „svet u opasnosti“.
U oproštajnom pismu objavljenom na mreži X, Mrinank Šarma naveo je da odlazi zbog zabrinutosti u vezi sa veštačkom inteligencijom, biološkim oružjem i širim stanjem u svetu.
Rekao je da planira da se posveti pisanju i proučavanju poezije, kao i da se vrati u Ujedinjeno Kraljevstvo kako bi „postao nevidljiv“, piše BBC.
Ovo se dešava iste nedelje kada je i jedna istraživačica iz OpenAI podnela ostavku, izražavajući zabrinutost zbog odluke kompanije, tvorca ChatGPT, da u svoj četbot uključi oglase.
AI sistemi udovoljavaju korisnicima
Anthropic, najpoznatiji po svom četbotu Claude, nedavno je objavio seriju reklama usmerenih protiv OpenAI-ja, kritikujući odluku da se određenim korisnicima prikažu oglasi.
Kompanija, osnovana 2021. godine od strane bivših zaposlenih u OpenAI-ju, pozicionirala se kao firma sa bezbednosno orijentisanim pristupom istraživanju veštačke inteligencije u odnosu na konkurenciju.
Šarma je u toj kompaniji vodio tim koji se bavio zaštitnim mehanizmima za AI sisteme.
U oproštajnom pismu naveo je da je radio na istraživanju zašto generativni AI sistemi „udovoljavaju“ korisnicima, na suzbijanju rizika od bioterorizma uz pomoć veštačke inteligencije, kao i na proučavanju „kako bi AI asistenti mogli da nas učine manje ljudima“.
„Svet je u opasnosti“
Ipak, dodao je da je, uprkos tome što je uživao u radu, postalo jasno da je „došlo vreme da krene dalje“.
„Svet je u opasnosti. I to ne samo zbog veštačke inteligencije ili biološkog oružja, već zbog čitavog niza međusobno povezanih kriza koje se odvijaju upravo sada“, napisao je Šarma.
Naveo je da je „više puta video koliko je teško zaista dozvoliti da naše vrednosti upravljaju našim postupcima“, uključujući i u Anthropicu, koji se, prema njegovim rečima, „stalno suočava s pritiscima da zanemari ono što je najvažnije“.
Anthropic vs. OpenAI
Anthropic sebe opisuje kao „korporaciju od javnog interesa posvećenu obezbeđivanju koristi od veštačke inteligencije i ublažavanju njenih rizika“.
Ipak, bila je i predmet kritika. Godine 2025. pristala je da plati 1,5 milijardi dolara kako bi okončala kolektivnu tužbu autora koji su tvrdili da je kompanija neovlašćeno koristila njihova dela za treniranje AI modela.
Poput OpenAI-ja, firma nastoji da iskoristi potencijal tehnologije kroz sopstvene proizvode, uključujući Claude, konkurenta ChatGPT-u.
Nedavno je objavila reklamu kojom kritikuje OpenAI-jevu odluku o uvođenju oglasa u ChatGPT.
Direktor OpenAI-ja, Sam Altman, ranije je izjavio da ne voli oglase i da bi ih koristio samo kao „poslednju opciju“.
Prošle nedelje odgovorio je na opis te odluke kao „izdaje“, ali je na društvenim mrežama bio ismevan zbog podužeg posta u kojem je kritikovao Anthropic.
Nije prvi otkaz
Bivša istraživačica OpenAI-ja, koja je ove nedelje dala otkaz delimično zbog zabrinutosti oko uvođenja oglasa u ChatGPT, izjavila je za BBC Newsnight da se oseća „zaista nervozno zbog rada u industriji“.
Zoe Hicig rekla je da njene brige proističu iz mogućih psihosocijalnih posledica „novog tipa društvene interakcije“ koje još nisu dovoljno istražene.
Ukazala je na „rane znakove upozorenja“ da zavisnost od AI alata može biti zabrinjavajuća, da može „pojačati određene vrste zabluda“, kao i negativno uticati na mentalno zdravlje korisnika na druge načine.
