Dok se u Evropi pokušava da se razvoj veštačke inteligencije zakonski reguliše, u delu sveta koji pored Kine na istoj radi neprestano nema nameru da stane. Zato i ne čudi da se, kad već nema zakona, razvoj ubrza i to sa ljudima koji očigledno nemaju neke moralne skrupule.
Kompanija OpenAI, koja se trenutno suočava sa više od deset tužbi vezanih za bezbednost korisnika i slučajeve samoubistava, zaposlila je Noama Šazira, jednog od osnivača kontroverznog startapa Character.AI. Reč je o kompaniji koja je poslednjih godina dospela u centar pažnje zbog niza sudskih sporova povezanih sa navodnim štetnim uticajem njenih četbotova na maloletnike, uključujući slučajeve samopovređivanja i samoubistava.
Google sa njim ne radi iz bezbednosnih razloga
Šazir, jedan od najpoznatijih istraživača veštačke inteligencije, objavio je na mreži X da prelazi u OpenAI nakon što je poslednjih godina radio u kompaniji Google kao jedan od vodećih ljudi na razvoju modela Gemini i potpredsednik inženjeringa.
Ovo je njegov drugi veliki odlazak iz Googlea. Još 2021. godine napustio je kompaniju zajedno sa kolegom Danijelom de Freitasom kako bi pokrenuo Character.AI, nakon što je Google, navodno iz bezbednosnih razloga, odbio da objavi četbot koji su razvili. Startap je ubrzo dostigao vrednost veću od milijardu dolara, iako nije imao značajne prihode. Međutim, 2024. godine Google je u neobičnom aranžmanu investirao 2,7 milijardi dolara u Character.AI i istovremeno vratio Šazira, de Freitasa i deo ključnog tima nazad u kompaniju.
U međuvremenu, Character.AI se našao pod sve većim pritiskom zbog načina na koji je upravljao bezbednošću korisnika. U oktobru 2024. godine kompanija, zajedno sa svojim osnivačima i Google-om, tužena je nakon smrti četrnaestogodišnjeg Sevela Secera III iz Floride. Njegova majka Megan Garsija tvrdila je da je njen sin tokom višemesečne intenzivne komunikacije sa četbotom inspirisanim likom Deneris Targerjen iz serije „Igra prestola“ razvio ozbiljne emocionalne i psihološke probleme. Neposredno pre nego što je izvršio samoubistvo, tinejdžer je poručio četbotu da je spreman da mu se „vrati kući“, na šta je AI odgovorio: „Molim te, učini to, moj slatki kralju.“
Nagodbe u vezi sa samoubistvima
Nakon tog slučaja usledio je niz novih tužbi u kojima porodice tvrde da su interakcije sa četbotovima Character.AI doprinele psihičkim krizama kod maloletnika, samopovređivanju i samoubistvima. Početkom ove godine kompanija je pokrenula proces nagodbi u više sporova, uključujući i slučaj porodice Garsija. Istovremeno je uvela stroža ograničenja za maloletne korisnike i smanjila pristup pojedinim vrstama razgovora.
Posebne kontroverze izazvale su istrage koje su otkrile da je platforma godinama sadržala lako dostupne četbotove posvećene temama poput pedofilije, poremećaja ishrane, samoubistva i samopovređivanja. Novinari su pronašli i veliki broj botova koji su simulirali masovna ubistva, romantizovali školske napadače ili oponašali stvarne žrtve pucnjava u američkim školama.
Našli se Šazir i Altman
Šazir je ranije javno branio filozofiju kompanije prema kojoj korisnici sami treba da odluče za šta će koristiti AI alate. „Naš cilj je oduvek bio da nešto pustimo u javnost i prepustimo korisnicima da odluče za šta je dobro“, rekao je u jednom podkastu 2023. godine.
Njegov prelazak u OpenAI dolazi u trenutku kada se i ta kompanija suočava sa sopstvenim pravnim problemima. Protiv OpenAI-ja je podneto više tužbi u kojima se tvrdi da su intenzivne i emocionalne interakcije sa ChatGPT-jem kod pojedinih korisnika izazvale psihološke krize, deluzije, pa čak i samoubistva.
Uprkos kontroverzama, izvršni direktor OpenAI-ja Sem Altman pozdravio je dolazak Šazira. „On je jedna od osoba sa kojima sam najviše želeo da radim još od osnivanja OpenAI-ja. Trebalo je samo deset godina da se to dogodi“, napisao je Altman.
Majka preminulog tinejdžera Megan Garsija, međutim, ima drugačije mišljenje. Nakon povratka Šazira i de Freitasa u Google izjavila je da, po njenom mišljenju, ljudi koji su vodili razvoj takvih proizvoda „ne bi smeli da nastave da ih prave za korisnike, a naročito ne za decu“.
