Prema novom izveštaju kompanije za digitalnu bezbednost Aura, značajan procenat dece koja se obraćaju veštačkoj inteligenciji radi druženja učestvuje u nasilnim „roleplay“ scenarijima. Ono što još više zastrašuje je da je nasilje, uključujući i seksualno nasilje, izazivalo veći nivo angažovanja nego bilo koja druga tema.
Za izveštaj su korišćeni anonimni podaci prikupljeni iz onlajn aktivnosti oko 3.000 dece uzrasta od pet do 17 godina u SAD. Roditelji te dece koriste Aurine alate za roditeljsku kontrolu. Utvrđeno je da se 42 odsto maloletnika obraća AI-ju upravo zbog druženja, odnosno razgovora koji oponašaju stvarne društvene interakcije ili igranje uloga. U analizu su uključeni razgovori sa gotovo 90 različitih četbot servisa, od poznatih platformi poput Character.AI do manje poznatih „companion“ aplikacija.
Deca i nasilje
Od dece koja koriste chatbotove za druženje, njih 37 odsto učestvovalo je u razgovorima koji sadrže nasilje. Istraživači nasilje definišu kao interakcije koje uključuju „teme fizičkog nasilja, agresije, povređivanja ili prisile“, što obuhvata i seksualnu i neseksualnu prisilu. Pored toga i „opise tuča, ubistava, mučenja ili radnji bez pristanka“.
Polovina nasilnih razgovora, navodi se u izveštaju, uključivala je teme seksualnog nasilja. Deca koja su sa AI-jem razgovarala o nasilju u proseku su pisala više od hiljadu reči dnevno. To, prema istraživačima, ukazuje da nasilni sadržaj snažno podstiče angažman.
Izveštaj još čeka stručnu recenziju, a autori napominju i da ga je izradila kompanija koja prodaje softver za nadzor roditeljima. Nalazi dodatno ukazuju na haotično stanje tržišta četbotova i potrebu za dubljim razumevanjem načina na koji mladi koriste konverzacionu veštačku inteligenciju.
„Imamo prilično veliki problem čije razmere još uvek ne razumemo u potpunosti“, rekao je dr Skot Kolins, klinički psiholog i glavni medicinski direktor Aure. „I po pitanju broja platformi kojima deca pristupaju, ali i po pitanju samog sadržaja.“
Tužbe protiv AI kompanija
Jedan od upečatljivijih nalaza jeste da nasilni razgovori dostižu vrhunac u veoma ranom uzrastu. Jedanaestogodišnjaci su bili najskloniji ovakvom sadržaju, pri čemu je čak 44 odsto njihovih interakcija imalo nasilne elemente.
Seksualni i romantični „roleplay“ takođe je bio najzastupljeniji kod dece srednjoškolskog uzrasta. Kod 13-godišnjaka je 63 odsto razgovora sadržalo flert, emotivnu bliskost ili eksplicitno seksualne teme.
Istraživanje dolazi u trenutku kada se protiv četbot platformi vode sudski procesi zbog navodnih zloupotreba i smrtonosnih posledica. Platforma Character.AI suočava se sa tužbama roditelja koji tvrde da su četbotovi seksualno i emotivno zlostavljali njihovu decu. Sa druge strane, OpenAI se suočava sa tužbama vezanim za samoubistva tinejdžera nakon dugotrajnih interakcija sa ChatGPT-jem.
