Prema novom izveštaju kompanije za digitalnu bezbednost Aura, značajan procenat dece koja se obraćaju veštačkoj inteligenciji radi druženja učestvuje u nasilnim „roleplay“ scenarijima. Ono što još više zastrašuje je da je nasilje, uključujući i seksualno nasilje, izazivalo veći nivo angažovanja nego bilo koja druga tema.
Na osnovu anonimizovanih podataka prikupljenih iz onlajn aktivnosti oko 3.000 dece uzrasta od pet do 17 godina u SAD, čiji roditelji koriste Aurine alate za roditeljsku kontrolu, kao i dodatnih anketa koje su sproveli Aura i Talker Research, utvrđeno je da se 42 odsto maloletnika obraća AI-ju upravo zbog druženja, odnosno razgovora koji oponašaju stvarne društvene interakcije ili igranje uloga. U analizu su uključeni razgovori sa gotovo 90 različitih četbot servisa, od poznatih platformi poput Character.AI do manje poznatih „companion“ aplikacija.
Deca i nasilje
Od dece koja koriste chatbotove za druženje, njih 37 odsto učestvovalo je u razgovorima koji sadrže nasilje. Istraživači nasilje definišu kao interakcije koje uključuju „teme fizičkog nasilja, agresije, povređivanja ili prisile“, što obuhvata i seksualnu i neseksualnu prisilu, kao i „opise tuča, ubistava, mučenja ili radnji bez pristanka“.
Polovina nasilnih razgovora, navodi se u izveštaju, uključivala je teme seksualnog nasilja. Deca koja su sa AI-jem razgovarala o nasilju u proseku su pisala više od hiljadu reči dnevno, što, prema istraživačima, ukazuje da nasilni sadržaj snažno podstiče angažman.
Izveštaj još čeka stručnu recenziju, a autori napominju i da ga je izradila kompanija koja prodaje softver za nadzor roditeljima, ali nalazi dodatno ukazuju na haotično stanje tržišta četbotova i potrebu za dubljim razumevanjem načina na koji mladi koriste konverzacionu veštačku inteligenciju.
„Imamo prilično veliki problem čije razmere još uvek ne razumemo u potpunosti“, rekao je dr Skot Kolins, klinički psiholog i glavni medicinski direktor Aure. „I po pitanju broja platformi kojima deca pristupaju, ali i po pitanju samog sadržaja.“
Tužbe protiv AI kompanija
Jedan od upečatljivijih nalaza jeste da nasilni razgovori dostižu vrhunac u veoma ranom uzrastu: jedanaestogodišnjaci su bili najskloniji ovakvom sadržaju, pri čemu je čak 44 odsto njihovih interakcija imalo nasilne elemente.
Seksualni i romantični „roleplay“ takođe je bio najzastupljeniji kod dece srednjoškolskog uzrasta. Kod 13-godišnjaka je 63 odsto razgovora sadržalo flert, emotivnu bliskost ili eksplicitno seksualne teme.
Istraživanje dolazi u trenutku kada se protiv četbot platformi vode sudski procesi zbog navodnih zloupotreba i smrtonosnih posledica. Platforma Character.AI suočava se sa tužbama roditelja koji tvrde da su četbotovi seksualno i emotivno zlostavljali njihovu decu, dok se OpenAI suočava sa tužbama vezanim za samoubistva tinejdžera nakon dugotrajnih interakcija sa ChatGPT-jem.
