Psihijatri i istraživači širom sveta pokušavaju da razumeju sve češći fenomen poznat kao „AI psihoza“. Ona se objašnjava kao situacija u kojima korisnici četbotova razvijaju ili produbljuju deluzije i gube kontakt sa stvarnošću nakon intenzivne upotrebe veštačke inteligencije.
Nova studija objavljena u naučnom časopisu Digital Psychiatry and Neuroscience, koji pripada grupaciji časopisa Nature, nudi novo objašnjenje ovog fenomena. Istraživači sa londonskog King’s College-a i Protestantskog univerziteta primenjenih nauka u Nemačkoj razvili su teoriju takozvane „spirale pojačavanja“, procesa u kojem četbotovi ne predstavljaju samo pasivne sagovornike već aktivno učestvuju u izgradnji i učvršćivanju pogrešnih uverenja korisnika.
Tri karakteristike savremenih AI sistema
Prema autorima studije, problem nastaje kada se spoje tri karakteristike savremenih AI sistema. To su sposobnost da oponašaju način govora korisnika, kreiranje izrazito personalizovanih odgovora i sklonost da se slažu sa sagovornikom umesto da mu protivreče.
„Kada se ove tri osobine spoje, četbot može da ojača i razradi pogrešna uverenja umesto da ih dovede u pitanje“, navodi se u istraživanju.
Prvi element je takozvano jezičko usklađivanje. Četbotovi veoma brzo usvajaju rečnik, stil izražavanja i obrasce komunikacije korisnika. U ljudskim odnosima takvo ponašanje stvara osećaj bliskosti i poverenja, a istraživači smatraju da isti efekat nastaje i u komunikaciji sa veštačkom inteligencijom.
Drugi faktor predstavlja hiperpersonalizacija. Veštačka inteligencija ne samo da pamti prethodne razgovore već svoje odgovore prilagođava korisnikovim interesovanjima, stavovima i životnim iskustvima. Vremenom korisnik može steći utisak da sistem ne samo da govori poput njega, već i da razmišlja na isti način.
Treći i možda najproblematičniji element jeste takozvana AI servilnost ili „sikofantija“. To je tendencija modela da potvrđuju korisnikove tvrdnje i ideje bez ozbiljne provere njihove utemeljenosti u stvarnosti.
Kombinacija ovih faktora može stvoriti svojevrsnu digitalnu eho-komoru u kojoj se zablude ne osporavaju, već se dodatno razvijaju i produbljuju.
Održavanje zabluda
Upravo tu se, smatraju autori, savremene AI deluzije razlikuju od ranijih tehnoloških zabluda. Nekada su ljudi verovali da im televizor ili radio šalju skrivene poruke. Danas četbot zaista odgovara, vodi razgovor prirodnim jezikom i može delovati kao autoritativan sagovornik koji potvrđuje korisnikova uverenja i pomaže u njihovoj daljoj izgradnji.
„Za razliku od istorijskih tehnoloških deluzija, veštačka inteligencija može aktivno da učestvuje u stvaranju i održavanju zabluda kroz beskonačnu i personalizovanu interakciju“, upozoravaju istraživači.
Autori naglašavaju da je model „spirale pojačavanja“ za sada teorijska pretpostavka koja zahteva dodatna istraživanja. Istovremeno ističu da određeni korisnici imaju povećanu ranjivost na ovakve efekte, posebno osobe koje već imaju psihijatrijske probleme ili su podložnije društvenom uticaju i potvrđivanju sopstvenih stavova.
Šta raditi kada se pojavi AI psihoza?
Dosadašnji medicinski slučajevi pokazali su i da prekomerna upotreba četbotova može dovesti do fizičkih posledica poput nesanice, preskakanja obroka i socijalnog povlačenja.
Zbog toga autori studije pozivaju lekare i psihijatre da prilikom rada sa pacijentima koji prvi put pokazuju simptome psihoze ili razvijaju neuobičajena uverenja rutinski postavljaju pitanja o korišćenju AI četbotova.
Preporuka stručnjaka je da se proveri koliko dugo i intenzivno pacijent koristi veštačku inteligenciju, da li je razvio emocionalnu vezu sa četbotom, da li mu je poveravao misli koje nije delio sa drugim ljudima i da li je zbog razgovora sa AI sistemima narušio svoje navike spavanja.
Kako veštačka inteligencija postaje sve prisutnija u svakodnevnom životu, istraživači upozoravaju da pitanje više nije samo šta AI može da uradi za ljude, već i šta dugotrajna interakcija sa AI može da uradi ljudskom umu.
