Studija koja plaši: Razgovor sa četbotovima stvara rizik da izgubimo sposobnost razmišljanja

Za svega nekoliko godina, AI četbotovi postali su uobičajen deo svakodnevice, uprkos tome što i dalje predstavljaju duboko nesavršene sisteme.

U praksi, alati poput ChatGPT, Gemini i Claude i dalje često greše. Prema istraživanju BBC-ja iz oktobra, čak i najnapredniji modeli davali su netačne odgovore u 45 odsto slučajeva.

Ipak, mnogi korisnici toga nisu svesni. Novo istraživanje Univerziteta u Pensilvaniji pokazuje da ljudi imaju tendenciju da odgovore koje dobiju od AI-a prihvate zdravo za gotovo. Čak i kada su pogrešni. Studiju su sproveli istraživač Stiven Šo i profesor marketinga Gideon Nejv, prenosi Futurism.

U nizu eksperimenata, učesnicima su postavljana pitanja iz oblasti logike i opšteg znanja, uz mogućnost da koriste AI. Više od polovine ispitanika odlučilo je da se osloni na četbot.

Cilj istraživanja bio je da se ispita da li će korisnici verovati AI-u bez obzira na tačnost odgovora. To je fenomen koji su autori nazvali „kognitivna predaja“, odnosno odricanje od sopstvenog rasuđivanja. Kao što smo već pisali, oni mogu da vam promene i političko mišljenje, zašto ne bi to radili i oko svega ostalog.

Ljudi slede AI u 4 od 5 situacija

Rezultati su bili upečatljivi. U eksperimentu sa 359 učesnika, ispitanici su sledili tačne savete AI-a u 92,7 odsto slučajeva, ali su i pogrešne preporuke prihvatali u čak 79,8 odsto slučajeva. Drugim rečima, i kada AI greši, korisnici ga slede u četiri od pet situacija.

Istraživanje ukazuje na širu promenu u načinu na koji ljudi donose odluke i percipiraju informacije. „Mogućnost da ‘prepustimo razmišljanje’ tehnologiji do sada nije bila dovoljno istražena, a reč je o veoma značajnoj promeni“, rekao je Šo.

Autori upozoravaju da su korisnici spremni da se odreknu sopstvene procene kada AI ponudi odgovor koji deluje uverljivo, čak i ako nije tačan. Štaviše, u takvim situacijama često imaju i veće poverenje u pogrešne odgovore.

Gubitak kritičkog mišljenja

Rezultati takođe ukazuju na potencijalni gubitak sposobnosti kritičkog mišljenja. „Sposobnost da proverimo informacije koje dobijamo od AI-a postaje sve važnija“, ističe Nejv, dodajući da je reč o veštini koju ljudi moraju aktivno da održavaju.

Kako se tehnologija dalje razvija i integriše u svakodnevni život, ova zavisnost bi mogla dodatno da raste. Komunikacija sa AI-jem, koja je trenutno ograničena na telefone i računare, vremenom će postajati sve prirodnija i prisutnija.

Dugoročno, istraživači upozoravaju na dublji problem: ne mora nužno AI postati savršen da bi ljudi počeli da mu sve više veruju. Biće dovoljno da se sami naviknu da mu prepuštaju donošenje odluka.

„Postoji scenario u kojem ljudi postaju sve zavisniji od AI-a, slično kao što smo se navikli na tehnologije koje nam olakšavaju svakodnevicu“, kaže Nejv. „Ali kao što smo zbog toga izgubili neke sposobnosti, postoji rizik da izgubimo nešto ključno, sposobnost razmišljanja.“