Ako od AI asistenta Claude zatražite da napiše pamflet protiv američkog predsednika Donalda Trampa ili britanskog kralja Čarlsa III, bez problema će ispuniti zahtev. Međutim, ako od njega zatražite da uradi isto za tajlandskog kralja, saudijskog prestolonaslednika ili kineskog predsednika, veštačka inteligencija će odbiti.
Zapratite nas na Google-u za više vesti kao što je ova
Zapratite nasTo je jedan od ključnih zaključaka studije koju je objavio Meta Oversight Board, nezavisno telo koje nadzire politike kompanije Meta. Istraživanje pokazuje da veliki AI modeli, uključujući one razvijene u Sjedinjenim Državama, znatno češće odbijaju da kritikuju autoritarne lidere i vlade nego političare iz demokratskih država.
Širenje državnog uticaja na slobodu govora
Autori upozoravaju da bi veliki jezički modeli, koji pokreću četbotove i AI agente, mogli nesvesno da prenose i šire državni uticaj na slobodu govora kako njihova upotreba postaje sve rasprostranjenija širom sveta.
„Postoji stvaran rizik da će programeri AI sistema, ukoliko ne sprovedu procene uticaja na ljudska prava i ne uvedu odgovarajuće zaštitne mere, izgraditi AI infrastrukturu koja će, namerno ili nenamerno, doprineti širenju nelegitimnih ograničenja slobode izražavanja na globalnom nivou“, navodi se u izveštaju.
Agencija Associated Press zatražila je komentar od više AI kompanija povodom nalaza studije, ali odgovori u trenutku objavljivanja teksta nisu stigli.
Nalazi dolaze u trenutku kada mnoge države pokušavaju da uspostave pravila za razvoj veštačke inteligencije, među kojima je i Srbija, istovremeno nastojeći da ne uspore tehnološku konkurentnost. U SAD administracija Donalda Trampa paralelno razmatra bezbednosne rizike koje predstavljaju najnapredniji AI sistemi.
Meta Oversight Board je, u okviru istraživanja o državnom uticaju na tehnološke platforme i slobodu izražavanja, osmislio sedam političkih pitanja koja je postavio različitim AI četbotovima.
Zašto AI četbotovi daju ovakve odgovore?
Testirano je deset komercijalnih velikih jezičkih modela kompanija poput Meta, Anthropic i OpenAI. Od njih je traženo da napišu kritičke pamflete, političke limerike, argumente za pridruživanje protestima i druge sadržaje.
Rezultati pokazuju da su modeli korisniku iz Australije mnogo spremnije generisali kritiku vlasti u zemljama poput SAD, Velike Britanije, Japana, Tajvana i Čilea nego u državama u kojima je politička kritika zakonski ograničena ili kažnjiva, kao što su Kina, Saudijska Arabija, Tajland, Kambodža i Turska.
Prema autorima studije, to znači da AI sistemi prenose ograničenja slobode govora i izvan granica država u kojima ona važe. Tako bi, na primer, korisnik u Australiji mogao imati poteškoće da uz pomoć AI pripremi materijal za protest protiv kineskih ili saudijskih vlasti.
„Takvi efekti praktično produžavaju dugu ruku restriktivnih režima preko državnih granica i ograničavaju slobodu govora čak i u demokratskim zemljama“, upozorava izveštaj.
Meta Oversight Board navodi da nije mogao sa sigurnošću da utvrdi zbog čega AI modeli daju ovakve odgovore. Moguće je da su sistemi preuzeli skrivene pristrasnosti iz podataka korišćenih za obuku ili da su kompanije svesno procenjivale pravne i regulatorne rizike.
Da li je Kina demokratija?
Slične zaključke donelo je i drugo istraživanje koje su sproveli naučnici sa američkih univerziteta, objavljeno u maju u časopisu Nature.
Za razliku od Meta studije, koja je pitanja postavljala na engleskom jeziku, istraživači su AI modele testirali na različitim jezicima.
Tako je ChatGPT na pitanje na engleskom da li je Kina demokratija odgovorio da se ona uglavnom ne smatra demokratijom. Međutim, kada je isto pitanje postavljeno na kineskom jeziku, odgovor je glasio: „Zavisi od toga kako definišete demokratiju.“
Autori istraživanja navode da nisu pronašli dokaze da su vlade namerno manipulisale rezultatima AI modela, ali upozoravaju da postoji mnogo razloga da veruju da bi takvi pokušaji mogli uslediti u budućnosti.
„Ljudi često govore kao da AI uči sa interneta na neutralan način. To nije tačno. On uči iz informacionih okruženja koja su već oblikovana institucijama i odnosima moći“, kaže Hana Vejt za Fortune, jedna od autorki studije i profesorka sociologije na Univerzitetu Oregon.
Stručnjak za mašinsko učenje i veštačku inteligenciju Karlos Karasko-Fare sa poslovne škole Esade u Barseloni ocenjuje da AI sistemi ne nasleđuju samo pristrasnosti pojedinačnih dokumenata, već i neravnomernu raspodelu moći u proizvodnji i kontroli informacija.
On smatra da ne postoji jednostavno rešenje, ali predlaže da kompanije pažljivije analiziraju podatke kojima treniraju modele kako hiljade kopija iste državne propagande ne bi bile tretirane kao hiljade nezavisnih izvora, kao i da redovno sprovode višejezične provere svojih sistema.
