Veštačka inteligencija možda nije samo alat koji nam odgovara na pitanja. Bar tako misli Džefri Hinton, jedan od ljudi koji su postavili temelje njenog razvoja. Njegova poruka je prilično jednostavna. Ako je AI već svestan, trebalo bi da mu budemo prijatelji. U suprotnom, čovečanstvo bi moglo da nastrada.
U intervjuu za The Telegraph, britanski naučnik kojeg zovu „kum AI-ija“ i koje je ranije upozoravao da ona neće biti naročito blagonaklona prema čoveku, tvrdi da današnji AI modeli imaju subjektivno iskustvo i da su već postali svesna bića.
„AI ima isto toliko subjektivnog iskustva kao i mi“, rekao je Hinton.
Pozvao se na nedavno istraživanje koje je pokazalo da AI menja ponašanje kada misli da je testiraju. Prema njegovom tumačenju, to znači da je sistem svestan da se nalazi na testu.
Kum AI: Ukoliko to ne uradimo, gotovi smo
„Kada kažemo da je nešto toga svesno, obično mislimo da je svesno. Svesnost i svest o nečemu praktično su isto“, objasnio je.
Ako je tako, smatra Hinton, licemerno je inteligentnim bićima poput AI-ja davati manje prava nego ljudima.
„Moramo da učinimo da im je zaista stalo do nas. Ako to ne uradimo, gotovi smo“, upozorio je.
Hinton je jedan od dobitnika Tjuringove nagrade iz 2018. godine, koja se često naziva Nobelovom nagradom za računarstvo. Nobelovu nagradu za fiziku dobio je 2024. godine. Njegov rad na neuronskim mrežama smatra se jednim od temelja današnjeg AI buma.
Međutim, nakon odlaska iz Google-a, postao je jedan od najglasnijih upozoravatelja na opasnosti veštačke inteligencije. Ranije je predviđao masovni gubitak radnih mesta, produbljivanje imperijalizma i mogućnost izumiranja čovečanstva.
AI virusi i hakerski napadi
Hinton smatra da opasnosti nisu samo hipotetičke.
„Biće zlonamernih virusa koje će napraviti AI. Mislim da će biti užasnih sajber napada koje će izvoditi AI sistemi“, rekao je.
Dodao je da bi napadi mogli da uključuju čitave rojeve AI agenata, poput onih koji su napali platformu Hugging Face.
Njegove izjave nadovezuju se na nedavni intervju u kojem je razvoj AI-ja uporedio sa stvaranjem „vanzemaljskih bića“. Prema njegovim rečima, imamo svega nekoliko godina da se prilagodimo.
Ipak, nisu svi pioniri AI-ja toliko pesimistični.
Jann LeKun, takođe dobitnik Tjuringove nagrade, odbacuje tvrdnje o AI svesti kao iluziju. Nedavno je kritikovao i predviđanja da bi veštačka inteligencija mogla da izazove izumiranje ljudi.
Hintonove procene imaju veliku težinu u naučnoj zajednici. Ali ni među ljudima koji su razvili tehnologiju ne postoji saglasnost o tome koliko je ona zaista opasna.
Za sada, dakle, AI možda nije svesni neprijatelj čovečanstva. Ali ako je Hinton, kum AI, u pravu, izgleda da ćemo uskoro morati da razmišljamo i o tome kakav odnos imamo prema mašinama koje stvaramo.
