Kada je Džefri Hinton, Nobelovac i „kum veštačke inteligencije“ kako ga zovu, 2023. godine napustio Google i izjavio da žali zbog dela svog životnog rada, njegova zabrinutost bila je uglavnom usmerena na mogućnost zloupotrebe veštačke inteligencije i gubitak ljudske kontrole nad njom. Do 2025. godine njegov stav se razvio u mnogo širu kritiku. AI će, tvrdio je, izazvati masovnu nezaposlenost dok će profiti nastaviti da rastu, ne zbog same tehnologije, već zbog ekonomskog sistema koji je koristi.
„Ono što će se zapravo dogoditi jeste da će bogati ljudi koristiti AI da zamene radnike“, rekao je prošlog septembra. „To nije krivica AI-ja. To je kapitalistički sistem.“
Prošlog leta Hinton je predložio da tehnološke kompanije veštačkoj inteligenciji usade svojevrsne „majčinske instinkte“. To znači da modeli budu dizajnirani tako da žele da štite i brinu o ljudima, umesto da stiču moć nad njima. Još u martu upozoravao je da velike tehnološke kompanije profit stavljaju ispred bezbednosti, bez ozbiljnog plana za svet nakon pojave superinteligencije.
Na konferenciji Sana Summit sve te ideje spojio je u jednu celovitu filozofsku argumentaciju. Problem, smatra Hinton, nije samo u tome šta će AI raditi, već kakva bića stvaramo i ko ih stvara.
Evolucija u AI laboratoriji
Da bi objasnio svoju zabrinutost, Hinton se oslonio na evolucionu biologiju. Ljudska priroda, uključujući plemensku pripadnost, lojalnost snažnim vođama i sklonost sukobima sa „drugima“, nije nastala planski. Razvila se tokom miliona godina evolucije i borbe za opstanak.
Prirodna selekcija nije nagrađivala dobrotu, već preživljavanje. A preživljavanje je često značilo lojalnost sopstvenoj grupi i ravnodušnost prema svima ostalima.
Po Hintonu, današnji kapitalizam funkcioniše po sličnom principu.
„Sada imamo takmičenje između kompanija koje žele da naprave najpametniji mogući AI, sposoban da radi što više stvari“, rekao je. „Mislim da će to dovesti do stvaranja bića koja prema nama neće biti naročito blagonaklona.“
Problem je, smatra on, u podsticajima. Kompanije koje jure tržišnu vrednost od bilion dolara imaju razlog da ulažu sve više novca u veće modele i moćnije računare, dok se mnogo manje pažnje posvećuje pitanju kakve osobine ti sistemi razvijaju.
„Svi jure za većom inteligencijom“, rekao je Hinton. „Ali biće je mnogo više od same inteligencije. Trebalo bi ozbiljno da brinemo o tome da stvaramo bića kojima je stalo do nas. Još uvek možemo da uradimo nešto po tom pitanju, ali gotovo niko ne ulaže ozbiljan trud.“
Treća velika ljudska poniznost
Hinton veruje da bi stvaranje inteligentnijih veštačkih bića moglo predstavljati treću veliku intelektualnu revoluciju u istoriji čovečanstva.
Prva je bila kada je Nikola Kopernik pokazao da Zemlja nije centar univerzuma. Druga je nastupila kada je Čarls Darvin dokazao da su ljudi deo životinjskog sveta. Treća bi mogla biti spoznaja da ljudi više nisu jedina inteligentna bića na planeti.
„Mislim da nam dolazi nova revolucija, u kojoj više nećemo biti jedina bića oko sebe“, rekao je. „Ljudi danas reaguju isto kao u vreme Kopernika i Darvina: ‘Ne, ne, postoji nešto posebno u ljudima.’“
Ipak, Hinton smatra da ono što ljude čini posebnim možda neće zauvek ostati jedinstveno.
„Mislim da su ljudi svakako posebni, drugim ljudima. Ali ne verujem da postoji nešto što AI na kraju neće moći da dostigne.“
