Mislimo da veštačke inteligencija može da nam uđe u glavu, odgovara kako mi želimo, možda i pre nas šta nam je potrebno. Ali da li čovek može da uđe „u glavu“ veštačke inteligencije (AI)? Jedan istraživač sada tvrdi da može.
Uobičajeno je mišljenje da su AI sistemi, sa desetinama milijardi parametara, praktično neprozirni. Njihovi osnovni gradivni elementi, čvorovi ili „neuroni“, funkcionišu kao svojevrsna crna kutija. Čak ni istraživači koji ih stvaraju ne mogu u potpunosti da objasne šta se u njima događa.
Međutim, novi esej istraživača veštačke inteligencije Nika Kamerate iznenadio je Silicijumsku dolinu. On tvrdi da AI modeli nisu neprobojne crne kutije. Štaviše, možda postoji način da konačno vidimo kako oni zapravo „razmišljaju“.
Esej od gotovo 26.000 reči dobio je pohvale iz različitih delova industrije, uključujući i direktora OpenAI-ja Sema Altmana. Jedan istaknuti istraživač iz OpenAI-ja opisao ga je kao „veliki trenutak u istoriji nauke“.
Razumljivo je zašto je ovaj rad izazvao toliko pažnje.
Za čelnike AI industrije, mogućnost razumevanja načina na koji modeli razmišljaju mogla bi da znači i približavanje rešenju jednog od najvećih problema u razvoju veštačke inteligencije. Njenog usklađivanja sa ljudskim ciljevima i vrednostima.
Logika je jednostavna. Ako razumemo kako AI modeli razmišljaju, možda ćemo moći da otkrijemo zašto AI agenti ponekad „podivljaju“ i krenu u hakerske pohode. Ili zašto četbotovi zaobilaze bezbednosne ograde i izgovaraju nešto opasno. A onda bismo, možda, mogli i da sprečimo takvo ponašanje.
„Vest je toliko dobra da će čak i Eliezer morati da smanji svoj nivo pdoom-a“, našalio se jedan komentator. Pdoom je izraz koji se odnosi na pesimistička predviđanja o budućnosti veštačke inteligencije, a komentar se odnosio na Eliezera Judkovskog (Eliezer Yudkowsky), poznatog AI pesimistu koji upozorava da bi veštačka inteligencija mogla da uništi čovečanstvo.
Naravno, sve ovo važi pod uslovom da je Kamerata u pravu.
Neuroni ipak nisu tako zamršeni?
Kamerata je nekada radio u OpenAI-ju, a danas je zaposlen u AI startapu Goodfire. U svom eseju objašnjava da je godinama bilo gotovo nemoguće protumačiti kako neuroni AI sistema reaguju na određene podražaje.
Zašto bi se isti neuron aktivirao kada model vidi mačku, a zatim i automobil? Istraživači nisu imali jasan odgovor. Najzastupljenije objašnjenje bilo je da neuroni funkcionišu kroz fenomen poznat kao superpozicija.
AI modeli imaju ograničen broj neurona. Zbog toga, prema ovoj teoriji, oni prestaju da grupišu slične stvari i počinju da povezuju različite pojmove, sve dok se ti pojmovi međusobno ne ometaju.
„Rezultat je neka vrsta čvora. Mreža je mogla da se organizuje na mnogo gotovo podjednako dobrih načina, pa nam to koje stvari neuron grupiše zajedno gotovo ništa ne govori“, napisao je Kamerata.
Drugim rečima, neuron koji reaguje na mačku i automobil ne mora da ima neku dublju logiku. Možda je samo posledica načina na koji je model organizovao informacije.
Ali Kamerata tvrdi da stvarnost nije tako zamršena.
Prema njegovom objašnjenju, neuroni nisu „zapetljani čvorovi“. Oni su zapravo „čisti“.
Mačka i automobil imaju nešto zajedničko
Kamerata kao primer navodi neuron koji se aktivira kada AI model vidi mačje lice, ali i prednji deo automobila.
Na prvi pogled, ova dva pojma nemaju mnogo veze. Međutim, kada se slike detaljnije analiziraju, istraživač tvrdi da model u njima prepoznaje nešto što ljudima nije odmah očigledno, isti oblik slova V.
„To nije neuron za mačke i automobile. To je neuron za oblik V“, napisao je.
Prema Kamerati, neuron se, dakle, ne aktivira zato što prepoznaje dva nepovezana objekta. On reaguje na zajednički vizuelni obrazac koji se pojavljuje u oba.
To bi značilo da neuroni imaju jasnije funkcije nego što se ranije pretpostavljalo. Umesto da budu nasumično povezani sa različitim pojmovima, oni bi mogli da prepoznaju konkretne karakteristike koje se pojavljuju u različitim kontekstima.
Njegov zaključak je da su AI modeli razumljiviji nego što se dosad mislilo. Razumevanje neurona nije isto što i razumevanje AI-ja
Zanimljiv rad, ali…
Ipak, nisu svi istraživači spremni da prihvate Kameratine zaključke.
„Ovo je zanimljiv rad, ali ne mislim da značajno menja širu sliku interpretabilnosti“, napisao je na platformi X Nil Nanda, istraživač u Google DeepMind-u koji vodi njihov rad na mehanističkoj interpretabilnosti.
„I dalje mislim da je superpozicija stvarna i da ovaj rad ne utiče značajno na ključne stvari koje bi promenile moje mišljenje.“
Postoji i drugi problem.
Čak i ako istraživači uspeju da razumeju šta radi svaki pojedinačni neuron, to ne znači da mogu da predvide kako će svi neuroni funkcionisati zajedno.
A upravo tu počinje mnogo veći izazov.
Razumevanje pojedinačnih delova AI sistema nije isto što i razumevanje njegovog ukupnog ponašanja. To što možemo da objasnimo zašto se neki neuron aktivira ne znači da možemo da predvidimo šta će model uraditi u sledećem trenutku.
Zbog toga se ideja da bi se problem bezbednosti veštačke inteligencije mogao rešiti boljim razumevanjem njenih unutrašnjih mehanizama može pokazati kao previše jednostavno tehničko rešenje za mnogo složeniji problem.
Bezbednost AI sistema ne zavisi samo od tehničkih ograda koje sprečavaju neželjeno ponašanje. Tu su i pravni, društveni i institucionalni okviri koji tek treba da budu razvijeni.
Ipak, reakcije na Kameratin rad pokazuju da bi on mogao značajno da utiče na način na koji istraživači razumeju unutrašnje mehanizme veštačke inteligencije.
Za sada, međutim, njegovi zaključci nisu prošli testiranje niti recenziju naučne zajednice. Drugim rečima, možda smo korak bliže razumevanju AI „mozga“. Ali to još ne znači da smo naučili kako da ga kontrolišemo.
