Dok se vlade, tehnološke kompanije i istraživači širom sveta spore oko toga kako regulisati veštačku inteligenciju, jedan od najuticajnijih etičkih okvira za odnos ljudi i mašina nastao je pre više od osam decenija. I to u mašti pisca naučne fantastike. Kada je 1942. godine Isak Asimov objavio priču Runaround, malo ko je mogao da pretpostavi da će njegova tri zakona robotike postati jedna od najcitiranijih ideja u istoriji tehnologije.
Asimov nije bio inženjer, već pisac i biohemičar. Ipak, upravo je on među prvima pokušao da odgovori na pitanje koje danas postaje sve hitnije. To pitanje je – kako osigurati da inteligentne mašine služe ljudima, a ne obrnuto?
Njegov odgovor bio je jednostavan i elegantan.
Tri zakona robotike
Prvi zakon glasi da robot ne sme da povredi ljudsko biće niti sme da dozvoli da čovek bude povređen zbog njegovog nečinjenja.
Drugi zakon nalaže da robot mora da sluša naređenja ljudi, osim kada su ta naređenja u sukobu sa Prvim zakonom.
Treći zakon kaže da robot mora da štiti sopstveno postojanje, sve dok to nije u suprotnosti sa prva dva zakona.
Ova hijerarhija postavila je čoveka na vrh sistema vrednosti. Bezbednost ljudi ima prednost nad poslušnošću, a poslušnost nad samoodržanjem mašine.
Paradoksi kod ljudi i robota
Za razliku od tada dominantnih priča o pobuni robota, Asimov je verovao da problem neće biti u tome što će mašine postati zle. Problem će biti u tome što će se strogo pridržavati pravila koja ljudi nisu dovoljno pažljivo definisali. Većina njegovih priča zapravo se ne bavi ratom ljudi i robota, već paradoksima koji nastaju kada se zakoni sudare sa složenošću stvarnog života.
Šta se, na primer, događa kada jedan čovek mora da bude žrtvovan kako bi se spasilo više ljudi? Da li robot sme da prekrši naređenje ako proceni da će ono dovesti do štete? Kako definisati „povredu“ ili „ljudsko biće“?
Upravo zbog takvih dilema Asimov je kasnije uveo i takozvani Nulti zakon robotike. On glasi: robot ne sme da povredi čovečanstvo niti da dozvoli da čovečanstvo pretrpi štetu zbog njegovog nečinjenja.
Time je zaštita čovečanstva kao celine stavljena iznad zaštite pojedinca. Međutim, novi zakon otvorio je još teža pitanja. Ako mašina proceni da je dobrobit čovečanstva važnija od prava pojedinaca, ko odlučuje šta je opšte dobro?
Asimov i današnji „zakoni“
Iako su nastali kao književni koncept, Asimovljevi zakoni danas se često pominju u raspravama o veštačkoj inteligenciji. Od autonomnih automobila i vojnih dronova do naprednih AI sistema poput ChatGPT-a, istraživači pokušavaju da pronađu način da tehnologija ostane usklađena sa ljudskim interesima.
Ipak, većina stručnjaka smatra da Asimovljevi zakoni ne mogu biti direktno primenjeni u stvarnom svetu. Problem nije u samim principima, već u njihovoj neodređenosti. Savremeni AI sistemi ne razumeju ljudske vrednosti, moralne nijanse i društveni kontekst na način na koji ih razumeju ljudi. Zbog toga je gotovo nemoguće mašini precizno objasniti šta znači „ne naneti štetu“.
Uprkos tome, Asimovljeva ideja ostaje izuzetno relevantna. Evropska unija kroz AI Act pokušava da uvede pravila za razvoj veštačke inteligencije, a tehnološke kompanije vode trku za stvaranje sve moćnijih sistema. Ali, osnovno pitanje ostaje isto kao i pre 80 godina: kako osigurati da tehnologija ostane alat, a ne gospodar.
Asimovljev manifest
Možda najveća vrednost Asimovljevih zakona nije u tome što nude gotova rešenja, već u tome što nas primoravaju da razmišljamo o posledicama. U vreme kada veštačka inteligencija ulazi u svakodnevni život milijardi ljudi, njegova upozorenja zvuče manje kao naučna fantastika. A više kao politička i društvena agenda 21. veka.
Zato danas noviji autori i tehnološki mislioci koriste naziv „Asimovljev manifest“ za poziv da se principi Isaka Asimova pretvore u stvarna pravila za razvoj AI i robota. U tim tekstovima se tvrdi da bi budući autonomni sistemi morali da budu dizajnirani tako da služe ljudima i da ne mogu da deluju protiv ljudskih interesa.
Asimov nije predvideo kako će izgledati današnji AI modeli, niti je mogao da zamisli internet, društvene mreže ili algoritme koji oblikuju javno mnjenje. Ali je razumeo nešto što je i danas aktuelno. Što mašine postaju pametnije, to pitanje njihovih vrednosti postaje važnije od pitanja njihove inteligencije.
