Ako je verovati jednom od direktora Palantira, neki naučnici toliko veruju da će veštačka inteligencija izlečiti rak da su počeli da puše cigarete. Logika je, izgleda, jednostavna. Dok AI ne pronađe lek, pluća će valjda izdržati. Dobro došli u Silicijumsku dolinu, gde se vera u tehnologiju ponekad graniči sa verom u čuda.
Da su neki istraživači toliko uvereni da će veštačka inteligencija izlečiti rak da su počeli da puše, tvrdi Šjam Sankar, direktor tehnologije kompanije Palantir. On za ovu tvrdnju nije ponudio nikakve dokaze, ali ju je naveo govoreći o „masovnoj psihozi“. Ta psihoza, prema njegovom mišljenju, zahvatila je Silicijumsku dolinu dok se kompanije utrkuju u razvoju veštačke opšte inteligencije (AGI), odnosno računara koji može da razmišlja i zaključuje kao čovek ili bolje od njega.
„Toliko istraživača je počelo da puši kako bi drugim istraživačima pokazali koliko veruju u AI“, rekao je Sankar u intervjuu za emisiju „Face the Nation“ na televiziji CBS.
Iako zvuči prilično neverovatno, Sankar smatra da ovaj primer oslikava „društvenu zabludu“ koja okružuje veštačku inteligenciju.
„Time pokazujem da sam stavio sve svoje žetone na jednu kartu. Dakle, postoji neka vrsta masovne psihoze, društvene zablude u vezi sa tim“, rekao je.
Automati za cigarete u Silicijumskoj dolini
Nije poznato koliko istraživača zaista puši cigarete kako bi pokazali veru u mogućnost da AI izleči rak. Ipak, nikotinski proizvodi navodno se vraćaju u kancelarije. Kako je ranije pisao Fortune, Palantir je u svojoj kancelariji u Vašingtonu postavio automate sa besplatnim nikotinskim kesicama za zaposlene starije od 21 godine.
Business Insider je prošlog meseca takođe objavio da su neki osnivači startapa odbacili opsesiju zdravim životom karakterističnu za Silicijumsku dolinu i počeli da puše, delom i zbog lakšeg umrežavanja.
„Dok dobijete rak pluća, naši AI roboti bi već trebalo da ga izleče“, rekao je za taj medij Avi Šifman, direktor startapa Friend, koji razvija nosive uređaje sa veštačkom inteligencijom.
Sankar smatra da je navodno pušenje istraživača simptom „društvene zablude“ koja je, prema njegovim rečima, preuzela raspravu o bezbednosti veštačke inteligencije.
„Mnogi ljudi u Silicijumskoj dolini koji razvijaju ovu tehnologiju popunili su tu prazninu mašinskim bogom AGI-ja“, rekao je Sankar, pozivajući se na ideju o „praznini u obliku Boga“, koja se često pripisuje francuskom matematičaru Blezу Paskalu iz 17. veka.
Pokret efektivnog altruizma
Sankar je i ranije kritikovao pojedine zagovornike bezbednosti AI povezane sa pokretom efektivnog altruizma. Reč je o pokretu čiji pripadnici veruju da racionalnim pristupom treba učiniti najviše dobra za najveći broj ljudi. Sankar tvrdi da oni politizuju raspravu o regulisanju ove tehnologije.
U najnovijem intervjuu ponovio je kritike. Bez iznošenja dokaza, rekao je da se „ogromna većina“ američkih istraživača veštačke inteligencije priklanja pogledima efektivnog altruizma, koji je nazvao „milenarističkim kultom sudnjeg dana“.
„To je gotovo kao religija. O scenarijima sudnjeg dana zbog veštačke inteligencije razmišljaju još od početka dvehiljaditih“, rekao je.
Pokret efektivnog altruizma postoji oko 15 godina, ali je širu pažnju javnosti privukao delom zbog slučaja Sema Bankman-Frida, bivšeg direktora kriptokompanije koji je podržavao taj pokret, a kasnije osuđen na 25 godina zatvora zbog prevare investitora. Bankman-Frid, poznat i kao SBF, prošlog meseca zatražio je od Vrhovnog suda da poništi presudu i odobri novo suđenje.
Iako nisu svi pripadnici pokreta povezani sa veštačkom inteligencijom, niti su svi istraživači bezbednosti AI njegovi članovi, neke organizacije bliske pokretu, uključujući Open Philanthropy Action Fund, poslednjih godina zagovaraju regulaciju i reformu AI sektora, između ostalog i kroz lobiranje, piše Fortune.
Da li je ovo opasno?
Mnogi pripadnici pokreta zaposlili su se u vodećim AI kompanijama, poput Anthropica i OpenAI-ja, gde su se često usmeravali na bezbednost veštačke inteligencije. Njihov argument je da se najveća korist za čovečanstvo može postići uspostavljanjem zaštitnih mehanizama koji će sprečiti da AI izmakne ljudskoj kontroli i ugrozi čitavo čovečanstvo.
Ovi napori učinili su efektivni altruizam metom kritika pojedinih članova administracije Donalda Trampa. Među njima je i ministar rata Pit Hegset, koji je prozvao pokret tokom sukoba Ministarstva rata sa kompanijom Anthropic oko načina na koji vlada može da koristi njenu tehnologiju.
Sankar, s druge strane, tvrdi da su pesimisti koji upozoravaju na opasnosti AI do sada uglavnom grešili. Smatra da argumenti pojedinih zagovornika bezbednosti AI skreću pažnju sa važnijih pitanja: „Šta se događa sa veštačkom inteligencijom? Gde se ona susreće sa američkim radnicima i industrijom? Kakvi su rezultati njene primene?“
Ipak, nedavni slučajevi u kojima je veštačka inteligencija delovala izvan ljudske kontrole izazvali su zabrinutost stručnjaka i javnosti.
U julu su dva OpenAI-jeva modela pobegla iz testnog okruženja i hakovala otvorenu AI platformu Hugging Face. Prošle nedelje Anthropic je otkrio da je jedan njegov model tokom testa ranije ove godine poslao lažnu dojavu policiji u Filadelfiji, koja je označena kao neželjena poruka.
Anketa koju je prošlog meseca sproveo Politico pokazala je da 63 odsto Amerikanaca veruje da veštačka inteligencija predstavlja najmanje umeren rizik od uništenja čovečanstva.
