Da, postaje sve strašnije. Početkom meseca objavili smo vest da je veštačka inteligencija posle sedam decenija položila Tjuringov test. Time su „mašine“ postale praktično nerazlučive od ljudi. Prošle nedelje najvažnija priča bila je da Anthropic, jedna od vodećih svetskih AI laboratorija, upozorava da bi veštačka inteligencija uskoro mogla da dostigne tačku nakon koje će njeno napredovanje biti teško kontrolisati i poziva na globalnu pauzu u razvoju najmoćnijih modela.
Ovih dana, dok se enormne količine novca daju na AI kompanije, a u isto vreme strahuje o AI balonu, još jedna priča zauzela je naslovnu stranu velikog svetskog medija.
„Ne verujem sopstvenim očima“
Hani Farid već dve decenije važi za jednog od vodećih svetskih stručnjaka za digitalnu forenziku. Napravio je karijeru razlikujući stvarno od deepfake-a za različite vlade, medijske kuće, organe bezbednosti.
Međutim, u poslednjih šest meseci prestao je da veruje sopstvenim očima.
„Ne verujem ničemu“, rekao je Farid za New York Times. „Svaku fotografiju koju vidim analiziram tražeći senke i geometrijske odnose, pokušavajući da shvatim šta zapravo gledam. Gotovo je. Za godinu ili dve naš vizuelni sistem biće potpuno beskoristan.“
Upravo su Faridova istraživanja pokazala da većina ljudi više ne može pouzdano da razlikuje stvarnu fotografiju od digitalno generisane slike, pravi glas od AI klona ili autentičan video-snimak od potpuno izmišljene kreacije. U poslednje vreme, priznaje, ni sam više ne prolazi sopstvene testove.
Sve strašnije
Poslednjih godina Farid je izgradio reputaciju čoveka koji može da razlikuje stvarnost od digitalne prevare. Njegovi alati otkrivali su manipulisane fotografije, lažne video-snimke i AI-generisane glasove. Međutim, razvoj veštačke inteligencije toliko je ubrzao da danas priznaje kako više ne veruje ni sopstvenim očima.
Njegova procena nije zasnovana na teoriji, već na svakodnevnom iskustvu. Svakog dana dobija desetine zahteva da proveri autentičnost fotografija i snimaka koji kruže internetom. Nekada je njegov posao bio da pronađe retke falsifikate u svetu u kojem se uglavnom verovalo onome što se vidi. Danas je situacija obrnuta: lažni sadržaji postaju pravilo, a istina izuzetak.
Poseban problem predstavlja činjenica da su deepfake alati postali dostupni praktično svakome. Za kreiranje uverljivog lažnog videa više nisu potrebni skupi programi ni tehničko znanje. Dovoljni su fotografija i nekoliko sekundi nečijeg glasa. Rezultat može biti političar koji izgovara rečenice koje nikada nije rekao, direktor kompanije koji traži milionsku uplatu ili član porodice koji navodno zove u pomoć.
Brzina kojom se sadržaj širi je sve veći problem
Farid navodi da su posledice već vidljive. Lažne fotografije eksplozije kod Pentagona 2023. godine nakratko su uzdrmale finansijska tržišta i izbrisale stotine milijardi dolara vrednosti akcija. Tokom ratova u Ukrajini, Gazi i Iranu internet je bio preplavljen snimcima koje je bilo gotovo nemoguće razlikovati od autentičnih.
Problem nije samo u tome što je sadržaj lažan, već u brzini kojom se širi. Dok stručnjacima trebaju sati ili dani da provere autentičnost nekog snimka, društvene mreže ga distribuiraju milionima ljudi za nekoliko minuta.
„Često završim analizu i shvatim da je šteta već učinjena. Laž je postala činjenica, a činjenica se pretvorila u sumnju“, kaže on.
Uprkos tome što i dalje razvija alate za otkrivanje manipulacija, Farid veruje da tehnologija za stvaranje deepfake sadržaja napreduje brže od sistema za njihovo prepoznavanje. Zato smatra da će društvo uskoro morati da odustane od ideje da je fotografija dokaz sama po sebi.
„Spaliće sve do temelja“
Njegova budućnost interneta ne zvuči optimistično. Predviđa svet u kojem će svaki kompromitujući snimak moći da bude proglašen lažnim, a svaka laž predstavljena kao autentičan dokaz. Poverenje u fotografije, video-zapise i audio-snimke postepeno će nestajati.
„Tehnologija se koristi protiv nas. Voz je napustio stanicu i ubrzava neverovatnom brzinom“, upozorava Farid. „Ovi veliki tehnološki giganti spaliće sve do temelja dok god na tome zarađuju. Ne zanima ih ništa što bi moglo da ih uspori.“
Kada ga je jedan student na predavanju upitao postoji li rešenje ili smo „jednostavno osuđeni na propast“, stručnjak koji je dve decenije proveo boreći se protiv digitalnih prevara na trenutak je zastao.
„Prilično smo u problemu“, odgovorio je.
Upravo zbog toga Farid smatra da ulazimo u novu eru interneta – eru u kojoj više neće biti dovoljno da nešto vidimo kako bismo poverovali da je stvarno. Istina će morati da se dokazuje, a sumnja će postati podrazumevano stanje digitalnog sveta.
