Policijske agencije širom sveta poslednjih godina ubrzano uvode veštačku inteligenciju u istrage, obećavajući brža hapšenja i efikasnije rešavanje slučajeva. Međutim, sve veći broj pogrešnih hapšenja povezanih sa sistemima za prepoznavanje lica pokazuje da brzina i tačnost nisu nužno ista stvar.
Policija: AI kao dokazni materijal
I dok se lažna identifikacija osumnjičenih može pripisati greškama softvera, pojavljuje se još zabrinjavajući trend: pojedini policijski službenici navodno koriste veštačku inteligenciju ne samo za identifikaciju osumnjičenih, već i za kreiranje dokaza.
BBC je tokom vikenda objavio da vlasti u Derbiširu u Engleskoj istražuju policajca koji je osumnjičen da je generativnu veštačku inteligenciju koristio za stvaranje dokaznog materijala u više slučajeva.
Ime službenika nije objavljeno, a iako nije uhapšen, suspendovan je do okončanja istrage koju zajednički vode policija Derbišira i britansko tužilaštvo.
„Pokrenuta je krivična istraga zbog sumnje na ometanje pravde nakon navodne upotrebe AI sistema za kreiranje dokaznog materijala u više predmeta“, saopštio je portparol policije Derbišira za Financial Times.
„Moramo malo da usporimo.“
Reč je o prvom slučaju ove vrste u Velikoj Britaniji, koji dolazi svega nekoliko dana nakon što je novoosnovani nacionalni centar PoliceAI izdao smernice policijskim snagama da ne koriste generativnu veštačku inteligenciju za sastavljanje sudskih izjava. Razlog je dobro poznat problem AI sistema da izmišljaju činjenice, odnosno da „haluciniraju“ odgovore.
„Nekim policijskim upravama morali smo da kažemo da to ne smeju da rade, jer još nismo prošli sve neophodne provere i procedure“, izjavio je za Financial Times direktor centra PoliceAI, Aleks Marej. „Moramo malo da usporimo.“
Nije usamljen slučaj
AI greške već su se pojavljivale u policijskim izveštajima. Jedan od poznatijih primera dogodio se u američkoj saveznoj državi Juta, gde je policijski dokument sadržao apsurdnu tvrdnju da se policajac pretvorio u žabu, očigledan rezultat nekritičkog korišćenja generativne veštačke inteligencije.
Ipak, ozbiljnost istrage u Derbiširu sugeriše da se ovde verovatno ne radi o običnoj nemarnosti ili prepisivanju AI odgovora. Slučaj više podseća na incident iz prošle godine u američkoj saveznoj državi Mejn, gde su policajci uhvaćeni kako objavljuju fotografije zaplene droge koje su, prema tvrdnjama stručnjaka, bile očigledno izmenjene uz pomoć generativne veštačke inteligencije.
Slučaj iz Velike Britanije zato otvara mnogo ozbiljnije pitanje od same pouzdanosti AI alata, komentariše Futurism. Šta se događa kada tehnologija koja bi trebalo da pomaže u potrazi za istinom počne da se koristi za njeno stvaranje? Ako se optužbe potvrde, biće to jedan od prvih poznatih slučajeva u kojem je veštačka inteligencija navodno korišćena za fabrikovanje dokaza u krivičnim postupcima – scenario koji je do pre samo nekoliko godina delovao kao zaplet iz naučnofantastičnog trilera.
