U filmu Minority Report, sa Tomom Kruzom u glavnoj ulozi, policija hapsi ljude pre nego što počine zločin, oslanjajući se na predviđanja sistema koji navodno može da vidi budućnost. Budućnost predviđaju tri „prekoga“ (ili proroka) Agata, Artur i Dešijel. Ideja iz filma može da postane stvarnost, ali umesto proroka, njihovu ulogu preuzeće veštačka inteligencija.
Američka savezna država Mičigen uvodi novi softverski sistem za klasifikaciju zatvorenika prema proceni njihove potencijalne opasnosti. Sistem će određivati nivo obezbeđenja i smeštaj, a iza projekta stoji neprofitna tehnološka organizacija Recidiviz.
Do sada su zatvorenike razvrstavali zatvorski odbori koje imenuju upravnici ustanova. Sada bi taj proces trebalo da bude podržan softverom koji analizira podatke i pomaže u donošenju odluka.
Recidiviz je nastao kao projekat za organizovanje podataka u okviru Googlea, sa ciljem da tehnologija unapredi američki pravosudni sistem. Njegova platforma, između ostalog, pomaže u prepoznavanju zatvorenika koji ispunjavaju uslove za programe podrške, promenu klasifikacije ili puštanje na slobodu.
Prema prvobitnom saopštenju Ministarstva za zatvore Mičigena, pilot-program trebalo je da počne u decembru u nekoliko muških zatvora. Ministarstvo je navelo da bi novi alat mogao da poveća preciznost predviđanja budućeg nasilnog ponašanja za oko 30 odsto, ali nije objasnilo kako je došlo do te procene.
Nejasno gde se tačno AI koristi
I Ministarstvo i Recidiviz tvrde da konkretni modul za klasifikaciju zatvorenika ne koristi veštačku inteligenciju za donošenje odluka o njihovom smeštaju ili bezbednosnom nivou. Ipak, na sajtu kompanije AI ima istaknuto mesto. Recidiviz navodi da koristi veštačku inteligenciju za automatizaciju poslova, analizu podataka i povezivanje ljudi sa odgovarajućim poslovima i uslugama.
Zbog toga ostaje nejasno gde se tačno AI koristi u platformi i kakvu ulogu ima u proceni zatvorenika.
A posledice takvih procena nisu male. Od klasifikacije zavisi sa kim će zatvorenik biti smešten, kojim programima može da pristupi i kakve će mogućnosti imati tokom izdržavanja kazne.
Ko će odgovarati kada algoritam pogrešno proceni nečiju opasnost?
Istraživanje portala ProPublica pokazalo je koliko ovakvi sistemi mogu biti problematični. Analiza softvera za procenu rizika u Luizijani otkrila je da podaci na kojima se zasnivaju procene mogu sadržati rasne i socioekonomske predrasude.
U jednom slučaju, slepi sedamdesetogodišnjak koji koristi invalidska kolica, uprkos besprekornom disciplinskom dosijeu, označen je kao osoba sa umerenim rizikom od ponavljanja krivičnog dela. Zbog takve procene automatski je izgubio pravo da konkuriše za uslovni otpust.
Sistem u Mičigenu neće odlučivati o uslovnom puštanju, već o raspoređivanju zatvorenika. Ipak, iskustvo Luizijane pokazuje da algoritmi ne moraju da uklone ljudske predrasude, mogu samo da ih pretvore u automatizovane odluke.
Tehnologija možda može da pomogne zatvorskom sistemu, ali pitanje ostaje, ko će odgovarati kada algoritam pogrešno proceni nečiju opasnost?
