Dizajner kreirao majicu kao kamuflažu od AI video nadzora

Dizajner Simon Vekert kreirao je šarenu kamuflažnu majicu koju AI video sistemi ne mogu da detektuju.

Majica je razvijena kao odgovor na pilot-projekat korišćenja veštačke inteligencije (AI) za video nadzor na berlinskom trgu Kottbusser Tor, koji počinje ovog meseca, a osmišljena je tako da spreči da korisnik bude prepoznat kao osoba.

Nazvana „Digitalna kamuflaža“ (Digital Camouflage), majica ima za cilj da zbuni sistem za detekciju objekata zasnovan na veštačkoj inteligenciji tako što remeti način na koji sistem prepoznaje čoveka.

Za mašinu, ‘osoba’ je skup vizuelnih statistika

„AI sistemi se sastoje od više slojeva i nikada nisu naučili šta je čovek. Naučili su kako ljudi statistički izgledaju na milionima slika koje su korišćene za obuku“, rekao je Vekert.

„U ranim slojevima to su ivice, kontrasti i gradijenti tekstura; dublje u mreži to su obrasci nalik delovima tela: silueta glave i ramena, proporcije udova u odnosu na torzo, kontinuitet obrisa tela u odnosu na pozadinu“, nastavio je.

„Za mašinu, ‘osoba’ je skup vizuelnih statistika i upravo je to njena slabost.“

Majica koristi kombinaciju jarkih boja i šara kako bi zbunila AI sisteme, tako da ono što vide više ne prepoznaju kao osobu.

„I boja i šara, i nijedno od toga samo za sebe. Ključna je njihova međusobna igra, optimizovana za mašinu, a ne za ljudsko oko“, rekao je Vekert.

„Zasićeni prelazi između boja snažno aktiviraju rane slojeve mreže, dok oblici koji se preklapaju prekidaju kontinuitet obrisa tela, zbog čega detektor više ne može da poveže delove u jednu figuru“, nastavio je.

„Šara u suštini nadglasava tihi statistički šapat koji kaže ‘osoba’. Čoveku izgleda kao gotovo hipnotišući tekstil; AI modelu ne predstavlja ništa.“

Kamuflaža od AI pomoću AI

Vekert je šaru na majici razvio uz pomoć veštačke inteligencije. Testirao je različite verzije koristeći AI varijantu pokušaja i greške poznatu kao „adversarial loop“, odnosno „adverzijalna petlja“.

„Šara je razvijena u adverzijalnoj petlji sa samim sistemom za detekciju: generiši kandidata, pokaži ga detektoru, izmeri koliko ga pouzdano i dalje prepoznaje kao osobu, prilagodi, ponovi – sve dok nivo pouzdanosti ne kolabira“, rekao je Vekert.

„To je bilo neophodno zato što ljudima slepe tačke mašine nisu intuitivne; ne možete dizajnirati protiv mašinske percepcije samo gledanjem, već jedino mašina može da vam kaže šta ne uspeva da vidi. U tome postoji poetska simetrija: ista klasa AI-ja koja nadgleda trg naučila je majicu kako da se sakrije.“

Vekert je majicu testirao koristeći Yolo, open-source AI sistem za detekciju objekata u realnom vremenu.

Još jedan komad odeće testiran je pomoću Yolo sistema – pleteni komad garderobe koji štiti biometrijske podatke osobe koja ga nosi, bez potrebe da ona pokriva lice.