Svi znamo da tehnološke kompanije pažljivo prate naše navike na internetu. Međutim, jedno je biti svestan toga u teoriji, a sasvim drugo suočiti se sa razmerama podataka koje one zaista imaju o svakom pojedincu.
Upravo to iskustvo imao je tehnološki novinar Pranav Dikshit, koji je isprobao novu Googleovu funkciju „Personal Intelligence“ u okviru Gemini sistema i AI moda pretrage. Ispostavilo se da je sve brzo postalo veoma lično. Veštačka inteligencija uspela je da izvuče informacije u rasponu od registarske tablice njegovog automobila do istorije odmora njegovih roditelja, i to ponekad bez da su ti podaci bili direktno zatraženi.
„Personal Intelligence deluje kao da je Google godinama tiho beležio svaki detalj mog života i tek sada odlučio da mi da izveštaj“, napisao je Dikshit u tekstu za Business Insider.
Google primeti svakoga
Google je prošle nedelje ovu funkciju učinio dostupnom pretplatnicima paketa Google AI Pro i AI Ultra. Nakon što korisnik da saglasnost. AI može da pretražuje Gmail i Google Photos naloge, dok unapređena verzija, lansirana ranije ovog meseca u okviru Gemini aplikacije, ide još dublje. Analizira i istoriju pretrage i gledanja na YouTubeu. Ukratko, ako ste ikada koristili Google za bilo šta, postoji velika verovatnoća da sistem to može da pronađe.
Ovo je jedan od načina na koji Google pokušava da zadrži prednost u trci za razvoj veštačke inteligencije. Za razliku od konkurenata poput OpenAI-ja, kompanija raspolaže decenijama korisničkih podataka o milijardama ljudi. Već iz samih Google pretraga može se izvući mnogo zaključaka, dok su Gmail nalozi često prepuni potvrda i podsetnika na životne događaje od lekarskih pregleda, preko rezervacija hotela, do onlajn kupovina.
AI se pokazao „zastrušujuće dobrim“
Ako ideja da veštačka inteligencija „kopa“ po svemu ovome zvuči kao noćna mora za privatnost, taj utisak verovatno nije pogrešan. Google, međutim, tvrdi da postupa oprezno sa ličnim podacima korisnika. Potpredsednik kompanije Džoš Vudvord naveo je u nedavnom blogu da se AI sistemi treniraju isključivo na korisničkim upitima i odgovorima koje oni generišu, a ne na sadržajima poput fotografija i mejlova.
Bez obzira na etičke dileme, Dikshit procenjuje da davanje AI-ju pristupa ličnim podacima rezultira izuzetno korisnim i, kako ga je sam opisao, „zastrašujuće dobrim“ ličnim asistentom.
Kada je zamolio sistem da predloži ideje za obilazak znamenitosti za njegove roditelje, Personal Intelligence je tačno zaključio da su oni tokom ranijih putovanja u oblast zaliva San Franciska već dosta pešačili i planinarili, pa je umesto toga preporučio muzeje i botaničke vrtove.
Gemini je Dikshitu objasnio da je do tog zaključka došao na osnovu „digitalnih mrvica“, uključujući mejlove, fotografije šume u kojoj su njegovi roditelji boravili, rezervaciju parkinga u Gmailu, kao i Google pretragu „lake staze za planinarenje za starije osobe“. Sistem je takođe uspeo da zaključi broj registarske tablice automobila na osnovu fotografija u Google biblioteci i da pretraživanjem mejlova precizno utvrdi kada mu ističe polisa auto-osiguranja.
„Ljudskiji“ četbotovi
Privatnost, međutim, nije jedina zabrinutost koju ova funkcija otvara. Uz ovakvu količinu podataka, četbotovi mogu delovati znatno „ljudskije“, ostavljajući utisak da su intimno upoznati sa privatnim životom korisnika. To je opasan teren, naročito u svetlu izveštaja o ljudima koji upadaju u zablude i mentalne krize, verujući da su AI sistemi pouzdani saputnici. Dikshit se na to osvrće kada opisuje kako bi „izlio dušu ChatGPT-ju i dobio pametan odgovor“, da bi ga sistem ubrzo potom „zaboravio kao genijalna zlatna ribica“.
Stručnjaci su već ukazivali na to da ChatGPT-ova funkcija „memorije“ može doprineti utisku prevelike prisnosti, jer omogućava sistemu da se oslanja na informacije iz prethodnih razgovora i time deluje gotovo previše stvarno.
