To da tehnološke kompanije sve više razmišljaju o tome kako da ljude „navuku“ na njihove proizvode, nego na neku „dobrobit“ čovečanstva, nije novost. Novost je kada procuri dokument koji o tome direktno govori.
Prema internom dokumentu kompanije Microsoft, do kojeg je došao portal 404 Media, tehnološki gigant je slučajno otkrio da želi da „navede ljude da postanu zavisni“ od svog novog AI asistenta pod nazivom Scout.
Takva formulacija izazvala je posebnu pažnju jer se AI kompanije već godinama brane od optužbi da svoje modele namerno prave što privlačnijim i angažovanijim, čak i po cenu negativnih psiholoških posledica i problema sa mentalnim zdravljem korisnika.
Dokument opisuje plan kompanije da jednostavniju i šire dostupnu verziju AI agenata OpenClaw integriše u paket Microsoft 365. Strategija je podeljena u tri faze, a prva nosi prilično direktan naziv: „Učiniti ljude zavisnim.“
„Nastaviti sa razvojem samostalnog ClawPilot iskustva. Testirati korisnički interfejs, povećavati bazu korisnika i graditi ekosistem alata i veština koji će navesti ljude da se svakodnevno oslanjaju na njega. To se već organski dešava“, navodi se u dokumentu.
„Veoma zabrinjavajuće“ reference
Anonimni zaposleni u Microsoftu koji su razgovarali sa novinarima različito su reagovali na ovu formulaciju.
Jedan od njih ocenio je da su otvorene reference na zavisnost „veoma zabrinjavajuće“.
„Sve više vidimo zavisnost od AI četbotova i agenata. Po mom mišljenju, nijedan proizvod ne bi smeo da ima zavisnost kao deo svoje razvojne strategije“, rekao je. „Ovo deluje kao trenutak kada je neko naglas izgovorio ono što se obično prećutkuje.“
Drugi zaposleni bio je manje zabrinut i postavio pitanje:
„Zar krajnji cilj gotovo svakog velikog tehnološkog proizvoda nije da postane navika bez koje korisnici ne mogu?“
Uz dozu ironije dodao je: „Srećom po nas, Microsoft je tradicionalno mnogo lošiji u pravljenju proizvoda koji izazivaju zavisnost od nekih drugih velikih kompanija.“
„Navučen“ i sam Microsoft
Ako Microsoft zaista želi da njegov AI postane navika, prvi korisnici koji su se „navukli“ dolaze iz same kompanije. U dokumentu se navodi da novi alat već koristi više od 1.000 zaposlenih, uključujući i izvršnog direktora Satiju Nadelu.
„ClawPilot je organski postao jedan od najtraženijih internih alata u Microsoftu. Bez zvanične najave, bez marketinga i bez organizovane interne kampanje“, piše u dokumentu.
Nije iznenađenje što se u samom tekstu takođe navodi da je dokument „sukreirao“ AI.
Poslednjih godina pojam zavisnosti postao je jedna od najosetljivijih tema u AI industriji. Za razliku od tradicionalnog softvera, četbotovi komuniciraju prirodnim jezikom, često deluju prijateljski, podržavajuće i izrazito saglasno sa korisnicima. Zbog toga stručnjaci upozoravaju da kod nekih ljudi mogu stvoriti preteranu emocionalnu vezanost.
Upravo zato je formulacija iz Microsoft-ovog dokumenta izazvala toliko pažnje. Čak i ako je reč o nespretno izabranoj poslovnoj terminologiji, otvoreno navođenje „zavisnosti“ kao cilja proizvoda mnogi smatraju ili izuzetno nepromišljenim ili zabrinjavajuće iskrenim.
