Direktor Microsofta upozorava kompanije: Kada koristite AI, ne plaćate samo novcem već i sopstvenim znanjem

Dok se širom sveta vodi rasprava o rizicima veštačke inteligencije, među tehnološkim liderima u Silicijumskoj dolini sve više raste zabrinutost zbog jednog manje vidljivog problema. Taj problem je mogućnosti da kompanije koje razvijaju AI modele postanu konkurencija sopstvenim korisnicima.

Strah proizlazi iz činjenice da preduzeća, koristeći modele kompanija poput OpenAI-ja i Anthropic-a, tim sistemima poveravaju ogromne količine poverljivih poslovnih podataka. Kritičari upozoravaju da proizvođači AI modela na taj način stiču dragoceno znanje o poslovanju svojih klijenata, koje bi jednog dana mogli da iskoriste u sopstvenu korist.

Među onima koji su ranije upozoravali na ovaj problem nalaze se investitor Džejson Kalakanis i izvršni direktor kompanije Palantir Aleks Karp.

Sada im se pridružio i izvršni direktor Microsofta Satja Nadela, koji je u autorskom tekstu objavljenom u nedelju izneo slična upozorenja, piše TechCrunch.

Kompanije „plaćaju“ dva puta

Nadela smatra da korisnici veštačke inteligencije zapravo plaćaju dvostruko.

Prvi put plaćaju korišćenje AI modela kroz naknade za obradu upita, dok drugi put, često nesvesno, plaćaju tako što modelima otkrivaju svoje najvrednije poslovno znanje.

„Suštinski, inteligenciju plaćate dva puta. Jednom novcem, a drugi put nečim mnogo vrednijim: vlasničkim znanjem koje morate da otkrijete kako bi ta inteligencija bila korisna. Što želite bolje rezultate, to više znanja morate da pružite modelu“, napisao je Nadela.

AI uči iz poslovnih tajni

Prema njegovim rečima, kompanije svakodnevno obučavaju AI sisteme kroz način na koji ih koriste.

Modeli ne uče samo iz postavljenih pitanja, već i iz ispravki koje korisnici unose kada AI pogreši, kao i iz načina na koji zaposleni koriste različite alate.

„Svaka ispravka postaje deo institucionalnog znanja“, upozorava Nadela.

Takvo znanje, dodaje, predstavlja nešto što konkurencija nikada ne bi mogla jednostavno da kupi, ali ga kompanije praktično dobrovoljno predaju proizvođačima AI modela.

Zašto bi pravila važila samo u jednom smeru?

Nadela smatra da bi kompanije trebalo da imaju pravo da analiziraju i proučavaju AI modele koje koriste, baš kao što su AI kompanije koristile javno dostupne podatke sa interneta za njihovu obuku.

U svetu veštačke inteligencije taj proces naziva se destilacija modela (model distillation). To je tehnika kojom se odgovori jednog modela koriste za razvoj novog, manjeg ili jeftinijeg sistema.

Ova tema već je izazvala sporove u industriji. Anthropic je početkom godine optužio kineske programere otvorenih AI modela da su slali milione upita modelu Claude kako bi unapredili sopstvene sisteme, tražeći od američke vlade strožu kontrolu izvoza naprednih AI tehnologija.

Nadela smatra da proizvođači AI modela ne mogu istovremeno da insistiraju na slobodnom korišćenju javnih podataka za obuku svojih sistema, a da drugima zabranjuju slične metode kada je reč o njihovim modelima.

„Dok je pravo na korišćenje javnih podataka za obuku modela važno za inovacije, ironično je što se zatim uvode stroga ograničenja za destilaciju tih modela“, naveo je Nadela.

Posebno ga zabrinjava praksa pojedinih AI kompanija koje u uslovima korišćenja zadržavaju pravo da uče iz podataka i interakcija svojih korisnika.

Satja Nadela rešenje vidi u otvorenim modelima

Kao rešenje, prvi čovek Microsofta predlaže da kompanije zadrže puno vlasništvo nad sopstvenim podacima, uključujući upite, povratne informacije i druge informacije koje nastaju tokom rada sa AI sistemima.

Zbog toga preporučuje izgradnju sopstvenih AI okruženja u oblaku, kao i uvođenje takozvanih orchestration layer sistema koji omogućavaju lako prebacivanje između različitih AI modela, umesto vezivanja za jednog dobavljača.

Iako Satja Nadela nijednom ne pominje modele otvorenog koda (open source), mnogi analitičari smatraju da upravo na njih indirektno aludira.

S obzirom na to da upozorenja sada dolaze i od izvršnog direktora Microsofta, kompanije koja je investirala milijarde dolara u OpenAI i sarađuje sa Anthropic-om, analitičari očekuju da će interesovanje preduzeća za otvorene AI modele i lokalno instalirana rešenja dodatno rasti.

„Kada koristite inteligenciju, vi istovremeno stvarate novu inteligenciju. A ono što stvarate trebalo bi da pripada vama“, zaključio je Nadela.