U svetu punom dezinformacija nije čudno što se ljudi okreću četbotovima. Četbotovi deluju kao rešenje za epidemiju dezinformacija. Iako se i njihovo „znanje“ može dovesti u pitanje, sve više ljudi informacije koje ljudi dobijaju od tipa ChatGPT-ija uzimaju se „zdravo za gotovo“.
Upravo zbog toga, četbotove smatraju i najvećom pretnjom budućnosti interneta. A verovali ili ne, ovaj scenario nagovestio je argentinski pisac Horhe Luis Borhes pre nekoliko decenija, piše The Conversation.
Kriza sadržaja donosi krizu istine
Programeri velikih jezičkih modela (LLM), tehnologije koja pokreće alate poput ChatGPT-a, Copilot-a i Gemini-ja, iskoristili su resurs interneta, pa nam daju bliže ili dalje „činjenice“ o tome šta je prava informacija.
Da bi postigli, ovi modeli moraju da „progutaju“ ogromne količine teksta. Već je sakupljena i iskorišćena golema količina sadržaja sa interneta, a problem je što je internet, koliko god delovao beskonačno, ipak ograničen resurs. Kvalitetan tekst koji nije već iskorišćen postaje sve ređi, što je The New York Times opisao kao „novu krizu sadržaja“.
Istovremeno, kako se izlazni tekstovi četbotova objavljuju na internetu, ova „druga generacija“ sadržaja, puna izmišljotina („halucinacija“) i grešaka, dodatno zagađuje mrežu. Ako čatbot „provodi vreme“ na pogrešnim internet uglovima, može usvojiti i opasne stavove. Microsoft je to naučio 2016, kada je morao da ugasi svog bota Tay, koji je nakon online interakcija počeo da iznosi rasistički i seksistički sadržaj.
Vremenom bi sve ovo moglo da učini internet još manje pouzdanim i manje korisnim. A LLM modeli hranjeni takvim slabim sadržajem počeće da proizvode još problematičnije tekstove, koji će opet završiti na internetu.
Lako je zamisliti začarani krug u kome modeli jedu sopstveni, loše proizveden sadržaj i tako sve više degradiraju kvalitet.
Istraživanje objavljeno u julu 2024. u časopisu Nature pokazalo je da treniranje modela na podacima koje su sami generisali može dovesti do „nepovratnih defekata“ i „kolapsa modela“. To je kao da pravite kopiju slike, pa kopiju te kopije, pa opet kopiju i svaki put nastaje sve mutnija verzija originala.
Borhesova biblioteka Vavilona
Da shvatimo koliko loše može postati, The Conversation podseća na Borhesovu priču „Biblioteka Vavilona“ iz 1941. godine. Pola veka pre izuma interneta, Borhes je zamislio svet kao beskonačnu biblioteku heksagonalnih prostorija u kojoj svaka knjiga sadrži neku kombinaciju slova, pa tako i svaku moguću istinu i svaku moguću laž.
U početku, to izaziva oduševljenje. U teoriji, negde morale bi postojati knjige koje objašnjavaju smisao života.
Ali potraga otkriva nešto drugo. Gotovo sve knjige su čista besmislica. Među planinama gluposti kriju se retki fragmenti smisla, ali nema načina da se zna da li su oni istiniti.
Nada se pretvara u očaj.
Da li internet ide tim putem, pita se portal.
