Izvršni direktor OpenAI-ja Sem Altman nedavno je priznao da mu je potrebna ozbiljna pomoć od kompanijskog AI chatbota da bi pregurao svakodnevni život.
Tokom gostovanja u popularnom tokšouu kod Džimija Felona, Altman je tvrdio da je danas nemoguće odgajati dete bez toga da stalno zapitkuješ chatbot za savete o životu.
„Ne mogu da zamislim da sam prolazio kroz to i učio kako da odgajam novorođenče bez ChatGPT-a“, rekao je Altman. „Naravno, ljudi su to radili jako dugo, bez problema. Ali ja sam se na njega toliko oslanjao.“
Na primer, kako kaže, navodno je pitao ChatGPT zašto njegov sin stalno „ispušta picu na pod i smeje se“. Priznao je i da se jednom sakrio u kupatilo dok su mu u kući bili gosti da bi pitao alat da li je normalno da dete od šest meseci još ne može da hoda.
S obzirom na dobro dokumentovanu sklonost ovakvih sistema da iskrive činjenice i daju loše savete, ovakvo priznanje zvuči zabrinjavajuće, ocenjuje Futurism.
Altman je verovatno hteo da ispriča anegdotu koja će biti simpatična pred ogromnom publikom, ali rizici su mnogo veći nego što želi da prizna, posebno kada je reč o odgajanju male dece.
Opasno za roditelje
Istraživači već neko vreme upozoravaju da preterano oslanjanje na velike jezičke modele može biti opasno, navodeći, u jednoj studiji iz 2024, da postoji „kritična potreba za nadzorom stručnjaka nad ChatGPT-om“ radi „zaštite informacija o dečjem zdravlju“.
„ChatGPT i drugi veliki modeli imaju potencijal da transformišu pejzaž zdravstvenih informacija na internetu“, napisali su. „Međutim, nedostatak specifičnog stručnog znanja i poznate greške ovih modela izazivaju zabrinutost zbog toga što roditelji koriste neproverene informacije pri donošenju zdravstvenih odluka za svoju decu.“
U eksperimentu koji je vodila doktorantkinja Univerziteta u Kanzasu, Kalisa Lesli-Miler, istraživači su utvrdili da roditelji često ne mogu da razlikuju stvarne medicinske savete stručnjaka od neproverenih saveta koje generiše ChatGPT.
„Tokom studije, neke od ranijih verzija AI odgovora sadržale su netačne informacije“, rekla je tada. „To je zabrinjavajuće jer, kao što znamo, AI alati poput ChatGPT-a skloni su ‘halucinacijama’, greškama koje nastaju kada sistem nema dovoljno konteksta.“
Uprkos riziku da dobiju potencijalno opasne savete, sve više roditelja se okreće ChatGPT-u.
Pogrešna poruka
Stručnjaci napominju da roditelji pod stresom često traže brza rešenja, a chatbotovi su poznati po tome da nude protivrečne ili međusobno suprotstavljene informacije, što ukazuje na hitnu potrebu za savetima stvarnih, ljudskih stručnjaka.
„Modeli opšte namene nisu obučeni na potvrđenim naučnim saznanjima o roditeljstvu“, rekao je Nikolas Džejkobson, profesor sa Dartmut Koledža. „Njihovi saveti mogu biti generički, pogrešni ili odraz pristrasnosti podataka na kojima su trenirani, dakle celog interneta.“
„AI ne poznaje vaše dete, vašu porodicu niti situaciju“, dodao je. „Ne može da replicira kliničku procenu lekara ili duboko, intuitivno znanje koje roditelj ima.“ Ukratko, Altmanova tvrdnja da je nemoguće odgajati dete bez ChatGPT-a nije samo ogromno preuveličavanje, već bi njegov nastup kod Felona mogao da pošalje pogrešnu poruku milionima roditelja, podstičući ih da traže zamućene i potencijalno opasne informacije.
