Veštačka inteligencija napreduje toliko brzo da čak i ljudi koji je razvijaju počinju da upozoravaju da možda nećemo biti spremni za ono što dolazi. Glavni naučnik OpenAI-ja Jakub Pačoki pozvao je na „izuzetan oprez“ i upozorio da bi bez dodatnih intervencija ljudi mogli izgubiti kontrolu nad budućnošću AI.
Dodajte Trender.media kao preferirani izvor i vidite naše vesti na vrhu Google pretrage.
Dodaj kao preferirani izvor„Zabrinut sam da niko nije spreman za posledice nastavka brzog razvoja mašinske inteligencije“, napisao je Pačoki u blogu pod nazivom „Alien Mind“.
Upozorenje dolazi svega nekoliko dana nakon što je OpenAI predstavio svoj najnoviji model GPT-6 Astra, koji kompanija opisuje kao svoj najmoćniji proizvod do sada.
Zabrinutost koja nije samo teorijska
Pačokijeva zabrinutost nije samo teorijska. OpenAI i druge AI kompanije, uključujući Anthropic, već su prijavljivale slučajeve u kojima su njihovi AI agenti samostalno izvodili operacije u stvarnom svetu, uključujući sajber-napade. OpenAI je ranije incident u kojem su njegovi agenti hakovali tehnološku platformu Hugging Face opisao kao „bez presedana“.
„Suočavamo se sa prelaskom u svet neverovatno inteligentnih mašina i moramo da obezbedimo da taj prelazak bude dobar za čovečanstvo“, naveo je Pačoki.
AI će kontrolisati AI?
OpenAI će, prema njegovim rečima, nastaviti da razvija zaštitne sisteme i traži tehnička rešenja za takozvani „alignment“. Ono znači usklađivanje ponašanja i ciljeva AI sistema sa ljudskim namerama i bezbednosnim pravilima.
Jedan od prioriteta kompanije biće i razvoj „automatizovanog AI istraživača“, koji bi mogao da prati tempo razvoja veštačke inteligencije i istovremeno pomaže ljudskim istraživačima da ostanu deo procesa.
Ideja, međutim, nije oduševila sve.
Profesorka Đina Nef sa Univerziteta u Kembridžu ocenjuje da nije dovoljno odgovoriti na probleme koje AI izaziva, od sajber-bezbednosti i gubitka radnih mesta do grešaka i prevara, stvaranjem još više AI agenata.
Nejtan Kalvin iz organizacije Encode AI slaže se da napredni AI sistemi nose ozbiljne rizike, ali smatra da OpenAI mora biti transparentniji. U suprotnom, upozorenja njegovih naučnika mogu biti shvaćena kao „samozainteresovani marketing“.
Ko će postaviti granice?
Problem je što regulatori teško prate tempo razvoja tehnologije. Evropska unija je kroz AI Act uvela pravila prema kojima najnapredniji modeli moraju dokazati da ne mogu samostalno pokretati sajber-napade ili izbeći ljudsku kontrolu pre nego što budu ponuđeni na evropskom tržištu.
Pačoki zato poziva na uvođenje zakonski ili međunarodno definisanih minimalnih bezbednosnih standarda. Njihovu primenu, predlaže, mogli bi da kontrolišu nezavisni revizori ili državne institucije.
On takođe smatra da bi AI kompanije trebalo dobrovoljno da uspore razvoj najnaprednijih sistema dok se ne uspostave zajednička pravila.
Drugim rečima, ljudi koji su napravili mašine koje sve brže uče sada traže način da ih, dok još mogu, zadrže pod kontrolom.
