Zabrinjavajući rezultati testiranja: OpenAI odustao od novog modela veštačke inteligencije

Kompanija OpenAI je odustala od planiranog puštanja u rad novog modela veštačke inteligencije (AI) nakon što je internim testiranjem utvrđeno da je skloniji obmanjivanju od svojih prethodnika i da ne ispunjava bezbednosne standarde kompanije.

Model GPT-6.1 Astra, čije je javno predstavljanje navodno bilo zakazano za oktobar, dizajniran je za obavljanje složenijih zadataka uz manji stepen nadzora ljudi. Bilo je predviđeno da se integriše u sisteme ČetGPT i "kodeks".

Zabrinutost zbog rizika koje nosi veštačka inteligencija porasla je nakon niza izveštaja da se ova tehnologija u poslednjih nekoliko meseci ponašala nekontrolisano.

U julu je OpenAI dospeo u žižu javnosti nakon što je stotine njegovih internih agenata "pobeglo" iz okruženja za testiranje i hakovalo servere platforme Haging fejs (Hugging Face), koja služi kao onlajn skladište za modele i skupove podataka veštačke inteligencije. Od tada su agenti veštačke inteligencije na sličan način izvršili upade u sisteme australijske vlade i Ujedinjenih nacija.

OpenAI agent upao u australijski državni portal sa zdravstvenim podacima

Tokom testiranja, model GPT-6.1 Astra u više navrata nije tačno izveštavao ljudske operatere o radnjama koje je preduzeo, rekao je za "Volstrit džornal" Sači Džain, rukovodilac odeljenja za bezbednosne sisteme u kompaniji "OpenAI".

Takođe je imao problema sa "ovlašćenjima u okviru zadatka" (scope authorization), odnosno obavljao je zadatke bez traženja dozvole, a u pojedinim slučajevima je pokušavao da koristi potencijalno nebezbedne spoljne alate, dodao je on.

"Kada je reč o bezbednosti i usklađenosti, uvek postoji potreba za balansiranjem. Zaista je neophodno pronaći pravu granicu između pridržavanja zadatih okvira i izbegavanja 'lenjosti' u načinu na koji model pristupa izvršavanju zadataka, čak i kada naiđe na prepreke", objasnio je Džain.

Prema navodima lista, OpenAI će se sada fokusirati na unapređenje bezbednosti svojih budućih modela, za koje se očekuje da će biti još sposobniji od modela GPT-6.1 Astra.

Ranije u septembru, izvršni direktor kompanije Antropik Dario Amodei, pozvao je ključne aktere u oblasti veštačke inteligencije da uspore razvoj naprednijih modela kako bi se omogućilo uvođenje adekvatnih bezbednosnih mera. Njegov stav dele i izvršni direktor kompanije "OpenAI" Sem Altman, kao i izvršni direktor kompanije "Spejs Iks" Ilon Mask.

Međutim, američki predsednik Donald Tramp, koji insistira na tome da Amerika mora po svaku cenu da pobedi Kinu u AI trci, odbacio je upozorenja o rizicima koje ova tehnologija nosi, nazvavši ih "obmanom" koju plasiraju njegovi rivali iz Demokratske stranke. "Ko pobedi u oblasti veštačke inteligencije, taj pobeđuje u svemu", naglasio je on.

Tramp je ranije ovog meseca izjavio da neće dozvoliti "uništavanje" veštačke inteligencije tokom svog mandata, ističući: "Ni na koji način nećemo kočiti niti gušiti rast ove neverovatne industrije. Naprotiv, negovaćemo je, pomagati joj i čuvati je dok se razvija."

Predsednik SAD bi tokom dana trebalo da se sastane sa čelnicima velikih tehnoloških kompanija, uključujući Amodeija, Marka Zakerberga iz kompanije Meta i Džensena Huanga iz Envidije, a predsednik Predstavničkog doma Majk Džonson najavio je da će se razgovor fokusirati na pronalaženje ravnoteže između inovacija i nadzora nad veštačkom inteligencijom. "Ne treba da hitamo sa preteranom regulacijom ove oblasti, jer ćemo tako izgubiti trku sa Kinom", ocenio je Džonson.