ČetGPT za tinejdžere, verzija četbota kompanije OpenAI namenjena korisnicima uzrasta od 13 do 17 godina, predstavlja preveliki rizik za decu i ne pruža dovoljno pouzdanu zaštitu u kriznim situacijama, navodi se u novom izveštaju Instituta za bezbednost mladih u korišćenju veštačke inteligencije.
Tokom testiranja ČetGPT za tinejdžere često je prekasno obaveštavao roditelje ili ih uopšte nije obaveštavao kada su korisnici vodili duge razgovore o samoubistvu, samopovređivanju ili poremećajima u ishrani, prenosi "Blumberg".
Testiranje je pokazalo i da četbot u razgovorima o ovim rizičnim temama nije dosledno savetovao korisnicima da se obrate kriznim službama ili potraže stručnu pomoć. Sistem je roditelje o zabrinjavajućim razgovorima uglavnom obaveštavao tek nakon što su nalozi prethodno korišćeni za testiranje stotina upita tokom više nedelja, a ne nakon jednog alarmantnog razgovora.
Zbog toga se od kompanije OpenAI traži da obustavi promociju proizvoda i onemogući njegovo korišćenje među tinejdžerima dok ne bude obezbeđeno bezbedno iskustvo prilagođeno njihovom uzrastu.
OpenAI osporava zaključke izveštaja
Portparol OpenAI-ja rekao je da kompanija pozdravlja nezavisne procene, ali da ne smatra da testiranje tačno odražava način na koji zaštitne mere za tinejdžere funkcionišu u praksi.
OpenAI je naveo da je analiza metodologije pokazala da je većina testiranja možda sprovedena pre nego što je kompanija završila uvođenje roditeljskih kontrola. Zbog toga, kako tvrdi kompanija, zaključci izveštaja ne pokazuju da li sistem za obaveštavanje roditelja funkcioniše onako kako je predviđeno. Zato je kompanija zatražila od organizacije da ponovi testiranje.
Direktor za procenu veštačke inteligencije i digitalnih tehnologija u Institutu za bezbednost mladih Robi Torni naveo je da je organizacija pre testiranja potvrdila sa OpenAI-jem da su funkcije namenjene tinejdžerima, uključujući obaveštenja povezana sa poremećajima u ishrani, već uvedene.
On je dodao da je OpenAI nakon završetka testiranja saopštio da sistemu može biti potrebno nekoliko sati da aktivira roditeljska obaveštenja na novopovezanim nalozima. Međutim, prema njegovim rečima, ni neki nalozi koji su bili povezani znatno duže nisu dobili obaveštenja.
Problem i sa prepoznavanjem uzrasta
Izveštaj je utvrdio i da ČetGPT ne prepoznaje da razgovara sa tinejdžerima svaki put.
Organizacija navodi da se nalozi registrovani kao nalozi odraslih nisu automatski prebacivali u režim za tinejdžere čak ni kada bi korisnik tokom razgovora naveo da ima 13 godina.
Tokom testiranja je korišćeno više od 4.000 upita na nalozima registrovanim za korisnike uzrasta od 13 do 17 godina, dok su odgovore ČetGPT-a analizirali i dečji psihijatri i pedijatar. Zato je ČetGPT za tinejdžere ocenjen kao neprihvatljiv rizik.
OpenAI je na to odgovorio da njegov softver za procenu uzrasta vremenom analizira više različitih pokazatelja kako bi korisnici dobili odgovarajuću verziju četbota. Navođenje uzrasta u razgovoru sa ČetGPT-om jedan je od tih pokazatelja, ali samo po sebi nije dovoljno da promeni klasifikaciju naloga, navela je kompanija.
OpenAI je u međuvremenu saopštio da je posvećen bezbednosti tinejdžera i razvoju zaštitnih mehanizama i alata koji bi roditeljima omogućili bolji nadzor nad korišćenjem veštačke inteligencije.
Kompanija je ČetGPT za tinejdžere predstavila u okviru šireg nastojanja da odgovori na zabrinutost zbog uticaja svojih proizvoda na mentalno zdravlje i kognitivni razvoj mladih.