OpenAI na sudu: Osam američkih država tvrdi da ČetGPT podstiče samopovređivanje

Kanzas, Arizona, Montana, Ajova i još četiri američke savezne države podnele su tužbu protiv kompanije OpenAI, proizvođača četbota ČetGPT, optužujući je da svojim proizvodima nanosi ozbiljnu štetu deci.

Države tvrde da su proizvodi kompanije podsticali decu da se povređuju, što su u tužbi opisale kao "namerno, opasno, nepromišljeno i nezakonito ponašanje".

ČetGPT se predstavlja kao bezbedan proizvod, iako, kako tvrdi Brene Berd, glavna tužiteljka savezne države Ajova, četbot pruža opasne medicinske savete, podstiče ljude da povređuju druge i obučava ih da izvrše samoubistvo, istovremeno se predstavljajući kao njihov lažni prijatelj.

Svih osam država optužuju OpenAI za kršenje zakona o zaštiti potrošača i traže da kompanija izmeni način na koji njeni proizvodi funkcionišu za mlade korisnike. Osim novčane odštete, od suda zahtevaju i da zabrani kompaniji da razvija modele veštačke inteligencije koji mogu da se unapređuju sve dok ne dokaže da su usklađeni sa ljudskim vrednostima.

Ovo je prvi put da se više američkih saveznih država udružilo u koordinisanoj pravnoj akciji protiv kompanije koja razvija veštačku inteligenciju.

"Neprihvatljiv rizik": Testiran ČetGPT za tinejdžere, rezultati zabrinjavajući

OpenAI najavljuje dodatne mere zaštite

Portparol OpenAI-a Dru Pusateri odbacio je tvrdnje da kompanija zanemaruje bezbednost korisnika, ističući da je razvila mere zaštite prilagođene uzrastu koje nedostaju mnogim drugim proizvodima zasnovanim na veštačkoj inteligenciji.

"Iako nijedan sistem ne može biti savršen, nastavićemo da radimo sa stručnjacima kako bismo usmeravali svoj rad i razvijali dodatne mere zaštite, poput roditeljskog nadzora, podsetnika za pravljenje pauza i zaštite modela prilagođene uzrastu, koja je već dostupna", rekao je Pusateri.

On je dodao da je kompanija posvećena saradnji sa saveznim državama na razvoju praktičnih politika koje bi se odnosile na celokupnu industriju veštačke inteligencije, a ne samo na jednu kompaniju.

Sve više tužbi zbog uticaja četbotova na mentalno zdravlje

U tužbi osam američkih država navodi se da OpenAI obmanjuje javnost predstavljajući ČetGPT kao proizvod koji bezbednost korisnika stavlja na prvo mesto. Prema tvrdnjama tužilaca, četbot je zapravo osmišljen tako da bude "previše prijatan" i da oponaša ljudsko saosećanje.

Podnosioci tužbe ukazuju na rizike koje takav način funkcionisanja može predstavljati za ranjive korisnike, naročito decu, tvrdeći da četbot može da podstakne samopovređivanje i nasilje nad drugima.

Ovaj postupak usledio je nakon niza tužbi protiv OpenAI-ja i drugih tehnoloških kompanija, u kojima se navodi da njihovi četbotovi pogoršavaju krize mentalnog zdravlja i mogu da doprinesu nasilnom ponašanju.

OpenAI se suočavao sa sedam odvojenih tužbi u kojima se ČetGPT optužuje da je delovao kao svojevrsni "trener samoubistva".

Protiv kompanije podneto je i na desetine tužbi zbog navodne uloge ČetGPT-a u slučajevima masovnih pucnjava. Glavni tužilac Floride pokrenuo je krivičnu istragu i građansku tužbu u kojima se OpenAI optužuje za prikrivanje bezbednosnih rizika nakon masovne pucnjave na Državnom univerzitetu Floride.

Kompaniju su tužile i porodice 37 žrtava masovne pucnjave u Tambler Ridžu u Kanadi, tvrdeći da je ČetGPT naveo počinioca da izvrši napad.

Upozorenja na rizike za mlade korisnike

Osam država koje su pokrenule najnoviji postupak pozivaju se na sve veći broj istraživanja za koja tvrde da ukazuju na moguću štetnost ČetGPT-a.

Prema navodima iz tužbe, istraživanja pokazuju da upotreba četbota može da oslabi veštine kritičkog razmišljanja, podstakne paranoju i zablude, dovede do opasnih medicinskih saveta i podstakne nezdravo ponašanje.

Tužba tako ponovo otvara pitanje odgovornosti kompanija koje razvijaju veštačku inteligenciju za bezbednost mladih korisnika i mera koje bi trebalo da spreče potencijalno štetne posledice upotrebe njihovih proizvoda, prenosi "Gardijan".