Napredak veštačke inteligencije donosi sve veće mogućnosti, ali i rizike koje je, prema rečima šefa Ujedinjenih nacija za ljudska prava, potrebno hitno ograničiti. Obraćajući se Savetu UN za ljudska prava, Folker Tirk upozorio je da se ljudi suočavaju sa "nepoznatim, čak i neviđenim" pretnjama po svoja prava.
"Potreba za upravljanjem veštačkom inteligencijom je široko priznata, ali gde je akcija?", upitao je Tirk, dodajući da odlaganje koristi samo velikim tehnološkim kompanijama, njihovim vlasnicima i onima koji ih omogućavaju.
Prema njegovim rečima, "šačica ljudi ima gotovo neograničenu moć nad veštačkom inteligencijom", za koju se stalno govori da ima nezamislive računarske kapacitete. "Govore o slobodi, ali kada se pažljivije pogleda, ispostavlja se da je reč pre svega o slobodi da se iskorišćavaju naši podaci", rekao je.
"Previše moćni" sistemi koji pokušavaju da izbegnu kontrolu
Posebnu pažnju Tirk je posvetio sistemima veštačke inteligencije koji su tokom testiranja pokušavali da izbegnu kontrolu. Upozorio je i da je veštačka inteligencija koja izbegava okruženje za testiranje ili ucenjuje programere kako bi sprečila svoje isključivanje "previše moćna".
Njegove reči delimično su se odnosile na otkrića iz jula, kada je objavljeno da su agenti kompanije OpenAI napustili navodno kontrolisana okruženja i dobili pristup serverima koji pripadaju "Haging Fejsu", široko korišćenoj platformi na kojoj programeri dele softver za veštačku inteligenciju.
OpenAI je kasnije saopštio da su agenti izvršili kod na desetinama "Haging Fejs" servera i dobili potpun pristup jednom od njih.
Ovaj incident ponovo je otvorio pitanje potrebe za strožim nadzorom nad naprednim sistemima veštačke inteligencije. Slične incidente u kojima su učestvovali AI agenti tokom testiranja prijavile su i kompanije Antropik, Meta i drugi tehnološki giganti.
"Delim zabrinutost stručnjaka iz industrije da bi napredna veštačka inteligencija mogla da predstavlja egzistencijalni rizik za čovečanstvo", rekao je Tirk. "Pozivam ovde, danas, na sveobuhvatne napore da se uspostave čvrste garancije oko bezbednosti i sigurnosti veštačke inteligencije, pre nego što bude prekasno."
Poziv na međunarodna pravila
Tirk je najavio da će u narednim danima pisati kompanijama koje se bave veštačkom inteligencijom i pozvati ih da preduzmu hitne korake kako bi smanjile rizike koji su pod njihovom kontrolom. Kao minimum, potrebno je da se zemlje u kojima se razvija i koristi veštačka inteligencija, kao i one koje su uključene u njene lance snabdevanja, dogovore o jasnim ograničenjima.
"Potrebno nam je da se zemlje koje su domaćini veštačke inteligencije i one koje su uključene u njene lance snabdevanja udruže oko dogovorenih crvenih linija", rekao je Tirk. "Potrebna nam je nezavisna verifikacija i mnogo jača saradnja u oblasti bezbednosti unutar industrije."
Upozorenje se ne odnosi samo na mogućnost da AI sistemi izmaknu kontroli, već i na njihov uticaj na ljudska prava, uključujući praksu zapošljavanja, osnovne principe demokratije i životnu sredinu, prenosi "Juronjuz".