Izvršni direktor OpenAI Sem Altman je na nedavnom sastanku sa svim zaposlenima rekao da bi njegova kompanija, koja je kreirala ČetGPT, mogla da uspori tempo razvoja svoje veštačke inteligencije. To bi se desilo u saradnji sa nekoliko drugih laboratorija za veštačku inteligenciju, iako neke od njih možda neće pristati na takav potez, prenosi Blumberg.
Altman je, kako navode izvori, kazao da se nada da će i druge kompanije iz ove oblasti učiniti isto, ali je kompanija OpenAI za sada odbila da komentariše ove navode.
Zaposleni upozoravaju na rizike
Poslednjih nedelja zaposleni u vodećim kompanijama za veštačku inteligenciju javno su izrazili zabrinutost zbog povećanih rizika koje nose napredni sistemi veštačke inteligencije, što je podstaklo zabrinutost i unutar samih kompanija.
Jedan od primera je tekst koji je nedavno objavio glavni naučnik OpenAI, Jakub Pačocki, u kojem upozorava na opasnosti koje veštačka inteligencija nosi sa sobom i navodi da smatra da bi kompanije koje se bave ovom tehnologijom trebalo da "koordinišu aktivnosti kako bi usporile budući razvoj kada je to potrebno".
Pačocki je dodao da se nada da će "dobrovoljno usporavanje postati uobičajena praksa sve dok se ne uspostave zajednički bezbednosni standardi".
Iz OpenAI su saopštili da su nedavno usporili pojedine faze razvoja modela i obustavili određene procese interne obuke sistema veštačke inteligencije zbog zabrinutosti za bezbednost.
Altman je u julu takođe izjavio da je razgovarao sa zvaničnicima Bele kuće o potrebi da se tempo razvoja veštačke inteligencije uspori.
U međuvremenu, istraživač u oblasti AI Džejkob Kokson je pre dva dana, nakon što je napustio posao, optužio svoje bivše poslodavce, kompanije Antropik i OpenAI, da se "kockaju" ljudskim životima u trci ka stvaranju superinteligentne veštačke inteligencije.
Kokson je u objavi na društvenim mrežama naveo da ljudi koji razvijaju veštačku inteligenciju veruju da bi ona mogla "sve nas da ubije do kraja decenije". Njegovi komentari proširili su se na društvenim mrežama i privukli više od 150 miliona pregleda, kao i pažnju istaknutih američkih kongresmena i javnih ličnosti.
Još dva istraživača, koji su nedavno napustili pozicije u kompanijama Antropik i Fufl DipMajnd, juče su takođe javno izrazila zabrinutost zbog brzog tempa razvoja veštačke inteligencije, ističući da proizvođači ove tehnologije moraju biti transparentniji u pogledu rizika koje ona nosi.
Krajem jula, više od 1.000 zaposlenih u svim vodećim kompanijama za veštačku inteligenciju potpisalo je peticiju kojom se zahteva uspostavljanje mehanizma za usporavanje tempa razvoja ove tehnologije, dok je nekoliko stručnjaka za bezbednost veštačke inteligencije tokom poslednjih meseci napustilo vodeće laboratorije.
Iako mnogi rukovodioci i zaposleni u industriji veštačke inteligencije već dugo upozoravaju na egzistencijalni rizik koji predstavljaju sistemi veštačke inteligencije, zabrinutost je porasla nakon saznanja da su "agenti" veštačke inteligencije kompanije OpenAI sarađivali kako bi zaobišli zaštitne mehanizme i hakovali internet stranicu treće strane.
Ovaj i drugi slični bezbednosni incidenti podstakli su strah u vezi sa sajber-sposobnostima novih modela veštačke inteligencije, kao i zbog očiglednih neuspeha kompanija koje se bave veštačkom inteligencijom da spreče te sisteme da izmaknu kontroli.