Magazin
Šta se krije iza otpuštanja Sema Altmana: Upozoravajuće pismo izvršnom odboru o pretnji čovečanstvu
Anonimni izvori bliski kompaniji "Open AI" su za Rojters podelili da je upravni odbor kompanije dobio vrlo ozbiljno upozorenje u vidu pisma, samo nekoliko dana pre smene izvršnog direktora Sama Altmana. Podsećamo, Altman je pre nekoliko dana smenjen sa čela kompanije "Open AI", koja igra ključnu ulogu u razvoju veštačke inteligencije u svetu. Juče je objavljeno da se Altman vraća na istu funkciju, ali detalji o potencijalnom uzroku njegovog otpuštanja su sada isplivali na površinu.
Nekoliko istraživača iz kompanije "Open AI" je napisalo pismo upravnom odboru kompanije pre nego što je došlo do smenjivanja Altmana u petak, u kome su skrenuli pažnju na moćno otkriće na polju veštačke inteligencije (AI), koje bi navodno moglo biti opasno po čovečanstvo.
Navedeno pismo (o kojem se dosad nije izveštavalo) i razvoj algoritma veštačke inteligencije bili su ključni događaji uoči smene Altmana, kojeg mnogi smatraju ocem veštaćke inteligencije, rekla su dva izvora za Rojters. Reakcije "Open AI" zaposlenih početkom nedelje, nakon prvobitnog otpuštanja Altmana, su bile pravi dokaz njegovog uticaja, jer je više od 700 zaposlenih pretilo je da će, u znak solidarnosti, dati otkaz i pridružiti se osnivaču Majkrosofta, zajedno sa Semom.
Nedovoljno opreznosti
Izvori su opisali pismo kao jedan od faktora na dužoj listi pritužbi odbora koje su dovele do Altmanove smene, među kojima je bila i zabrinutost zbog komercijalizacije razvoja veštačke inteligencije, pre nego što se u potpunosti preispitaju posledice. Za sada, tačan sadržaj pisma nije poznat.
Predstavnici kompanije "Open AI" su u internoj poruci osoblju potvrdili projekat pod nazivom "Kju (Q*)", kao i pismo upravi pre smene Altmana, rekao je jedan od izvora. Poruka, koju je poslala privremena direktorka Mira Murati, je služila kao upozorenje osoblju na određene medijske priče, ali nije se tačnost informacija nije komentarisala.
Novi projekti, nepoznata budućnost
Neki u kompaniji veruju da bi projekat "Q*" mogao biti oznaka za značajan napredak u potrazi za onim što je poznato kao veštačka opšta inteligencija (AGI), rekao je jedan izvora za Rojters. AGI je definisan kao skup autonomnih sistema koji nadmašuju ljude u većini ekonomski vrednih zadataka.
Uz pomoć velikih računarskih resursa, ovaj model je mogao rešiti određene matematičke probleme. Iako su zadaci bili na nivou učenika osnovne škole, rešavanje testova je učinilo istraživače vrlo optimističnima u pogledu budućeg uspeha projekta "Q*".
Trenutno je "klasična", generativna veštačka inteligencija dobra u pisanju i prevođenju jezika pomoću statističkog predviđanja sledeće reči. Ipak, usavršavanje sposobnosti rešavanja matematičkih zadataka kod AGI, gde postoji samo jedan tačan odgovor, implicira da bi veštačka inteligencija imala veće sposobnosti rasuđivanja nalik ljudskoj inteligenciji.
Za razliku od kalkulatora koji može rešiti ograničeni broj operacija, AGI može generalizovati, učiti i razumeti. U svom pismu odboru, istraživači su naglasili snagu i potencijalnu opasnost veštačke inteligencije. Među računarskim naučnicima već se dugo raspravlja o rizicima koja ovakva otkrića predstavljaju, pogotovo ako, na primer, odluče da im je uništenje čovečanstva u interesu.
Altman je vodio napore da Čet GPT postane jedna od najbrže rastućih softverskih aplikacija u istoriji i uspeo je da privuče brojna ulaganja, zajedno sa računarskim resursima kompanije "Majkrosoft", koji su potrebni da se poboljša razvoj AGI-a.
Osim što je najavio mnoštvo novih alata u demonstraciji ovog meseca, Altman jeprošle nedelje na događaju svetskih vođa u San Francisku najavio da veruje da su veliki pomaci na vidiku:
"Četiri puta u istoriji kompanije "Open AI", poslednji put je bilo u proteklih nekoliko nedelja, bio sam u prostoriji kada smo na neki način gurnuli veo neznanja unazad a granicu otkrića unapred. Napraviti tako nešto je profesionalna čast za ceo život," rekao je. Dan kasnije, odbor je smenio Altmana, a juče ga je ponovo zaposlio.
