"Špigl": Elita u oblasti veštačke inteligencije upozorava na kraj čovečanstva

Prema stotinama stručnjaka, veštačka inteligencija (AI) nosi "rizik od izumiranja" za čovečanstvo. Najnovije upozorenje sastoji se od jedne jedine rečenice.  

U upadljivo kratkoj izjavi, stotine stručnjaka upozorilo je na opasnosti koje prete od veštačke inteligencije: "Smanjenju rizika od uništenja putem veštačke inteligencije treba dati globalni prioritet, u rangu sa drugim opasnostima po društvo u celini, kao što su pandemije i nuklearni rat", piše u saopštenju.

Potpisnici ovog apela su Sem Altman, izvršni direktor kompanije "Open AI", Demis Hasabis, šef "Gugl dip majnda", kao i istraživači veštačke inteligencije i dobitnici Turingove nagrade, Džefri Hinton i Jošua Bengjo.

Tajvanska ministarka za digitalne tehnologije Odri Tang, glavni tehnološki direktor "Majkrosofta" Kevin Skot, muzičarka Grajms i brojni stručnjaci za veštačku inteligenciju, iz oblasti istraživanja i sveta biznisa, takođe se nalaze na listi.

Upozorenje je izdao Centar za bezbednost veštačke inteligencije sa sedištem u San Francisku. Poruku je prvi objavio "Njujork tajms". Prema pisanju ovog lista, izjava je namerno kratka kako bi je potpisali stručnjaci koji bi inače imali različite poglede na konkretne opasnosti koje predstavlja veštačka inteligencija.

Ključno je da ljudi zadrže kontrolu

Krajem marta, poznate ličnosti, poput Ilona Maska i drugih stručnjaka za veštačku inteligenciju, objavili su otvoreno pismo u kojem su pozvali na šestomesečnu pauzu u istraživanjima novih sistema veštačke inteligencije koji prevazilaze trenutni "Open AI" model GPT.

"Moćni sistemi veštačke inteligencije treba da se razvijaju samo kada budemo uvereni da će njihov uticaj biti pozitivan i da će se ovim rizicima moći upravljati", navodi se u ovom pismu.

Početkom maja, pionir veštačke inteligencije Džefri Hinton dao je slično upozorenje, nakon što je napustio svog dugogodišnjeg poslodavca, kompaniju "Gugl". Imena drugih stručnjaka, koji su tokom proteklih nekoliko nedelja ili meseci u člancima ili intervjuima izrazili svoju zabrinutost zbog nekontrolisanog korišćenja veštačke inteligencije, uključena su u ovu novu izjavu od utorka.

Upozorenje, koje je sada objavio Centar za bezbednost veštačke inteligencije, posebno je upečatljivo jer su mnogi potpisnici zaposleni na visokim pozicijama upravo u onim kompanijama koje trenutno rade na sve moćnijim AI modelima i aplikacijama.

Sem Altman je, na primer, u intervjuu za "Špigl" prošle nedelje rekao da je "veoma zabrinut da bi se biološki ratni agensi mogli razviti uz pomoć AI sistema".

Altman ne želi da povlači crvene linije samo u razvoju: "Ključno je da odredimo granice za ovu tehnologiju u demokratskom procesu i da mi, ljudi, zadržimo kontrolu. Uzgred, i nama je kao kompaniji potrebna jasnoća. Upravo zato treba da regulišemo ovu oblast."

Međutim, postoje i neslaganja u istraživačkoj zajednici.

Glavni naučnik "Mete" za veštačku inteligenciju Jan Le Kun, na primer, koji je dobio Tjuringovu nagradu zajedno sa Hintonom i Bengjom, do sada nije želeo da potpisuje ovakve apele. On ovakva upozorenja naziva "AI predviđanjima smaka sveta".