Upalila se crvena lampica: Šta ako veštačka inteligencija bude superiorna ljudskoj?

"Tesla", "Spejs iks" i izvršni direktor "Tvitera" Ilon Musk, zajedno sa više od 1.000 tehnoloških lidera i stručnjaka za veštačku inteligenciju (AI), pozivaju na privremeni moratorijum u razvoju ovih sistema, upozoravajući da on donosi ogromne rizike po društvo i civilizaciju.

Međutim, Elizer Judkovski, stručnjak sa Instituta za istraživanje veštačke inteligencije, koji ima više od dve decenije iskustva u ovoj oblasti, u tekstu koji objavljuje "Tajm", tvrdi da predlog šestomesečnog moratorijuma na razvoj moćnih sistema veštačke inteligencije "ne ide dovoljno daleko."

Judkovski upozorava da je "šestomesečna pauza" u razvoju moćnih AI sistema, koje zahteva izvršni direktor "Tesle" Ilon Mask i stotine drugih stručnjaka, potcenjuje "ozbiljnost situacije". Judkovski bi u tome otišao korak dalje, uvodeći moratorijum za nove modele učenja AI koji bi bio "neograničen i protezao bi se na sve zemlje sveta."

U otvorenom pismu, koje je izdao Institut za budućnost života i koje je potpisalo više od 1.000 ljudi, uključujući Ilona Maska i Stiva Voznijaka, navodi se da nezavisni kontrolori treba da razviju bezbednosne protokole koji će povesti računa o budućnosti sistema AI.

"Moćne sisteme veštačke inteligencije treba da razvijamo tek kada budemo sigurni da će njihovi efekti biti pozitivni i da ćemo moći upravljati mogućim rizicima", tvrdi Judkovski, upozoravajući da je "sve to nedovoljno."

Ugasite sve

"Ključno pitanje nije inteligencija koja može da konkuriše ljudima, već šta će se desiti kada AI bude raspolagala inteligencijom koja je superiorna ljudskoj", napisao je Judkovski za "Tajm".

"Mnogi istraživači koji su zaokupljeni ovim pitanjima, uključujući i mene, očekuju da je najverovatniji rezultat stvaranja nadljudske veštačke inteligencije biti da će pomreti doslovno svi na Zemlji", tvrdi ovaj stručnjak.

Za Judkovskog, problem je u tome što bi AI, koja je iznad ljudskih bića, mogla da se otme svojim tvorcima: "Ona doslovno ne bi uzimala u obzir ljudske živote. Nemojte misliti da je to `Terminator`. Predstavite sebi vanzemaljsku civilizaciju, koja razmišlja milion puta brže od čoveka, u svetu stvorenja koja su, iz njihove perspektive, veoma glupa i spora", upozorio je ovaj stručnjak.

Ovaj stručnjak podseća da ne postoji plan za suočavanje čovečanstva sa superinteligencijom. Takođe, on je veoma zabrinut da istraživači AI zapravo ne znaju da li su modeli učenja postali "samosvesni" i da li je uopšte etički posedovati ih.

Judkovski predlaže međunarodnu saradnju velikih sila na zaustavljanju moćnih AI sistema, čak i između rivala poput SAD i Kine. On dodaje da je to mnogo važnije od pitanja nuklearnog naoružanja i da bi razne zemlje trebalo da razmotre čak i upotrebu nuklearnog oružja "ukoliko bi to sprečilo rizik koji donosi AI."

"Ugasite sve", apelovao je Judkovski. "Isključite sve velike GPU klastere (velike kompjuterske firme u kojima se radi na najmoćnijim AI sistemima). Postavite gornju granicu na to koliko računarske snage smemo da koristimo u obučavanju AI sistema. Sve to bez izuzetaka za vlade i vojsku."

Drastično upozorenje Judkovskog dolazi u trenutku kada softver za AI dobija sve veću popularnost.

Čet GPT je nedavno šokirao korisnike širom sveta svojom sposobnošću da komponuje pesme ili napiše tekst.