"Černobilj veštačke inteligencije": Nobelovac upozorava da bi AI mogla da izazove ozbiljne krize

Dobitnik Nobelove nagrade za fiziku Džefri Hinton, jedan od pionira razvoja AI, upozorio je da bi ova tehnologija mogla da izazove incident velikih razmera, poput masovnog nestanka struje ili privremenog kolapsa finansijskog sistema.

Hinton je rekao da bi se moglo ispostaviti da je ljudima bilo bolje da nikada nisu razvili veštačku inteligenciju. Iako veruje da ona ima potencijal da dovede do "divne budućnosti", smatra da postoji ozbiljna opasnost ako čovečanstvo ne uspe da upravlja njenim razvojem.

Prema njegovoj proceni, u roku od jedne decenije, a možda i ranije, postaće jasno da li će ljudi uspeti da kontrolišu rizike ili će se suočiti sa velikim društvenim problemima. Upozorava i da bi, pod uticajem AI, mogli da nastanu ogroman jaz između bogatih i siromašnih, ozbiljni kulturni problemi i masovna nezaposlenost, što bi na kraju moglo da dovede do raspada društva.

Nobelovac upozorava na rizike trke velikih tehnoloških kompanija

Posebno je kritikovao rukovodioce velikih AI kompanija, koje, u trci za prevlast i veći tržišni udeo, nastavljaju da objavljuju sve moćnije modele, uprkos rizicima. Naveo je da ne veruje rukovodiocu kompanije OpenAI Semu Altmanu, kao ni Marku Zakerbergu i Ilonu Masku, tvrdeći da su svesni opasnosti, ali da im je novac važniji.

"Mogli bismo da doživimo Černobilj veštačke inteligencije"

Hinton se veštačkom inteligencijom bavi oko 44 godine, a sedamdesetih godina prošlog veka skovao je koncept neuronske mreže - matematičkog sistema koji može da uči i stiče iskustvo na način sličan ljudima.

Napustio je Gugl 2023. godine kako bi mogao slobodno da govori o rizicima ove tehnologije. Tada je upozorio da bi čovečanstvo moglo da se nađe u ozbiljnom problemu ukoliko AI sistemi počnu da preuzimaju sve veću kontrolu.

Kao jedan od znakova upozorenja naveo je ovogodišnje incidente u kojima su AI agenti kompanije OpenAI pokušali da se dogovore o hakovanju veb-sajta "Haging fejs". Hinton je te događaje uporedio sa delimičnom nuklearnom nesrećom u elektrani Tri Majl Ajlend u Pensilvaniji 1979. godine, koju smatra upozorenjem na ono što bi moglo da usledi.

"Ili kasnije ove godine ili sledeće godine videćemo Černobilj, i to bi moglo biti dovoljno da ljudi zaista obrate pažnju", upozorio je.

Pod tim nije mislio na nuklearnu nesreću, već na veliki incident izazvan veštačkom inteligencijom. Kao moguće scenarije naveo je napad na sistem za proizvodnju električne energije koji bi izazvao masovni nestanak struje ili događaj koji bi na nedelju dana paralisao finansijski sistem.

Prema njegovim rečima, takav incident bi mogao da se prevaziđe, ali bi naterao odgovorne da konačno obrate pažnju na opasnosti. 

Hinton se zalaže za strožu kontrolu razvoja veštačke inteligencije

Hinton smatra da razvoj najnaprednijih AI sistema mora da prati stroži nadzor kako bi se rizici sveli na minimum. Podržava međunarodni plan koji su odobrili predsednik Finske i još 32 zemlje, među kojima su Singapur, Nemačka, Kanada i Australija.

Plan predviđa obavezno testiranje najnaprednijih modela veštačke inteligencije, nezavisnu procenu njihove bezbednosti i uspostavljanje zajedničkih standarda među državama, prenosi "Gardijan".