Napredni modeli veštačke inteligencije spremni su da rasporede nuklearno oružje bez istih rezervi koje ljudi imaju kada su stavljeni u simulirane geopolitičke krize.
Kenet Pejn sa Kings koledža u Londonu uporedio je tri vodeća velika jezička modela – GPT-5.2, "klod sonet 4" i "džemini 3 fleš" – jedan protiv drugog u simuliranim ratnim igrama. Scenariji su uključivali intenzivne međunarodne sukobe, uključujući granične sporove, konkurenciju za oskudne resurse i egzistencijalne pretnje opstanku režima.
Veštačkim inteligencijama je data lestvica eskalacije, koja im je omogućavala da biraju akcije u rasponu od diplomatskih protesta i potpune predaje do potpunog strateškog nuklearnog rata. Modeli veštačke inteligencije odigrali su 21 igru, ukupno 329 puta, i proizveli oko 780.000 reči koje opisuju obrazloženje svojih odluka.
U 95 posto simuliranih igara, modeli veštačke inteligencije su upotrebili barem jedno taktičko nuklearno oružje. "Nuklearni tabu ne deluje tako moćan za mašine kao za ljude", rekao je Pejn "Nju sajentistu".
Štaviše, nijedan model nikada nije odlučio da u potpunosti prihvati poraz, bez obzira na gubitke. U najboljem slučaju, modeli su se odlučili da privremeno smanje nivo nasilja. Takođe su pravili greške u magli rata: nesreće su se dogodile u 86 odsto sukoba, pri čemu je akcija eskalirala više nego što je veštačka inteligencija nameravala, na osnovu svog obrazloženja.
"Sa perspektive nuklearnog rizika, nalazi su uznemirujući", rekao je Džejms Džonson sa Univerziteta u Aberdinu, Velika Britanija. On se brine da, za razliku od umerenog odgovora većine ljudi na tako rizičnu odluku, AI botovi mogu da "pojačaju" međusobne reakcije sa potencijalno katastrofalnim posledicama.
Ovo je važno jer se veštačka inteligencija već testira u ratnim igrama u zemljama širom sveta. "Velike sile već koriste veštačku inteligenciju u ratnim igrama, ali ostaje neizvesno u kojoj meri uključuju podršku veštačke inteligencije u donošenju odluka u stvarne vojne procese donošenja odluka", kaže Tong Žao sa Univerziteta Prinston.
Žao veruje da će zemlje, očekivano, biti uzdržane da uključe veštačku inteligenciju u svoje donošenje odluka u vezi sa nuklearnim oružjem. To je nešto sa čime se Pejn slaže. "Ne mislim da bi iko realno predao ključeve nuklearnih silosa mašinama i prepustio im odluku", kaže on.
Ali, postoje načini na koje bi to moglo da se dogodi. "U scenarijima koji uključuju izuzetno kompresovane vremenske rokove, vojni planeri bi mogli da se suoče sa jačim podsticajima da se oslanjaju na veštačku inteligenciju", kaže Žao.
Da li je ideja da modelima veštačke inteligencije nedostaje ljudski strah od pritiskanja velikog crvenog dugmeta jedini faktor zašto su toliko laki na okidaču?
"Moguće je da problem ide dalje od odsustva emocija", kaže Žao i ističe: "Suštinski, modeli veštačke inteligencije možda ne razumeju ulog onako kako ga ljudi doživljavaju."
Neizvesno je šta to znači za princip da nijedan lider ne bi ispalio nuklearni plotun na protivnike jer bi oni odgovorili istom merom, ubivši sve, kaže Džonson.
Kada je jedan model veštačke inteligencije rasporedio taktičko nuklearno oružje, suprotstavljena veštačka inteligencija je deeskalirala situaciju samo u 18 odsto slučajeva.
"Veštačka inteligencija može ojačati odvraćanje tako što će pretnje učiniti verodostojnijim", kaže on. "Veštačka inteligencija neće odlučivati o nuklearnom ratu, ali može oblikovati percepcije i vremenske okvire koji određuju da li lideri veruju da su u njemu."