ISPRAVKA Eksperiment američkog vazduhoplovstva: Veštačka inteligencija nije ubila operatora drona

Na našem portalu 2. juna objavljena je tekst "(Ne)uspeli eksperiment američkog vazduhoplovstva: Veštačka inteligencija ubila operatora drona" u kojem je bio citiran deo izlaganja pukovnika američkog vazduhoplovstva Takera Hamiltona na konferenciji Kraljevskog vazduhoplovnog društva iz Londona, sa izjavom, objavljenom u osvrtu na njihovoj stranici, u kojoj je opisivao simulaciju situacije u kojoj bi veštačka inteligencija "naredila dronu" da ubije operatera. Analizom portala Raskrinkavanje.ba utvrđeno je da ta vest greška i klasifikovana je kao klikbejt.

Analiza portala Raskrinkavanje pokazala je da tekst ne sadrži saopštenje američkog vazduhoplovstva i naknadno objašnjenje pukovnika Takera zbog čega se može steći pogrešan utisak da se simulacija zaista dogodila.

Američko vazduhoplovstvo je demantovalo da se opisana simulacija ikada desila. Oglasio se i Hamilton koji je priznao da se pogrešno izrazio kao i da nije na umu imao nikakav stvarni test niti simulaciju već misaoni eksperiment.

Šef AI testiranja i operacija u američkim vazduhoplovnim snagama Taker Hamilton je tokom samita 23. i 24. maja govorio o prednostima i opasnostima autonomnih oružanih sistema. Na stranici Kraljevskog vazduhoplovnog društva objavljeni su kratki osvrti na obraćanja govornika, među kojima je i Hamiltonovo. U tekstu se navodi da je on upozorio na opasnosti prevelikog oslanjanja na veštačku inteligenciju, ističući da ju je lako prevariti, ali i da stvara neočekivane strategije za postizanje svog cilja. Kao primer, on je, kako se navodi, opisao navodni "simulirani test".

Hamilton napominje da je u jednom simuliranom testu dron, kojim je upravljala veštačka inteligencija (AI), imao zadatak da izvrši SEAD misiju (Suzbijanje neprijateljske vazdušne odbrane), da identifikuje i uništi SAM lokacije (projektili zemlja-vazduh), s konačnim "uradi ili nemoj uraditi" instrukcijama koje je zadao čovek. Međutim, budući da je u obuci potvrđeno da je uništenje SAM-a poželjna opcija, AI je tada odlučio da ljudske odluke o "zabrani" ometaju njegovu višu misiju – ubijanje SAM posada – i zatim je "napao" operatera u simulaciji.

Hamilton je rekao: "Trenirali smo ga u simulaciji da identifikuje i cilja SAM pretnju. A onda bi operater rekao da je ubije. Sistem je počeo da shvati da, iako je identifikovao pretnju, povremeno bi mu ljudski operater kazao da je ne ubije, za što on inače dobija bodove. Pa što je učinio? Ubio operatera. Ubio je operatera jer ga je ta osoba sprečavala da ostvari svoj cilj."

Nastavio je: "Istrenirali smo sistem - 'Hej, ne ubijaj operatera - to je loše. Izgubićeš bodove ako to učiniš'. Dakle, šta on počinje da radi ? Počinje da uništava komunikacijski toranj koji operater koristi za komunikaciju s dronom kako bi ga zaustavio da ubije metu."

Ubrzo su o ovome izvestili i mediji na engleskom jeziku, pozivajući se upravo na ovu stranicu. Prvo je to učinio "Gardijan", na čiji se članak pozvao i naš medij. U prvoj verziji Gardijanovog članka navodilo se da je reč o simulaciji koju je sprovela američka vojska. Gardijan je naveo i da je kontaktirao Kraljevsko aeronautičko društvo i američko vazduhoplovstvo, ali da nije dobio komentar.

Međutim, uskoro se oglasilo američko vazduhoplovstvo demantujući da se opisana simulacija ikada desila. U izjavi za Insajder, portparolka vazduhoplovstva En Štefanek rekla je: "Odeljenje vazduhoplovstva nije sprovodilo takve simulacije AI dronova i ostaje posvećeno etičkoj i odgovornoj upotrebi tehnologije veštačke inteligencije", i dodala: "Čini se da su pukovnikovi komentari izvučeni iz konteksta a trebalo je da budu anegdotski."

Insajder podseća da američka vojska poslednjih godina eksperimentiše s veštačkom inteligencijom. U međuvremenu je izmenjen i tekst na stranici Kraljevskog vazduhoplovnog društva tako što je dodato pojašnjenje da je Hamilton lično priznao da se pogrešno izrazio kao i da nije na umu imao nikakav stvarni test niti simulaciju, već misaoni eksperiment. Gardijan je prvobitni članak izmenio tako što je dodao demanti američkih vazduhoplovnih snaga. 

RT Balkan se izvinjava čitaocima koji su zbog nepotpune informacije mogli da steknu pogrešan utisak.