Papa Lav Četrnaesti izneo je oštro upozorenje o veštačkoj inteligenciji, tvrdeći da tehnologija pomaže "normalizaciji rata" i prenosi moć života i smrti na neodgovorne "tehnološke aktere".
Papa je svoje upozorenje uputio u okrivu poslanice "Veličanstveno čovečanstvo", navodeći da je "rast vojno-industrijskog kompleksa postao ključna karakteristika trenutnog političkog pejzaža", što je dovelo do "uznemirujućeg oživljavanja rata kao instrumenta međunarodne politike".
U ovom okruženju, "razvoj i upotreba veštačke inteligencije u ratovanju moraju biti podložni najstrožim etičkim ograničenjima, kako bi se garantovalo poštovanje ljudskog dostojanstva i svetosti života i kako bi se izbegla trka u razvoju takvog oružja", naveo je on.
Pape obično koriste enciklike da bi izložile svoja učenja o društvenim pitanjima svog vremena.
Od svog izbora prošlog maja, Lav XIV je više puta upozoravao na razornu moć tehnologije, opisujući veštačku inteligenciju kao potencijalnu pretnju "ljudskom dostojanstvu, pravdi i radu". Njegova poslanica sada ide korak dalje, pozivajući na globalni sporazum o "razoružavanju" tehnologije kako bi se sprečilo da "dominira čovečanstvom".
Papa protiv Silicijumske doline
Iako se papa nije poimenično obratio gigantima u oblasti odbrane iz Silicijumske doline, kao što su "Palantir" i "Anduril", istakao je pomeranje moći sa države na "glavne ekonomske i tehnološke aktere".
"Palantir" je postao posebno moćan poslednjih godina, sa svojim softverom za analizu podataka zasnovanim na veštačkoj inteligenciji koji američka vojska koristi za izbor ciljeva u Iranu, a Izraelske odbrambene snage (IDF) za planiranje udara u Gazi. U Iranu je "Palantirov" softver navodno izabrao osnovnu školu za devojčice u Minabu kao validnu metu, na osnovu zastarelih, ljudski sastavljenih mapa. Raketni napad na školu ubio je više od 160 učenica na prvi dan rata.
Papa je osudio rastuću automatizaciju ratovanja, izjavivši da je "nedopustivo poveravati smrtonosne ili na drugi način nepovratne odluke veštačkim sistemima". Sistemi omogućeni veštačkom inteligencijom moraju zadržati "lanac odgovornosti", napisao je, dodajući da "oni koji projektuju, obučavaju, odobravaju i koriste tehnologiju moraju biti odgovorni za svoje odluke".
Papina enciklika je u oštroj suprotnosti sa manifestom koji je prošlog meseca objavio izvršni direktor "Palantira" Aleks Karp, u kojem je izjavio da američke tehnološke kompanije imaju "afirmativnu obavezu" da pomognu američkoj vojsci, pozvao na remilitarizaciju Nemačke i Japana i tvrdio da Zapad ne bi trebalo da se upušta u "teatralne debate o prednostima razvoja tehnologija sa kritičnim vojnim i nacionalno-bezbednosnim primenama".
Papa je, ipak, pronašao neke saveznike unutar industrije veštačke inteligencije. Suosnivač kompanije "Antropik", Kristofer Olah, sastao se sa papom u Vatikanu u ponedeljak, rekavši publici visokih crkvenih vođa da laboratorije za veštačku inteligenciju rade "unutar skupa podsticaja i ograničenja koja ponekad mogu biti u suprotnosti sa činjenjem ispravne stvari" i da je regulisanje ove industrije 2moralni imperativ istorijskih razmera".
Sukob sa Trampom
Olah i papa su se poslednjih meseci sukobili sa američkim predsednikom Donaldom Trampom. Tramp je otkazao ugovore Pentagona sa "Antropikom" u februaru, nakon što je kompanija odbila da dozvoli da se njegov softver koristi u masovnom domaćem nadzoru ili potpuno autonomnom oružju. Dva meseca kasnije, Tramp je oštro kritikovao pontifa, nazivajući papu "slabim" zbog njegovog protivljenja američko-izraelskom ratu protiv Irana.
Papa je opisao Trampovu pretnju da će uništiti iransku civilizaciju kao "zaista neprihvatljivu2 i kritikovao je ministra odbrane Pita Hegseta zbog pozivanja Amerikanaca da se mole za pobedu "u ime Isusa Hrista". Bog, odgovorio je papa, "ne sluša molitve onih koji vode rat".
Papa je takođe osudio tekuću remilitarizaciju Evrope, upozoravajući da ponovno naoružavanje "iscrpljuje investicije u obrazovanje i zdravstvenu zaštitu, potkopava poverenje u diplomatiju i obogaćuje elite koje ne mare za opšte dobro".