Veštačka inteligencija se sve više koristi za pravljenje lažnih fotografija dece i njihovu ucenu

Veštačka inteligencija otvorila je nove mogućnosti za stvaranje različitog sadržaja, ali se sve više koristi i za oblike zloupotrebe koji posebno ugrožavaju decu. Novi uznemirujući podaci pokazuju da se broj takvih materijala, uključujući lažne, fotorealistične prikaze nastale pomoću takozvanih "nudifaj" aplikacija, povećao se sa oko 4.700 u 2023. na više od 400.000 u 2025. godini, a organizacije za zaštitu dece pozivaju vlade da hitno reaguju.

Broj prijavljenih materijala o seksualnom zlostavljanju dece povezanih sa veštačkom inteligencijom porastao je za više od 8.400 odsto za samo dve godine, prema izveštaju Instituta za globalnu bezbednost dece Čajldlajt. Iako su prikazi lažni, mogu se koristiti za ucenu dece, uz zahteve za novac ili dodatne fotografije. Istraživanje je zasnovano na izveštajima o materijalima koje su tehnološke kompanije dostavile američkom Nacionalnom centru za nestalu i eksploatisanu decu.

Nalazi otkrivaju šokantne razmere seksualne eksploatacije dece i brzinu kojom se menjaju pretnje po bezbednost najmlađih, naročito u digitalnom okruženju.

Materijali generisani AI sve češće se pojavljuju na internetu

Rast ove vrste sadržaja potvrđuju i podaci Fondacije za internet nadzor (IWF). Prema njenom izveštaju, količina materijala o seksualnom zlostavljanju dece generisanog veštačkom inteligencijom koji se pojavljuje na internetu raste.

Analitičari su pronašli više fotorealističnih prikaza seksualnog zlostavljanja dece u prvoj polovini 2026. nego tokom cele 2025. godine. Ova nevladina organizacija sa sedištem u Velikoj Britaniji, koja prati materijale o zlostavljanju širom sveta, saopštila je da je identifikovala 6.310 slika generisanih veštačkom inteligencijom koje ispunjavaju zakonsku definiciju seksualnog zlostavljanja dece - što je 40 odsto više od ukupno više od 4.500 takvih slika zabeleženih tokom prethodne godine.

Više od 300 miliona dece izloženo je zlostavljanju uz pomoć tehnologije

Prema procenama organizacije Čajldlajt, više od 300 miliona dece širom sveta svake godine doživi barem jedan oblik seksualne eksploatacije ili zlostavljanja uz pomoć tehnologije. Takođe se procenjuje da će približno svako četvrto dete biti izloženo barem jednom obliku zlostavljanja pre navršene 18. godine.

Istraživanje se bavilo i seksualnim zlostavljanjem van interneta. Podaci pokazuju da je u Severnoj Americi gotovo trećina devojčica i više od jednog od 10 dečaka tokom detinjstva doživelo seksualno zlostavljanje uživo. Među oblicima takvog zlostavljanja navedeni su seksualni napad, silovanje i snimanje ispod suknje.

Organizacije pozivaju vlade na hitnu reakciju

Globalna direktorka za podatke u organizaciji Čajldlajt Debi Fraj upozorila je da brzina kojom veštačka inteligencija menja pretnje po decu izaziva ozbiljnu zabrinutost. Istakla je da deo rasta broja prijava može biti posledica boljeg otkrivanja i izveštavanja, ali da nalazi ipak ukazuju na potrebu za hitnim delovanjem vlada i tehnoloških kompanija.

Prema njenim rečima, neophodno je bolje razumeti nove oblike zloupotrebe, sprečiti ih i što brže uklanjati sporne materijale. Objedinjavanje podataka iz anketa, policijskih evidencija i drugih izvora može pomoći u utvrđivanju rizika, otkrivanju slabosti u sistemima zaštite i usmeravanju resursa tamo gde su najpotrebniji.

"Ne možemo efikasno sprečiti zlostavljanje ili zaštititi decu bez razumevanja njegovih pravih razmera i prirode. Ali nema ničeg neizbežnog u vezi sa seksualnom eksploatacijom i zlostavljanjem dece. Imamo znanje i alate da napravimo razliku", poručio je Pol Stenfild, izvršni direktor organizacije, prenosi "Gardijan".

On je pozvao vlade da seksualnu eksploataciju i zlostavljanje dece prepoznaju kao sprečivu vanrednu situaciju u javnom zdravstvu, ulažu u prikupljanje pouzdanijih podataka i pretvore ih u konkretne mere. Kako je istakao, međunarodna saradnja i pravovremene intervencije mogu pomoći u sprečavanju zlostavljanja i obezbeđivanju bezbednijeg detinjstva za milione dece.