Umjetna inteligencija mijenja način na koji kriminalci proizvode, distribuiraju i unovčavaju seksualizirani sadržaj djece, upozoravaju iz Globalne inicijative protiv transnacionalnog organiziranog kriminala (GI-TOC). Ističu da najveći izazov nije samo razvoj novih tehnologija, već činjenica da kriminalna upotreba AI alata napreduje mnogo brže od zakona, institucija i kapaciteta za istrage.
Prema riječima Anese Agović Đozo, više analitičarke Globalne inicijative protiv transnacionalnog organizovanog kriminala i jedne od autorica izvještaja “Abuse at scale: Artificial intelligence is reshaping child sexual exploitation”, generativna umjetna inteligencija značajno je smanjila tehničke i finansijske prepreke za stvaranje uvjerljivih seksualiziranih prikaza djece.
“Fotografije preuzete sa društvenih mreža danas se mogu brzo izmijeniti, seksualizirati ili uključiti u potpuno sintetički sadržaj bez znanja djeteta”, kaže Agović Đozo.
Dodaje da su postojeći zakoni i alati za otkrivanje uglavnom razvijeni u periodu kada je fokus bio na fotografskom materijalu stvarnog zlostavljanja, dok se danas suočavamo s masovnom proizvodnjom sintetičkog i manipulisanog sadržaja.
Izvještaji međunarodnih organizacija upozoravaju da je količina AI-generisanog materijala seksualnog zlostavljanja djece (CSAM) u posljednjih nekoliko godina naglo porasla. Procjenjuje se da je najmanje 1,2 miliona djece imalo svoj lik iskorišten za stvaranje takvog sadržaja.
Prema analizi GI-TOC-a, sintetički CSAM ne mora zamijeniti materijal stvarnog zlostavljanja, već može proširiti tržište, povećati potražnju, normalizirati seksualizaciju djece i olakšati prelazak počinilaca prema težim oblicima nasilja.
Livia Wagner, šefica kabineta i tematska voditeljica za trgovinu ljudima u GI-TOC-u i jedna od autorica izvještaja, objašnjava da je online seksualna eksploatacija djece ranije često bila povezana sa zatvorenim zajednicama u kojima su ključnu ulogu imali pojedinci sa određenim tehničkim znanjima. Međutim, posljednjih godina primjetan je trend industrijalizacije kriminalnih aktivnosti u različitim oblastima cyber kriminala.
“Umjetna inteligencija dio je tog procesa jer omogućava stvaranje ekosistema u kojem različiti akteri mogu biti specijalizirani za različite funkcije unutar kriminalnog lanca”, kaže Wagner. Ta specijalizacija može uključivati kreiranje sadržaja, distribuciju, finansijske usluge, odabir žrtava, vrbovanje djece, administraciju platformi i druge aktivnosti.
“To čini kriminalne mreže otpornijima, jer različiti učesnici preuzimaju različite uloge, a pojedinci postaju međusobno zamjenjivi”, ističe Wagner.
Agović Đozo dodaje da zloupotrebu AI alata i dalje mogu činiti pojedinci ili manje zatvorene online zajednice, jer generativni alati omogućavaju proizvodnju sadržaja bez naprednog tehničkog znanja.
Istovremeno se, kaže, primjećuje profesionalizacija i komercijalizacija ovog kriminalnog tržišta.
“Ne bih rekla da organizovane kriminalne grupe potpuno preuzimaju ovu oblast od pojedinaca. Prije se radi o nastanku slojevitog tržišta u kojem individualni počinioci, tehnički posrednici, administratori platformi, pružaoci AI alata, distributeri i finansijski posrednici mogu djelovati kao dio iste kriminalne ekonomije, čak i kada se međusobno ne poznaju”, kaže Agović Đozo.
Promjena se ogleda u prelasku prema modelima crime-as-a-service, gdje kriminalci više ne moraju sami razvijati tehnologiju ili posjedovati posebne vještine. Mogu koristiti gotove AI modele, chatbot servise, aplikacije za manipulaciju fotografijama, pretplatničke platforme i infrastrukturu za distribuciju i naplatu.
Prema izvještaju, umjetna inteligencija danas se koristi kroz različite faze seksualne eksploatacije djece, od stvaranja lažnih identiteta i automatizovanog vrbovanja žrtava do proizvodnje i distribucije sadržaja.
Međunarodne policijske operacije pokazale su razmjere problema. Operacija “Cumberland”, koju su tokom 2025. predvodile vlasti iz 19 država, razotkrila je jednu od prvih transnacionalnih mreža za distribuciju AI-generisanog CSAM sadržaja, pri čemu je identifikovano gotovo 300 korisnika širom svijeta. Operacija “Torch” u julu 2026. rezultirala je hapšenjima u više evropskih država.
Detektor je ranije pisao o prvom hapšenju u Banjoj Luci zbog dječije pornografije koju je generisala umjetna inteligencija.
Agović Đozo smatra da je jedan od najvećih propusta tehnoloških kompanija to što se sigurnost djece često tretira kao dodatna funkcija, umjesto kao osnovni princip razvoja proizvoda. Kompanije, kaže, ulažu ogromne resurse u brzinu, kvalitet i dostupnost modela, dok se testiranje zloupotrebe, zaštita podataka djece i sprečavanje seksualiziranog sadržaja često razvijaju tek nakon što je šteta već nastala.
Zbog toga smatra da kompanije moraju biti obavezne provoditi detaljne procjene rizika prije objavljivanja novih AI sistema.
“Princip mora biti jednostavan i proizvod koji se može masovno zloupotrijebiti za seksualnu eksploataciju djece ne bi smio biti dostupan bez odgovarajuće zaštite”, naglašava Agović Đozo.
Evropska unija napravila je određene korake kroz regulaciju kojom se zabranjuju nudifier aplikacije i AI sistemi koji stvaraju materijal seksualnog zlostavljanja djece ili prikazuju intimne dijelove tijela bez pristanka. Ipak, istraživanje upozorava da regulatorni sistemi često ne mogu pratiti brzinu tehnoloških promjena.
“Države reaguju, ali još uvijek uglavnom reaktivno. Kriminalci mogu testirati i prilagoditi novi alat u roku od nekoliko dana, dok su za izmjenu zakona, obuku tužilaca i policije, nabavku forenzičkih alata i međunarodno usaglašavanje često potrebne godine”, ističe naša sagovornica.
Kao najvažniju mjeru zaštite, Livia Wagner izdvaja veću odgovornost tehnoloških kompanija, ali naglašava da problem ne treba posmatrati isključivo kao tehnološki izazov. Ne postoji univerzalno rješenje, tvrdi, a potrebno je pitanje posmatrati kroz okvir globalne odgovornosti.
Prema njenim riječima, kompanije koje razvijaju i primjenjuju napredne AI sisteme moraju sistematski procjenjivati rizike po sigurnost djece, provoditi mjere za njihovo ublažavanje i dokazivati da su te mjere djelotvorne.
“Govorimo o djeci koja su najranjivija na online eksploataciju, ali su često jednako ranjiva i izvan digitalnog okruženja. To je pitanje razvoja, socijalne isključenosti, slabih sistema zaštite, rodne neravnopravnosti, ali i digitalne pismenosti”, ističe.
Zaključuje da se tehnologija brzo razvija i teško je predvidjeti kako će izgledati u budućnosti, ali da se već sad može zaključiti da su postojeće društvene i ekonomske ranjivosti često presudniji faktor od same tehnologije. Upozorava i na činjenicu da kriminalne mreže djeluju globalno, dok regulacija, krivično gonjenje i pomoć žrtvama uglavnom ostaju u nadležnosti pojedinačnih država. Zbog toga su, prema njenim riječima, potrebni snažniji mehanizmi međunarodne razmjene podataka, usklađivanje pravnih standarda i veće uključivanje tehnološkog i fintech sektora.
Detektor je ranije pisao kako je Evropski parlament podržao prijedlog kojim bi aplikacije poput WhatsAppa, Signala i drugih servisa s end-to-end enkripcijom ostale izuzete od automatskog skeniranja privatnih poruka u potrazi za materijalima seksualnog zlostavljanja djece. Konačnu riječ sada ima Vijeće Evropske unije, koje će u naredna tri mjeseca odlučiti hoće li prihvatiti taj pristup ili će uslijediti novi pregovori o pravilima koja pokušavaju uskladiti zaštitu djece i pravo građana na privatnu komunikaciju.
Izvor: Detektor
