Na platformi Telegram aktivne su desetine stranica i botova koji omogućavaju bilo kome da brzo i lako veštačkom inteligencijom ukloni odeću sa fotografije, a desetine hiljada ljudi iz Srbije na toj platformi dele slike žena „razgolićenih“ na ovaj način, preneo je danas BIRN.
Desetine hiljada ljudi iz Srbije na ovoj platformi dele slike žena ‘razgolićenih’ na ovaj način. Primarne mete su žene.
Ova praksa u Srbiji nije zakonom eksplicitno zabranja, te žrtve mogu samo da podnesu privatnu tužbu ukoliko saznaju ko je počinilac.
U Hrvatskoj je 2021. godine u Krivični zakon uvedeno krivično delo ‘zloupotreba seksualno eksplicitnog sadržaja’.
Crna Gora je prošle godine uvela posebno krivično delo za zloupotrebu tuđeg snimka, fotografije, portreta, audio zapisa ili fajla sa seksualno eksplicitnim sadržajem.
Adrijana Petković je 2020. u kupatilu svog doma u Knjaževcu napravila nevini selfi. Četiri godine kasnije njenom mužu je kolega poslao fotografiju, koju je dobio od drugog kolege – na njoj je Adrijana bila bez odeće, “svučena” veštačkom inteligencijom. Njena noćna mora je počela.
„Ja sam majka dva mala deteta, imam porodicu, roditelje, jedan stabilan i miran život i ovo je bio ogroman šok za nas. Mi živimo u malom mestu, sve su nam to bile ogrome neprijatnosti“, 25-godišnja Adrijana kaže za BIRN.
„Mi smo tada zvali sve za koje smo uspeli da saznamo da su imali kontakt sa slikom i zadnje do čega smo došli je da je to neko pustio u tu neku Telegram grupu ‘Knjazevac – Bor’ i da su je odatle skidali i slali međusobno.”
Slučaj je prijavila policiji, a zatim je dve nedelje čekala na odgovor. Konačno, iz policije su joj rekli da će upozoriti administratore Telegram grupe, ali „da ništa više od toga ne mogu jer ja nisam ucenjivana tom slikom, već je samo, eto tako, deljena po grupama i porukama”, Adrijana objašnjava.
„Nisam ni prva ni zadnja, bile su reči inspektora.”
Ona se nadala da će policija identifikovati osobu koja je kreirala njene lažne slike i da će moći da podnese tužbu. Odgovor policije ju je šokirao.
„Ja sam šokirana da je to najnormalnija stvar koju ljudi rade i da ti apsolutno ništa ne možeš da uradiš protiv toga. Ti nemaš nikakvu pomoć policije”, kaže Adrijana.
Dipfejk pornografija je oblik zlostavljanja i zloupotrebe fotografija ili snimaka koji se veštačkom inteligencijom (AI) menjaju i pretvaraju u seksualno eksplicitne sadržaje. Primarne mete su žene.
BIRN-ovo istraživanje pokazuje da su na Telegramu trenutno aktivne desetine stranica i botova koji omogućavaju bilo kome da koristi AI kako bi uklonio odeću sa fotografije sa samo nekoliko klikova.
na fotografijama (poruke preuzete sa Telegrama). Infografika: Igor Vujčić/BIRN
Novinarka BIRN-a je mesec dana testirala javno dostupne botove koji se dele u popularnim Telegram grupama na Balkanu. Neki se plaćaju, a neki nude besplatni probni period. Svi su jednostavni za korišćenje.
„Posledice su identične kao kada se objavi prava, neizmenjena fotografija žene, devojke ili devojčice seksualne sadržine. Čak može biti i gora, jer žrtva zna da se nije tako fotografisala, a ne može da dokaze da nije. Svi koji vide fotografiju automatski misle da jeste”, kaže Vanja Macanović, pravnica Autonomnog ženskog centra, nevladine organizacije koja pruža pravnu i psihološku pomoć žrtvama nasilja nad ženama.
U Srbiji ova praksa nije eksplicitno zabranjena zakonom i ženama poput Adrijane Petković ne preostaje mnogo toga, osim da podnesu privatnu tužbu ukoliko saznaju ko je počinilac.
Država mora da reaguje, upozorava Macanović, ili će situacija postati još gora.
„Tako učinioci ovih dela u Srbiji ostaju nekažnjeni, kao i platforme preko kojih se to radi”, rekla je ona za BIRN.
Ukoliko Srbija ne izmeni Krivični zakonik, dodaje Macanović, „ovakvih slučajeva će biti sve više i više, i to će postati dominantan način i vršnjačkog nasilja prema devojčicama, kao i nasilja prema ženama od strane bivših partnera.”
Počinioci bez kazni
U maju, policija na Kosovu uhapsila je sedam osoba osumnjičenih da su bili administratori Telegram grupe Albkings u kojoj su delili uvredljive video snimke, dipfejk slike i lične podatke žena sa više od 100.000 članova.
U Hrvatskoj je 2021. godine u Krivični zakon uvedeno krivično delo ‘zloupotreba seksualno eksplicitnog sadržaja’.
Prošle godine, Crna Gora je uvela posebno krivično delo za zloupotrebu tuđeg snimka, fotografije, portreta, audio zapisa ili fajla sa seksualno eksplicitnim sadržajem, sa kaznom od šest meseci do dve godine zatvora.
Srbija nema sličan zakon.
Dipfejk pornografija se masovno deli na Telegramu
Lakoća s kojom se nevina fotografija može pretvoriti u seksualno eksplicitnu mnogima je duboko uznemirujuća.
Na Dan žena, 8. marta, ‘Džoni’, administrator i vlasnik nekoliko Telegram grupa poznatih po deljenju intimnih fotografija žena bez njihovog znanja i dozvole, objavio je dve slike popularne pevačice Goce Tržan u grupi Balkan Porn, koja ima više od 70.000 članova.
Na prvoj, koju je Tržan objavila na svojoj Instagram stranici 2020. godine, pevačica je kod kuće i nosi sivu majicu; u postu objavljenom uz fotografiju, Tržan je svojih pola miliona pratilaca obavestila o svojim izazovima sa vantelesnom oplodnjom.
Džoni je zatim podelio novu verziju fotografije, na kojoj Tržan izgleda kao da je potpuno gola. Istog dana u istoj Telegram grupi, Džoni je podelio fotografiju nepoznate ženu tamne kose u roze letnjoj majici kako sedi u kafiću u Budvi. Nekoliko trenutaka kasnije, podelio je drugu sliku na kojoj je ista žena, na istom mestu, potpuno gola.
Tržan za BIRN kaže da ne mogu da je povrede ljudi koji su objavili dipfejk fotografije.
„Mene ne može da povredi, jer ja sam javna ličnost i prošla sam kroz svašta, ali ima tu nekih anonimnih žena koje to može zaista ozbiljno da povredi, da im zagorča život bez ikakvog razloga.
„Ali očito to jeste njihov cilj, jer ako neka anonimna žena osvane na tim fotografijama, očito je neka maliciozna namera u pitanju. Ja ih pitam: imate li majke, imate li sestre, rođake. Imate li, bre, mozga?”, kaže Tržan.
A Flourish network chartPre više od godinu dana, BIRN je pisao o Džonijevoj ulozi u neovlašćenom deljenju intimnih slika, ali on i dalje slobodno i aktivno postuje i administrira grupama na Telegramu.
BIRN je tada objavio ispovesti 28 žena i devojaka širom Srbije o užasnim posledicama osvetničke pornografije.
Posle BIRN-ovog istraživanja, Telegram je ugasio 16 grupa čiji članovi su objavljivali intimne fotografije i snimke žena, ali Džoni i njemu slični jednostavno su otvorili nove.
Tokom samo nekoliko sati 8. marta, Džoni je podelio niz fotografija različitih žena ‘skinutih’ pomoću AI.
Trenutno postoji najmanje 20 Telegram grupa čiji članovi sa Balkana stalno dele neovlašćene intimne slike i snimke, koje redovno prate vulgarni i degradirajući komentari o izgledu žena. Članovi ovih grupa svakodnevno promovišu ili traže linkove za takozvane „botove za skidanje žena“.
Telegram svakoga dana koristi više od 700 miliona ljudi. Iako ga većina koristi za dopisivanje, ova platforma omogućava korisnicima da kreiraju autonomne programe, ili ‘botove’, koji mogu generisati dipfejk nage fotografije. Uslovi korišćenja Telegrama jasno navode da platforma ne sme da se koristi za deljenje pornografskog materijala.
Telegram nije odgovorio na zahtev za komentarom.
Ali je Goca Tržan žrtvama dipfejk pornografije uputila jasnu poruku, pozivajući ih da ostanu jake.
„Ženama kojima se ovo desi, želim da kažem da apsolutno ne treba da se kriju, jer oni to i žele da postignu – da se krijete, da se stidite, da se osećate loše. Hodajte uspravne glave i pravog i bistrog pogleda i svakog ko vas pita za tu fotografiju, izbrišite sa liste prijatelja i rođaka. Nemate čega da se stidite”, kaže Tržan.
Botovi za skidanje žena: Od obične do eksplicitne fotografije kroz nekoliko klikova
BIRN je, za potrebe ovog teksta, testirao neke od javno dostupnih botova koji su deljeni u popularnim Telegram grupama u Srbiji. Nisu korišćene stvarne fotografije žena, već je novinarka BIRN-a kreirala nekoliko realističnih AI fotografija žena u različitim odevnim kombinacijama. Ove fotografije su zatim korišćene za testiranje jednog popularnog bota, koji nudi „uklanjanje nepotrebne odeće sa fotografija“.
„Čekam sliku, pošaljite mi je,“ poručuje korisnicima.
Nekoliko sekundi pošto je novinarka ubacila AI-generisanu fotografiju žene u poslovnom odelu, dobila je sliku nage žene. Od bota su joj zatim stigla i uputstva o tome kako da se pretplati i zahtev za potvrdi da ima više od 18 godina. Međutim, bot ne traži nikakav dokaz o godinama korisnika, niti potvrdu da korisnik ima dozvolu da koristi originalnu fotografiju.
Iz ClothOFF-a, kompanije koja stoji iz ovog bota, za BIRN kažu: „Tokom registracije na ClothOff, korisnik prihvata korisnički sporazum, koji kaže da je strogo zabranjeno obrađivati fotografije ljudi bez njihovog pristanka, i slati fotografije koje mogu uvrediti drugu osobu.“
Veštačka inteligencija „ponovo crta celu fotografiju po zadatim parametrima“, dodaju iz ove kompanije, a „dobijeni rezultat nije originalna fotografija već samo crtež [koji je proizvela] neutralna mreža“.
„Stotine hiljada ljudi cene humor i samo dobijaju pozitivne emocije, što se može dokazati brojnim pozitivnim recenzijama i desetinama hiljada lajkova na društvenim mrežama.“
Krajem aprila, kanal ove firme je imao oko 155.000 pratilaca, što znači da je barem toliko ljudi pokušalo da koristi bota. Mesec dana kasnije, taj broj je porastao na više od 535.000.
Korisnicima je dozvoljeno da besplatno generišu tri gole slike, a zatim moraju da plate kako bi nastavili da koriste bota.
Kreiran u maju 2023. godine, ovaj Telegram kanal redovno nudi posebne ponude – popust od 60 odsto i pet besplatnih tokena za Novu godinu; „ružičasto donje rublje“ za Dan zaljubljenih; besplatne tokene za generisanje slika za Međunarodni dan žena. Najnovija opcija omogućava korisnicima da izaberu odevne kombinacije – „školarac, učiteljica, policajac, trudna“.
BIRN je identifikovao mrežu kanala i botova iste kompanije na Telegramu, među kojima je i kanal u čijem nazivu se koristi reč „dipgolotinja”, koji ima više od 190,000 pretplatnika.
U martu ove godine, britanski Gardijan je povezao firmu ClothOff sa bratom i sestrom iz Belorusije – Dashom i Alaiksandrom Babichau.
Zlostavljanje slavnih samo vrh ledenog brega
Tokom nekoliko meseci praćenja poruka u više Telegram grupa u Srbiji i regionu, BIRN je identifikovao desetine objava u kojima su članovi tražili ili delili linkove ka botovima za ‘svlačenje žena’ .
Jedan od često deljenih Telegram botova kreirala je kompanija InsOFF u januaru 2023. Prateći Telegram kanal, koji promoviše ovog bota, ima više od 81.000 pretplatnika. To je bot koji je Džoni koristio da svuče nekoliko žena za samo jedan dan.
Uputstva su jednostavna:
„Samo pošaljite svoje fotografije […], tako je jednostavno! ????’,“ piše na stranici.
Korisnici dobijaju uputstva o tome koje fotografije daju najbolje rezultate. Na stranici se navodi i da se poštuje privatnost i da stranica ne čuva fotografije. Ali u pravilima ne piše ništa o dozvoli da se fotografija koristi ili obrađuje.
Jedna slika košta jedan dolar, dok se za 3,90 dolara – otprilike 430 dinara – može kupiti 10 slika, a plaća se kriptovalutom, PayPal-om i drugim online metodama plaćanja.
Ni Telegram ni InsOff nisu odgovorili na pitanja BIRN-a.
Više od 95 odsto dipfejk sadržaja je seksualno eksplicitni sadržaj, pokazalo je istraživanju objavljenom u časopisu Saga Journal u decembru 2022.
U januaru je BBC objavio da je eksplicitna dipfejk fotografija američke pevačice Tejlor Svift „navodno pregledana 47 miliona puta“ pre nego što je X, ranije poznat kao Twitter, uklonio i obećao da će preduzeti „odgovarajuće korake“ protiv naloga koji su je delili.
Ali dok društvene mreže brzo reaguju kada je u pitanju zloupotreba fotografija poznatih ličnosti, one su samo vrh ledenog brega.
U martu je InsOFF najavio da pušta 11 novih botova na lokalnim jezicima za različite države, među kojima su Nemačka, Italija, Španija, Francusku, Izrael i Japan.
Količina eksplicitnih dipfejk slika koje se svakodnevno generišu i dele samo na Telegramu pokazuje da takve platforme „apsolutno ne čine dovoljno da se izbore sa problemom dipfejk pornografije i zaštite žrtve“, kaže Nevena Krivokapić Martinović, advokatica iz SHARE fondacije, nevladine organizacije za digitalna prava.
„Moderacija je […] veoma težak zadatak sa kojim je očigledno teško uhvatiti se u koštac. Ukoliko platforme nisu sposobne da izbalansiraju pravo na slobodu izražavanja u odnosu na pravo na privatnost, onda su dužne da korisnicima pruže jednostavne i efikasnije mehanizme prijave kako bi takav sadržaj uklonili sa platformi i kako bi žrtve barem same mogle da bore svoje bitke pred nadležnim organima u svojim zemljama. Trenutna situacija samo koči i ograničava žrtve da se izbore za svoja prava“, kaže Krivokapić Martinović.
Ovakvo odsustvo reakcija stavlja žene poput Adrijane u situaciju iz koje ne znaju kako da izađu.
„Sada iskreno ni sama ne znam kojim putem bih mogla dalje da idem, a da se moji slučaj reši i saznam ko je to objavio u toj Telegram grupi,” kaže ona.
Niko od ljudi koji su delili dipfejk fotografiju sa njenim likom nije našao za shodno da joj se izvini.
„Ti muškarci su naši prijatelji, poznanici, oni su dolazili u našu kuću, znaju moju decu. Ljudi kada me sretnu na ulici mi kažu: ‘Ma šta te briga, zaboraviće se’. Ali ja ne mogu da zaboravim.”
