Južna Koreja: Dipfejk pornografija uništava živote studentkinja

Pretprošle subote, na Telegramu na Hiđininom telefonu stigla je poruka od anonimnog pošiljaoca.

"Procurele su tvoje slike i lično podaci. Pričajmo."

Kad je ova studentkinja fakulteta pročitala poruku, stigla joj je njena fotografija snimljena pre nekoliko godina, dok je još išla u školu.

Sledila je druga - ista fotografija, samo seksualno eksplicitna, i lažna.

• Telegram se izvinio zbog lažnog pornografskog materijala
• Telegram: "Dark veb u vašem džepu“
• Kad te "dipfejkuju": "Nalepili su moje lice na porno snimak"

Prestrašena, Hiđin (nije pravo ime) nije odgovorila, ali su slike i dalje stizale.

Na svima njima, njeno lice je nalepljeno na telo koje učestvuje u seksualnom činu, uz pomoć sofisticirane dipfejk tehnologije.

Dipfejkovi, koji u većini slučajeva kombinuju lice prave osobe sa lažnim, seksualno eksplicitnim telom, sve se više prave uz pomoć veštačke inteligencije.

"Bila sam skamenjena, osećala sam se strašno usamljeno", kaže Hiđin za BBC.

Ali ona nije bila usamljena.

Dva dana ranije, južnokorejska novinarka Ko Narin objavila je tekst za koji će se ispostaviti da je najveća ekskluziva u njenoj karijeri.

Nedavno se pokazalo da policija vodi istragu protiv kriminalnih mreža dipfejk pornografije na dva najveća univerziteta u zemlji, a Ko je bila ubeđena da toga mora biti još.

Počela je da pretražuje društvene mreže i razotkrila desetine čet-grupa na Telegramu u kojima korisnici dele fotografije žena koje poznaju i uz pomoć veštačke inteligencije pretvaraju ih u lažne pornografske slike u roku od nekoliko sekundi.

"Svakog minuta ljudi su postavljali nove slike devojaka koje poznaju i tražili da budu pretvorene i dipfejkove", rekla nam je Ko.

Ko Narin je otkrila da ove grupe na zub ne uzimaju samo univerzitetske studentkinje.

Bilo je i četrumova posvećenih konkretnim srednjim školama pa čak i višim razredima osnovne škole.

Ako bi nastalo više sadržaja uz pomoć slika neke konkretne učenice, ona bi čak mogla da dobije vlastitu "sobu".

Naširoko nazvane "sobe za ponižavanje" ili "sobe za prijateljicine prijateljice", one često imaju stroga pravila ulaska.

Koin izveštaj u listu Nankjoreh šokirao je Južnu Koreju.

U prošli ponedeljak policija je saopštila da razmatra da pokrene istragu protiv Telegrama, sledeći primer vlasti iz Francuske, koje su nedavno optužile ruskog osnivača za zločine povezane sa aplikacijom.

Vlada se zarekla da će uvesti strože kazne za umešane, a predsednik je pozvao na bolju edukaciju mladića.

Telegram je rekao da se "aktivno bori protiv štetnog sadržaja na platformi, u šta spada i ilegalna pornografija" u saopštenju poslatom BBC-ju.

"Sistemski i organizovani proces"

BBC je imao uvida u opise velikog broja ovih četrumova.

Jedan traži od članova da objave više od četiri fotografije nekoga zajedno sa njegovim imenom, godištem i oblasti u kojoj živi.

"Bila sam šokirana koliko je sistematski i organizovan čitav proces bio", kaže Ko.

"Najstrašnija stvar koju sam otkrila bila je grupa sa maloletnim đacima jedne škole koja je imala više od 2.000 članova."

U danima nakon što je obavljen Koin članak, aktivisti borbe za prava žena takođe su počeli da pročešljavaju Telegram i da slede tragove.

Krajem te nedelje, otkrili su da su mete postali 500 škola i univerziteta.

Tek treba da se utvrdi prava brojka pogođenih, ali veruje se da su mnogi od njih mlađi od 16 godina, što je granica dobrovoljnog pristanka u Južnoj Koreji.

Veliki procenat osumnjičenih počinilaca su i sami maloletni.

BBC na srpskom je od sada i na Jutjubu, pratite nas OVDE.

Hiđin je rekla da je svest o razmerama krize samo pogoršala njenu anksioznost, jer se sada ona brine koliko je mnogo ljudi moglo da vidi njene dipfejkove.

Isprva je krivila samu sebe.

"Nisam mogla da prestanem da mislim o tome da li se ovo desilo zato što sam objavljivala slike na društvenim mrežama, da li je trebalo da budem opreznija?"

Veliki broj žena i tinejdžerki iz čitave zemlje u međuvremenu je uklonio fotografije sa društvenih mreža ili potpuno deaktivirao naloge, uplašen da bi one mogle biti zloupotrebljene sledeće.

"Nezadovoljne smo i besne što moramo da cenzurišemo naše ponašanje i našu upotrebu društvenih mreža kad nismo ništa pogrešile", rekla je studentkinja sa univerziteta Aheun, čije su se koleginice našle na meti.

Aheun je rekla da je jednoj žrtvi na njenom univerzitetu policija rekla da se ne trudi da vodi svoj slučaj na sud jer će biti suviše teško uhvatiti počinioca i da to "zapravo nije zločin" jer su "fotografije lažne".

U središtu ovog skandala nalazi se aplikacija za razmenu poruka po imenu Telegram.

Aplikacije je poznata da ima "popustljiv stav" prema moderaciji i optužena je da godinama ne radi dovoljno prilikom nadzora sadržaja a posebno grupa.

To ju je učinilo udarnim mestom za cvetanje kriminalnog ponašanja.

Prošle nedelje su političari i policija energično odgovorili, obećavši istragu ovih zločina i privođenje počinilaca pravdi.

U ponedeljak je Nacionalna policiska agencija saopštila da će povesti istragu protiv Telegrama zbog njegove uloge u omogućavanju deljenja lažnih pornografskih slika dece.

Osnivač aplikacije Pavel Durov je optužen u Francuskoj pretprošle nedelje za saučešće u velikom broju zločina povezanih sa aplikacijom, među njima omogućavanje i deljenje dečje pornografije.

Ali aktivisti borbe za prava žena optužuju vlasti u Južnoj Koreji da su predugo dozvoljavale da seksualno zlostavljanje neometano tinja na Telegramu, zato što se Koreja već ranije suočila sa ovakvom krizom.

Godine 2019, otkriveno je da je seksualna mreža koristila Telegram da primorava žene i decu na stvaranje i deljenje seksualnog eksplicitnih slika sebe.

Policija je tada tražila od Telegrama da pomogne u njihovoj istrazi, ali je aplikacija ignorisala svih sedam njihovih zahteva.

Iako je vođa bande na kraju osuđen na više od 40 godina zatvora, ništa nije preduzeto protiv same platforme, zbog straha od optužbi za cenzuru.

"Osudili su glavne počinioce, ali su inače zažmurili nad čitavom situacijom, i mislim da je to sada pogoršalo sve", kaže Ko.

BBC

Park Džihjun, koja je, kao mlada studentkinje žurnalistike, razotkrila seksualnu mrežu Nt-rum još 2019. godine, u međuvremenu je postala politička zastupnica žrtava digitalnih seksualnih zločina.

Ona kaže da je od izbijanja novog dipfejka skandala đaci i roditelji zovu više puta dnevno uplakani.

"Videli su njihovi školu na spisku deljenih na društvenim mrežama i sada su prestrašeni."

Park predvodi pozive vladi da reguliše ili čak zabrani aplikaciju u Južnoj Koreji.

"Ako ove tehnološke kompanije ne budu sarađivale sa službama za sprovođenje reda i zakona, onda država mora da ih reguliše da bi zaštitila građane", kaže ona.

Pre nego što je ova najnovija kriza eksplodirala, Zastupnički centar Južne Koreje za žrtve seksualnog zlostavljanja (ACOSAV) već je primećivao nagao skok u broju maloletnih žrtava dipfejk pornografije.

Godine 2023. oni su savetovali 86 žrtava tinejdžerskog uzrasta.

To je skočilo na 238 u samo prvih osam meseci ove godine.

Samo protekle nedelje, javilo se još 64 žrtve tinejdžerskog uzrasta.

Jedna od liderki centra Park Seonghje rekla je da je tokom protekle nedelje njen tim bio zatrpan pozivima i da je radio od jutra do mraka.

"Bila je to za nas prava vanredna situacija, kao ratno stanje", kaže ona.

"Uz najnoviju dipfejk tehnologiju sada ima mnogo više snimaka nego što je to bilo pre, a mi se brinemo da će se to samo još pogoršati."

Pored pružanja pravne pomoći i saveta žrtvama, centar pronalazi štetan sadržaj i sarađuje sa onlajn platformama na njihovom uklanjanju.

Park je rekla da je bilo nekih slučajeva kada je Telegram uklonio sadržaj na njihov zahtev.

"Tako da to nije nemoguće", istakla je ona.

U saopštenju, Telegram je rekao za BBC da njegovi moderatori "proaktivno nadziru javne delove aplikacije, koriste alatke veštačke inteligencije i primaju prijave korisnika da bi uklonili milione komada sadržaja svakog dana koji krše Telegramove odredbe i uslove".

Iako organizacije za zaštitu prava žena priznaju da nova tehnologija veštačke inteligencije olakšava iskorišćavanje žrtava, one tvrde da je to samo najnoviji oblik mizoginije koji se odvija onlajn u Južnoj Koreji.

Prvo su žene bile izložene čitavim talasima verbalnog zlostavljanja onlajn.

Onda je došla epidemija špijunskih kamera, kada su one u tajnosti bile snimane po javnim toaletima i kabinama za presvlačenje.

"Uzročnik ovog strukturalnog seksizma i rešenje je rodna ravnopravnost", stoji u saopštenju koje su potpisale 84 grupe za zaštitu prava žena.

Getty Images

Ovo je direktna kritika na račun predsednika Jun Suk Jeola, koji je negirao postojanje strukturalnog seksizma, ukinuo finansiranje grupama za podršku žrtvama i raspustio vladino ministarstvo za ravnopravnost polova.

Li Mjunghva, koja se bavi mladim seksualnim prestupnicima, slaže se da iako možda epidemija zlostavljanja preko dipfejka deluje kao naglo, ono se odavno krilo ispod površine.

"Za tinejdžere, dipfejkovi su postali deo njihove kulture, oni ih doživljavaju kao igricu ili neslanu šalu", rekla je ova savetnica, koja vodi Omladinski kulturni centra Aha Seul.

Li je rekla da je od ključne važnosti da se edukuju mladi muškarci, pozivajući se na istraživanje koje pokazuje da kad objasnite prestupnicama u čemu su tačno pogrešili, oni postaju svesni toga šta sve spada u seksualno zlostavljanje, a to ih onda sprečava da ponove prestup.

U međuvremenu, vlada je rekla da će pojačati krivične kazne za one koji prave i dele dipfejk slike, a kazniće čak i one koji gledaju pornografiju.

Ovo je usledilo nakon kritika da nije kažnjeno dovoljno počinilaca.

Jedan od problema je da su većina počinilaca tinejdžeri, kojima se obično sudi na sudovima za maloletnike, gde dobijaju blaže kazne.

Od razotkrivanja četrumova, mnogi od njih su bili ugašeni, ali će novi skoro sigurno zauzeti njihovo mesto.

Nove "sobe za poniženje" su već otvorene za novinare koji pišu o ovoj priči.

Ko, koja je prva objavila vest, rekla je da joj je to donelo "gomilu neprospavanih noći".

"Uporno proveravam 'sobu' da vidim da li su postavili moju sliku", kaže ona.

Takva anksioznost je zahvatila skoro svaku tinejdžerku i mladu ženu u Južnoj Koreji.

Aheun, studentkinja, rekla je da je zbog svega počela s podozrenjem da posmatra sve muške poznanike.

"Sada ne mogu više biti sigurna da ljudi neće činiti ove zločine iza mojih leđa, a da ja to ne znam", kaže ona.

"Postala sam hiper-oprezna i u svim kontaktima sa ljudima, što ne može biti dobro."

Dodatno izveštavanje: Hosu Li i Sunvuk Li

Pratite nas na Fejsbuku, Tviteru, Instagramu, Jutjubu i Vajberu. Ako imate predlog teme za nas, javite se na bbcnasrpskom@bbc.co.uk

Izvor: BBC News na srpskom