Të shtunën e kaluar, një mesazh nga një dërgues anonim u shfaq në celularin e Heejin në aplikacionin Telegram: “Fotografitë dhe të dhënat tuaja personale kanë rrjedhur. Le të flasim për të.” Teksa studentja hyri në chat për të lexuar mesazhin, ajo mori një foto të saj të realizuar disa vite më parë kur ishte ende studente. Një tjetër mesazh pasoi me të njëjtën foto, vetëm kjo ishte seksualisht eksplicite dhe false.
Një Heejin i tmerruar, i cili në fakt mban një emër tjetër, nuk u përgjigj, por fotot vazhduan të shfaqen. Në të gjitha, fytyra e saj ishte e shkrirë me një trup të përfshirë në një akt seksual, duke përdorur teknologji të sofistikuar deepfake.
“Isha i ngurtësuar”
Deepfakes, shumica e të cilave kombinojnë fytyrën e një personi të vërtetë me një trup të rremë, seksualisht eksplicit, gjenerohen gjithnjë e më shumë duke përdorur inteligjencën artificiale. “Isha i ngurtësuar, u ndjeva kaq i vetëm”, tha Heejin për BBC.
Por ajo nuk ishte e vetmja.
Dy ditë më parë, gazetarja koreano-jugore Ko Narin publikoi atë që do të kthehej në lajmin më të madh të karrierës së saj. Së fundmi u mësua se policia po hetonte përhapjen e pornografisë së rreme në dy nga universitetet kryesore të vendit dhe Ko ishte i bindur se duhet të kishte më shumë.
Ajo filloi të kërkonte në mediat sociale dhe zbuloi dhjetëra grupe bisedash në Telegram ku përdoruesit shpërndanin foto të grave që njihnin dhe përdornin softuer të inteligjencës artificiale për t’i kthyer ato në imazhe pornografike të rreme brenda disa sekondave.
Një fenomen masiv
“Çdo minutë përdoruesit hynin në foto të vajzave që njihnin dhe u kërkonin atyre të ktheheshin në “deepfake”, tha Ko.
Ajo zbuloi se këto grupe nuk synonin vetëm studentet femra. Kishte grupe chat dedikuar shkollave të mesme specifike dhe madje edhe shkollave fillore. Nëse krijohet shumë përmbajtje duke përdorur foton e një studenti të caktuar, ajo mund të marrë edhe grupin e saj të bisedës. Të emërtuara zakonisht “dhomat e poshtërimit” ose “dhomat e miqve të miqve”, këto grupe shpesh kanë kërkesa strikte për hyrje.
Raporti i Ko në gazetën Hankyoreh tronditi Korenë e Jugut. Të hënën, policia njoftoi se po shqyrtonte nisjen e një hetimi për Telegram, pas drejtimit të autoriteteve në Francë, të cilat së fundmi akuzuan themeluesin rus të Telegram për krime në lidhje me aplikacionin. Qeveria ka premtuar të vendosë dënime më të ashpra për ata që angazhohen në të dhe presidenti u ka bërë thirrje të rinjve që të marrin një arsim më të mirë.
“Një proces sistematik dhe i organizuar. Një grup merrej me nxënëse të mitura”
Në një deklaratë për BBC, Telegram shkroi se “lufton në mënyrë aktive kundër përmbajtjes së dëmshme në platformën e saj, duke përfshirë pornografinë e paligjshme”. BBC ka shqyrtuar një numër të këtyre grupeve të bisedave. Një fton anëtarët të postojnë më shumë se katër foto të dikujt së bashku me emrin, moshën dhe zonën ku jetojnë.
“Isha i shokuar se sa sistematik dhe i organizuar ishte procesi”, tha Ko: “Gjëja më e tmerrshme që zbulova ishte një grup që merrej me nxënëse të mitura në një shkollë, e cila kishte më shumë se 2000 anëtarë”.
Në ditët pas publikimit të artikullit në fjalë, aktivistet e të drejtave të grave gjithashtu filluan të kërkojnë Telegram dhe të ndiqnin udhëzimet.
Shumë viktima nën moshën 16 vjeç
Deri në fund të asaj jave, më shumë se 500 shkolla dhe universitete ishin identifikuar si objektiva. Numri aktual i të prekurve ende nuk është përcaktuar, por shumë prej viktimave besohet të jenë nën moshën 16 vjeç, që është mosha ligjore e pëlqimit për marrëdhënie seksuale në Korenë e Jugut. Shumica e autorëve të dyshuar janë vetë adoleshentë.
Heejin tha se të mësuarit për shkallën e krizës e bëri ankthin e saj më keq, sepse ajo tani është e shqetësuar nga sa njerëz kanë qenë në gjendje të shohin falsifikimet e saj të thella. Fillimisht ajo fajësoi veten: “Nuk mund të ndaloja së menduari se kjo ndodhi sepse po postoja fotot e mia në rrjetet sociale. A duhej të isha më i kujdesshëm?”
Dhjetra gra dhe vajza adoleshente në të gjithë vendin që atëherë i kanë hequr fotot e tyre nga mediat sociale ose i kanë çaktivizuar fare llogaritë e tyre, nga frika se mund të jenë viktima të falsifikimit të thellë.
“Nuk kemi bërë asgjë të keqe”
“Ne jemi të frustruar dhe të zemëruar që duhet të censurojmë sjelljen tonë dhe përdorimin e mediave sociale edhe pse nuk kemi bërë asgjë të keqe,” tha studenti Ah-Eun, bashkëmoshatarët e të cilit ishin në shënjestër.
Ah-Eun thotë se një viktimë në universitetin e saj iu tha nga policia se nuk u mërzitën të hetonin rastin e saj sepse ishte shumë e vështirë për të kapur autorin dhe se “nuk ishte vërtet një krim” sepse “fotot ishin e rreme.”
Në qendër të këtij skandali është aplikacioni i mesazheve Telegram. Ndryshe nga faqet e internetit publike, të cilat autoritetet mund t’i qasen lehtësisht dhe më pas të kërkojnë heqjen e fotove, Telegram është një aplikacion privat dhe i koduar i mesazheve.
Problem me Telegramin
Përdoruesit janë shpesh anonimë, grupet mund të vendosen në modalitetin “sekret” dhe përmbajtja e tyre fshihet shpejt pa lënë gjurmë. Kjo e bëri Telegram një hapësirë kryesore për lulëzimin e sjelljeve kriminale. Javën e kaluar, politikanët dhe policia reaguan ashpër, duke premtuar se do të hetojnë keqbërjen dhe do të nxjerrin autorët para drejtësisë.
Të hënën, policia e Seulit njoftoi se do të hetonte Telegram për rolin e tij në lehtësimin e shpërndarjes së pornografisë së rreme për fëmijë. Themeluesi i aplikacionit, Pavel Durov, u akuzua javën e kaluar në Francë për bashkëpunim në një sërë krimesh që lidhen me aplikacionin, duke përfshirë lehtësimin e ndarjes së pornografisë së fëmijëve.
Por aktivistët e të drejtave të grave akuzojnë autoritetet në Korenë e Jugut se kanë lejuar që abuzimi seksual në Telegram të ziejë i pakontrolluar për një kohë të gjatë, pasi Koreja tashmë është përballur me këtë krizë. Në vitin 2019, doli se një rrjet seksi përdorte Telegramin për të detyruar gratë dhe fëmijët të krijonin dhe të shpërndanin imazhe seksualisht eksplicite të tyre.
Policia më pas kërkoi ndihmë nga Telegram në hetim, por aplikacioni i injoroi të shtatë kërkesat e tyre. Megjithëse drejtuesi i grupit u dënua përfundimisht me më shumë se 40 vjet burg, nuk u ndërmor asnjë masë kundër platformës për shkak të frikës së censurës.
“Ata e nënvlerësuan të gjithë çështjen”
“Ata provuan aktorët kryesorë, por ata e nënvlerësuan të gjithë rastin dhe mendoj se kjo e përkeqësoi atë”, tha Ko për BBC.
Park Jihyun, e cila zbuloi unazën e seksit “Dhoma e N” si studente dhe gazetare e re në vitin 2019, u bë një avokate politike për viktimat e krimeve seksuale dixhitale. Ajo tha se që kur shpërtheu skandali i deepfake, nxënësit dhe prindërit që qanin e thërrisnin disa herë në ditë: “Ata e panë shkollën e tyre në një listë të shpërndarë në rrjetet sociale dhe u tmerruan”.
Për vite me radhë, Park i ka bërë thirrje qeverisë që të rregullojë apo edhe të ndalojë aplikacionin në Korenë e Jugut: “Nëse këto kompani teknologjike nuk do të bashkëpunojnë me agjencitë e policisë, atëherë shteti duhet t’i rregullojë ato për të mbrojtur qytetarët e tij”.
