– Det sendte meg fullstendig i kjelleren, selv om det ikke var et direkte fysisk angrep mot kroppen min, forteller en 30 år gammel kvinne til nyhetsbyrået AP.

For tre år siden mottok hun en mengde deepfake-bilder som var laget av henne og lagt ut på internett, som forestilte henne naken.

Hendelsen gjør at hun fortsatt blir behandlet for traumer, og hun sliter med å snakke med menn. Å bruke mobiltelefonen minner henne om situasjonen, som hun beskriver som et mareritt.

Ikke ekte

Mange sørkoreanske kvinner har den siste tiden stått fram og delt lignende opplevelser, noe som tilsier at eksplisitte deepfake-bilder og -videoer som lages og spres uten samtykke, har blitt et problem i landet.

Deepfake-porno er bilder eller videoer der ansiktene til enkeltpersoner er digitalt redigert på andre pornografiske bilder eller videoer ved hjelp av kunstig intelligens. Bildene er altså ikke ekte.

Først i slutten av september bestemte den sørkoreanske nasjonalforsamlingen seg for å gjøre deg ulovlig å se på eller besitte deepfake-porno. Fra før var det forbudt å lage det, men også det forbudet skal skjerpes.

Tenåringsgutter

De fleste antatte gjerningspersonene bak deepfake-porno i Sør-Korea er tenåringsgutter. De sikter seg inn mot kvinnelige venner, slektninger og bekjente – også for det meste mindreårige – som en spøk, av nysgjerrighet eller kvinnefiendtlighet, ifølge observasjoner.

I august fikk problemet særlig oppmerksomhet etter at ubekreftede lister over skoler som hadde ofre, ble spredt på nettet. Mange jenter og kvinner fjernet i all hast bilder og videoer fra sine sosiale medier-kontoer, redde for å bli rammet.

I etterkant har tusenvis av unge kvinner demonstrert med krav om kraftigere tiltak mot deepfake-porno. Politikere, akademikere og aktivister har kastet seg inn i debatten.

Skolelistene er ikke verifisert som ekte, men myndighetspersoner inkludert president Yoon Suk-yeol har bekreftet bølgen av deepfake-porno i sosiale medier. Politiet har iverksatt en sju måneder lang kamp for å få bukt med problemet.

Nulltoleranse

Den økte oppmerksomheten rundt problemet har sammenfalt med at Telegram-grunnlegger Pavel Durov ble pågrepet i Frankrike i august. Meldingstjenesten har blitt anklaget for å være en plattform for ulovlige aktiviteter, inkludert deling av innhold som viser overgrep mot barn.

Sør-Koreas datatilsyn har uttalt at Telegram har lovet å håndheve en nulltoleranse for ulovlig deepfake-innhold.

Politiet i Sør-Korea sier at 387 personer er pågrepet for deepfake-forbrytelser i år, mer enn 80 prosent av dem tenåringer. Utdanningsdepartementet har separat meldt om at rundt 800 studenter har informert myndighetene om at deepfake-porno er laget av dem.

Sammensatt problemstilling

Eksperter mener at det virkelige omfanget av deepfake-porno i landet er langt større enn det som blir meldt fra om til myndighetene.

Det amerikanske datasikkerhetsfirmaet Security Hero kalte Sør-Korea for det landet der det var mest deepfake-porno i fjor. I en rapport heter det at sørkoreanske sangere og skuespillere utgjør mer enn halvparten av personene som blir misbrukt til dette over hele verden.

Utbredelsen av deepfake-porno i Sør-Korea gjenspeiler en sammensatt problemstilling. Både stor bruk av smarttelefoner, fravær av omfattende sex- og menneskerettighetsundervisning i skolen og utilstrekkelige sosiale medier-begrensninger for mindreårige, samt en kvinnefiendtlig kultur og sosiale normer som seksuelt objektiverer kvinner, spiller en rolle, sier forsker Hong Nam-hee ved Seoul-universitetet.

Ofrene lider

Samtidig snakker ofrene om hvor sterkt det påvirker dem å bli utsatt for et deepfake-angrep.

I nasjonalforsamlingen leste representant Kim Nam-hee et brev fra et uidentifisert offer som sa hun hadde prøvd å ta livet av seg selv da hun ikke ønsket å lide av konsekvensene av deepfake-pornoen noen hadde laget av henne.

En annen politiker, Park Ji-hyun, leste på et forum et brev fra et annet offer som fortalte at hun hadde besvimt og blitt sendt på legevakten etter å ha mottatt deepfake-porno av seg selv – og blitt fortalt av gjerningspersonene at de forfulgte henne.

Den 30 år gamle kvinnen intervjuet av AP forteller at hun måtte sette studiene på vent et år. Hun får behandling etter å ha blitt diagnostisert med panikkangst og posttraumatisk stresslidelse.

Delt med titalls

Politiet sier de har pågrepet fem menn for å ha laget og spredt deepfake-porno av rundt 20 kvinner, inkludert 30-åringen. Ofrene var alle nyutdannede fra Seoul National-universitetet, ansett som landets beste.

Kvinnen forteller at bildene hun mottok på Telegram, var satt sammen av bilder hun hadde lagt ut på meldingsappen Kakao Talk, og nakenbilder av fremmede. Hun ble også sendt videoer av menn som onanerer og meldinger som beskrev henne som lett på tråden.

Et av bildene hun ble sendt, var en skjermdump av et chatterom på Telegram med 42 medlemmer der deepfake-bildene av henne hadde blitt delt.

Ydmyket og sjokkert

Kvinnen følte seg både ydmyket og sjokkert da flere titalls mennesker trakasserte henne med bildene.

Å bygge tillit til menn nå er stressende, sier hun, fordi hun bekymrer seg for at folk som tilsynelatende virker normale, kan gjøre slike ting bak ryggen på henne.

– Folk bruker mer tid på mobiltelefonen sin enn å snakke med andre ansikt til ansikt. Så det er ikke enkelt å slippe unna traumene fra digitale forbrytelser dersom de skjer på telefonene våre, sier 30-åringen.

– Jeg var veldig sosial og likte virkelig å møte nye mennesker. Men personligheten min har endret seg totalt siden det skjedde. Det gjorde livet mitt veldig vanskelig.

Kritisert

Kritikere mener myndighetene ikke har gjort nok for å slå ned på deepfake-porno til tross for en økning i antallet sexforbrytelser på nettet de siste årene.

– Antallet tenåringsgutter og unge menn som ser på deepfake-porno for moro skyld, har økt fordi myndighetene har ignorert kvinners stemmer, sier overvåkingsgruppen ReSET i en kommentar til AP.

Sør-Korea har ikke et offisielt register som viser omfanget av deepfake-porno. Men ReSET sier at de fant mer enn 4000 bilder, videoer og annet innhold ved et tilfeldig søk i et chatterom på nett.

En gjennomgang av dommer fra sørkoreanske tingretter viser at færre enn en tredel av de 87 personene tiltalt for deepfake-forbrytelser siden 2021, ble sendt i fengsel.

Splittelse

Deepfake-problemet kaster også lys over splittelsen i Sør-Korea mellom menn og kvinner.

– Jeg føler meg redd for å leve som kvinne i Sør-Korea, sier Kim Haeun, en 17 år gammel elev i videregående skole som nylig fjernet alle bildene sine på Instagram.

Hun sier hun føler et visst ubehag når hun snakker med mannlige venner, og hun prøver å distansere seg fra gutter hun ikke kjenner så godt.

– De fleste sexforbrytelser retter seg mot kvinner. Og når de skjer, tror jeg vi ofte er rådløse, sier hun.