Tusenvis av kvinner har blitt ofre for deepfake-porno, skapt ved hjelp av kunstig intelligens. Teknologien gjør det mulig å manipulere bilder og videoer på en måte som gjør dem svært realistiske – og konsekvensene for ofrene er ofte ødeleggende.
Den tyske skuespilleren «Anita Hübig» (navnet er endret) fikk livet snudd på hodet da hennes datter oppdaget en falsk pornovideo av moren på nettet.
– Hun kom over videoen ved å søke på navnet mitt i Google, forteller Hübig til Der Spiegel. Selv om videoen bare var noen få minutter lang, skapte den en krise i familien som varte i flere måneder.
– Det er en forferdelig følelse at noen har manipulert meg inn i en slik film uten mitt samtykke, sier Hübig.
Flere kvinner rammet
Ifølge rapporter er mer enn 90 prosent av deepfake-videoer på nettet av seksuell natur, og 99 prosent av ofrene er kvinner. Mange av disse videoene blir produsert ved hjelp av programvare som er lett tilgjengelig på nettet. Brukerne trenger kun et bilde av offeret – ofte hentet fra sosiale medier – for å lage en overbevisende falsk video.
Ofrene inkluderer både kjendiser og privatpersoner, samt mindreårige. I en spansk småby ble over 20 jenter, i alderen 11 til 17 år, rammet av deepfake-bilder i fjor. Mange av dem fikk livene sine dramatisk endret. Noen sluttet å gå ut, mens andre ble utsatt for utpressing på sosiale medier.
– Samfunnet er uvitende om hvor ødeleggende denne teknologien kan være for jenter og kvinner, sier gynekologen Miriam Al Adib, som selv er mor til en av de rammede.
Et voksende marked
Deepfake-industrien er i vekst, og det finnes egne plattformer som spesialiserer seg på AI-genererte pornovideoer. Den største plattformen, MrDeepFakes, har over seks millioner besøkende i måneden og inneholder mer enn 55 000 videoer. På nettstedet kan brukere betale for spesialbestillinger, ofte anonymt via kryptovaluta.
Aktivister har slått alarm om hvordan teknologien brukes til digital vold, men lovverket henger etter. I Tyskland finnes det ingen spesifikke regler mot produksjon av deepfake-bilder uten samtykke, og ofrene står ofte alene med å håndtere situasjonen.
Haster med tiltak
Eksperter og aktivister, som italienske Silvia Semenzin, oppfordrer til strengere lover for å beskytte kvinner mot denne formen for overgrep.
– De tror de kan gjøre hva de vil med kroppene og bildene våre, sier Semenzin, som har skrevet en bok om digital vold.
Til tross for noen nasjonale initiativer, finnes det fortsatt ingen EU-dekkende lovverk som adresserer deepfakes som en form for seksuell vold. Ekspertene advarer om at teknologien vil fortsette å spre seg og ramme flere, dersom myndighetene ikke tar grep.