Hvad er deepfake porno?
Deepfake porno skabes med kunstig intelligens (AI) og ofte uden samtykke fra den afbildede. Især kendte personer udsættes, da deres billeder er let tilgængelige online. Selvom det ikke er ulovligt at producere, er deling af dette materiale strafbart. Fremstillingen forventes dog at gøres strafbar fra juli 2025.
Fra ’deepfakeporno’ til ’manipuleret seksuelt materiale’
Digitalt Ansvar tog i 2023 initiativ til en sproglig ændring med rapporten Google og Bing: en reklamesøjle for falske nøgenbilleder. Vi mener ikke, at betegnelsen ’deepfake porno’ er retvisende for det skadelige fænomen, som det er. Derfor benytter vi betegnelsen ’manipuleret seksuelt materiale’ (MSM), som er mere præcist dækkende.
Faktisk stammer betegnelsen ’deepfakes’ blot fra en bruger på det sociale medie Reddit, der i 2020 begyndte at uploade videoer med seksuelt manipulerede billeder af kendte kvinder. Siden har fænomenet bredt sig, og i 2024 har selv den amerikanske kongres åbent forholdt sig til fænomenet som et stigende problem og behandler lovgivning på området, den såkaldte ”No Fakes Act”.
Faktisk stammer betegnelsen ’deepfakes’ blot fra en bruger på det sociale medie Reddit, der i 2020 begyndte at uploade videoer med seksuelt manipulerede billeder af kendte kvinder. Siden har fænomenet bredt sig, og i 2024 har selv den amerikanske kongres åbent forholdt sig til fænomenet som et stigende problem og behandler lovgivning på området, den såkaldte ”No Fakes Act”.
Hvordan produceres manipuleret seksuelt materiale?
MSM/deepfake porno genereres medkunstig intelligens (AI) og maskinlæring, som bruges til at skabe realistiske, men falske, videoer og billeder, hvor en persons ansigt sættes på en anden persons krop i pornografisk materiale.
Teknologien benytter komplekse algoritmer og neurale netværk til at analysere og genskabe ansigtstræk og mimik, så det manipulerede indhold fremstår autentisk.
Teknologien benytter komplekse algoritmer og neurale netværk til at analysere og genskabe ansigtstræk og mimik, så det manipulerede indhold fremstår autentisk.
Kvinder er de største ofre
Særligt kendte, kvindelige personer bliver ofre for manipuleret seksuelt materiale/deepfake porno. Det estimeres, at op mod 98 % procent af manipuleret seksuelt videomateriale er af seksuel karakter, og at 99 % af dette har kvinder som ofre.
Dette skyldes dels, at billeder af kendte mennesker er let tilgængelige online, dels at det anvendes som et magtmiddel til at ydmyge eller lukke munden på kvinder, der optræder offentligt, som fx politikere, skuespillere eller journalister.
Dette skyldes dels, at billeder af kendte mennesker er let tilgængelige online, dels at det anvendes som et magtmiddel til at ydmyge eller lukke munden på kvinder, der optræder offentligt, som fx politikere, skuespillere eller journalister.
Udbredelse af deepfake porno i Danmark
En undersøgelse foretaget af Epinion i 2023 på vegne af Digitalt Ansvar peger dog på, at fænomenet er ved at udbrede sig i Danmark og ikke kun har kendte kvinder som ofre. Det kan du læse mere om her.
I løbet af de første ni måneder af 2023 var antallet af nye videoer med manipuleret seksuelt materiale allerede 54 % større end antallet af uploads på verdensplan i hele 2022. Samtidig ser vi flere eksempler på skoleelever, også herhjemme, som har fremstillet og delt uægte nøgenbilleder af klassekammerater uden samtykke.
I løbet af de første ni måneder af 2023 var antallet af nye videoer med manipuleret seksuelt materiale allerede 54 % større end antallet af uploads på verdensplan i hele 2022. Samtidig ser vi flere eksempler på skoleelever, også herhjemme, som har fremstillet og delt uægte nøgenbilleder af klassekammerater uden samtykke.
Deepfake porno produceres næsten altid uden samtykke
MSM/deepfake porno produceres ofte uden samtykke fra den portrætterede, hvilket kan have alvorlige psykologiske og sociale konsekvenser for de involverede.
Love og reguleringer halter bagud i forhold til teknologiens udvikling, hvilket betyder, at alt for mange oplever at kunne finde manipulerede billed- eller videomateriale af dem selv på f.eks. pornohjemmesider eller lukkede online-fora.
Det er strafbart at dele MSM/deepfake porno, men endnu ikke ulovligt at fremstille materialet. Flere lande overvejer dog forbud mod produktion af MSM/deepfake porno, herunder Danmark.
Skærpelse af lovgivningen på området forventes at blive stemt igennem sommeren 2025 på baggrund af et initiativ, der er fremsat af regeringen (læs mere her).
Love og reguleringer halter bagud i forhold til teknologiens udvikling, hvilket betyder, at alt for mange oplever at kunne finde manipulerede billed- eller videomateriale af dem selv på f.eks. pornohjemmesider eller lukkede online-fora.
Det er strafbart at dele MSM/deepfake porno, men endnu ikke ulovligt at fremstille materialet. Flere lande overvejer dog forbud mod produktion af MSM/deepfake porno, herunder Danmark.
Skærpelse af lovgivningen på området forventes at blive stemt igennem sommeren 2025 på baggrund af et initiativ, der er fremsat af regeringen (læs mere her).
Spørgsmål og svar
Hvad skal jeg gøre, hvis jeg opdager, at der ligger manipuleret seksuelt materiale af mig på nettet?
Hvordan rapporterer jeg indholdet til den platform, jeg fandt det på, f.eks. et socialt medie?
Skal det meldes til politiet, hvis jeg opdager manipuleret indhold af mig selv eller andre?
Sådan får du hjælp, hvis du har været udsat for deepfake porno
digitalt ansvar anbefaler
Søgemaskiner skal deindeksere ulovligt indhold
Søgemaskiner skal mere aktivt fjerne hjemmesider på domæneniveau fra deres indeks, hvis de indeholder ulovligt indhold. De har en pligt jf. DSA’en til at begrænse systemiske risici (læs her om DSA og systemiske risici).
digitalt ansvar anbefaler
Bedre rapporteringssystemer
Der er behov for bedre systemer, hvor brugere hurtigt og nemt kan rapportere ulovligt og skadeligt indhold til sociale medier og søgemaskiner. Dette vil hjælpe med at identificere og fjerne ulovligt og skadeligt materiale hurtigere.
Digitalt Ansvars seneste analyser og undersøgelser af deepfake porno (manipuleret seksuelt materiale)
maj 2024
ANALYSE: BAG OM GOOGLE OG BINGS ANMELDELSESSYSTEM
Vi har undersøgt Google Search og Microsoft Bings anmeldelsessystem ved at indgive en række anmeldelser af søgeresultater, der henviser til hjemmesider med manipuleret seksuelt materiale – også kendt som ’deepfake porno’.
februar 2024
GOOGLE OG BING: EN REKLAMESØJLE FOR FALSKE NØGENBILLEDER
En analyse af søgemaskinernes ansvar for spredningen af manipuleret seksuelt materiale - også kendt som 'deepfake porno'.
Senest opdateret 13-02-2025.
