METAS KOMMENDE 'NØGEN-FEATURE' VISER, AT SOCIALE MEDIER NEMT OG HURTIGT KAN INDFØRE BESKYTTENDE TILTAG

Meta, som står bag Facebook og Instagram, har for nyligt meldt ud, at de tester forskellige tiltag, som i højere grad skal beskytte børn og unge mod ulovlig billeddeling og sextortion på deres platforme.

Det viser, at sociale medier sagtens kan handle hurtigt og indføre mere sikkerhed – hvis viljen ellers er der.

Lovgivningsmæssigt er der med implementeringen af EU's forordning om digitale tjenester tidligere på året fastsat krav om, at sociale platforme indretter deres tjenester, så de er sikre for mindreårige og løbende foretager risikobegrænsninger og tilpasser derefter. Sociale medier kan altså ikke længere sidde på deres hænder. Spørgsmålet er bare, hvor meget tech-virksomheder som Meta, TikTok og Snapchat vil gå på kompromis med deres indtjening i kampen om at skabe en mere sikker digital verden.

Metas nye tiltag er et fingerpeg. Meta viser nemlig med sine tiltag, at de har teknologien til at opspore kriminelle brugere, og at de har redskaberne til at scanne og stoppe blufærdighedskrænkelse og ulovlig deling på nettet, hvis de ville - uden at det fører til masseovervågning.

Metas nye tiltag matcher dog langtfra deres vidtgående muligheder for at skabe mere sikkerhed.

Overblik over tiltag, som Meta vil lancere for at bekæmpe ’sextortion’ og generel misbrug af intime billeder på Facebook og Instagram:

- Børn under 18 år vil som udgangspunkt, medmindre de ændrer deres indstillinger, få sløret modtagne nøgenbilleder og få advarsel derom, før de aktivt klikker på dem. Afsenderen af nøgenbilleder til børn under 18 får automatisk en advarselsboks op, som opfordrer vedkommende til at tænke sig om en ekstra gang inden afsendelse. Afsenderen vil kun få en advarsel, hvis featuren er slået til hos barnet.

- Meta vil frasortere beskeder fra brugere, som potentielt benyttes til at begå sextortion, så beskederne ender i mappen med ’skjulte anmodninger’ hos modtagere under 18 år. Meta vil samtidig skjule besked-knappen, når brugere, som potentielt benyttes til at begå sextortion, besøger profiler under 18 år og generelt gøre det sværere for disse brugere at fremsøge børne-profiler.

- Børn under 16 år (under 18 i nogle lande) vil som udgangspunkt, medmindre de ændrer deres indstillinger, kun kunne modtage privatbeskeder fra venner og profiler, de selv følger.

Vi byder selvfølgelig tiltagene velkommen, men de er slet ikke ambitiøse nok, når vi nu ved, hvilke redskaber Meta rent faktisk har til rådighed, siger direktør i Digitalt Ansvar, Ask Hesby Holm.

Når Meta viser, at de nemt kan opspore brugere, som udsætter andre for sextortion, virker det absurd, at de vælger at begrænse disse brugeres kontakt til potentielle ofre fremfor bare at slette profilerne. Og hvis Meta nemt kan opspore forbrydere i denne kategori, gælder det vel også andre kriminelle på platformen. Det viser, at Meta har muligheden for at begrænse digitale former for vold og afpresning i langt højere grad – men at de simpelthen ikke ønsker det.

Det er fx interessant, at nøgen-featuren også fungerer i end-to-end krypterede beskeder. Det muliggør Meta ved at af afkode potentielt intimt materiale på selve enheden hos brugeren, som vil sende intimt materiale, men uden at Meta har adgang til at tilgå materialet. Det er en praktisk, god løsning der beskytter brugere mod indhold, der sendes i krypterede chats, men uden at Meta direkte overvåger og har adgang til privat materiale.  

Netop spørgsmålet om, hvorvidt man kan scanne og stoppe ulovlig billeddeling, uden at det fører til masseovervågning, er blevet heftigt diskuteret, fx i forbindelse med at bekæmpe delingen af overgrebsmateriale af børn. Meta lader altså til at kunne løse dette problem ved at anvende ”on-device machine learning”.

Metas nye feature skal beskytte unge mod at sende nøgenbilleder, som de senere kan komme til at fortryde, samt at blive ofre for sextortion.

Det næste naturlige skridt må være fx at blokere for beskeder, der indeholder overgrebsmateriale mod børn.

Teknologien lader til at være i Metas hænder nu for at kunne gøre det muligt.
‍

Pressekontakt:

Pressekonsulent, Maja Wallmeier Wolfgang, 93 91 06 89.

Direktør, Ask Hesby Holm, 42 16 42 63.

‍