Snap er dybt engageret i sikkerheden for Snapchat-fællesskabet. Vores mål er at hjælpe med at beskytte brugere mod en række onlinerisici og potentielle skader, der spænder over det digitale økosystem, herunder afskyelige forbrydelser, der involverer seksuel udnyttelse og misbrug af børn (CSEA). Snap har i årevis bekæmpet dette ulovlige indhold og denne afskyelige kriminelle adfærd ved at anvende både proaktive detektions- og reaktive responsforanstaltninger i Snapchat-appen. I løbet af det seneste år har vi foretaget yderligere ændringer i vores relaterede politikker og processer med det formål at hjælpe med at stille gerningsmændene for en domstol. Vi vil gerne fortælle mere om det arbejde her.

Hvad er CSEA?

Seksuel udnyttelse og misbrug af børn dækker over en række ulovlige aktiviteter, der involverer seksuel skade på mindreårige, herunder: visning, produktion og distribution af billedmateriale med seksuel udnyttelse og misbrug af børn (CSEAI), herunder den nyere trussel fra AI-genererede fotos og videoer; online grooming eller lokning af mindreårige til seksuelle formål; ¹seksuel afpresning; ²sextrafficking af børn; og live-streaming af børn, der bliver seksuelt misbrugt og tortureret. ³Det er svært at fatte, at disse frastødende realiteter rent faktisk eksisterer. Men desværre har den slags misbrug altid eksisteret – og den digitale verden giver nu en alternativ måde at misbruge på, hvilket udvider måderne at begå lovovertrædelser på til at være hurtigere og mere vidtrækkende.

»Teknologi har fundamentalt ændret den måde, hvorpå personer med seksuel interesse i børn fantaserer om dem, får adgang til dem og forgriber sig på dem,« sagde Ernie Allen, formand for det London-baseredeWeProtect Global Alliance. »New York Timesskrev: 'Krisen med online seksuel udnyttelse af børn er ved et bristepunkt.' Den bemærkede, at antallet af anmeldelser eskalerer, gerningsmænd deler billeder af yngre ofre og mere afskyelige forbrydelser, og politiet kæmper for at følge med. Hvis man tilføjer nye variationer til den udfordring, såsom sextortion, som FBI rapporterede er steget med 7.200 %, live-streaming af misbrug og andre, er det klart, at dette problem bør være øverst på de politiske dagsordener verden over,« tilføjede han.

Teknologivirksomheders juridiske forpligtelser

Når amerikanske teknologivirksomheder bliver opmærksomme på CSEA på deres platforme eller tjenester, har de en juridisk pligt til at rapportere det til National Center for Missing and Exploited Children (NCMEC). NCMEC gennemgår derefter disse CyberTips og samarbejder med både nationalt og internationalt politi for at hjælpe med at beskytte børneofre og straffe gerningsmænd.

Indtil sidste år var det samlede årlige antal CyberTips til NCMEC stort set steget år for år og toppede med en rekord på 36,2 millioner rapporter ⁴i 2023, op fra lidt over 32 millioner i 2022 og 4.560 i 1998, da NCMEC's CyberTipline blev oprettet. Det var denne rekordstigning i CyberTips – ud over andre faktorer, herunder en fortsat stigning i seksuel afpresning globalt og feedback, som vi modtog fra politiet om anvendeligheden af vores egne CyberTips – der fik Snap til først at henvende sig til NCMEC i 2024 for at rekalibrere vores CyberTip-rapportering.

Jeg har fulgt CyberTip-rapportering i flere år, og jeg er overbevist om, at praksis hos nogle teknologivirksomheder har haft en tendens til at rapporterealttil NCMEC – selv ud over deres juridiske forpligtelse – af frygt for at blive beskyldt for at oversenoget. ⁵Virksomheder, der undlader at rapportere som krævet ved lov, kan risikere store bøder. Men denne tilgang til rapportering, kombineret med den lave anvendelighed af mange rapporter (enten fordi CyberTips mangler tilstrækkelig kontekst for politiet til at handle, eller fordi den rapporterede adfærd i nogle tilfælde ikke er en prioritet for dem), har resulteret i et stigende antal CyberTips, flere, omfattende gennemgange og øget frustration blandt politiet.

Mål: CyberTips af høj værdi

Målet med vores rekalibrering med NCMEC var at øge anvendeligheden og værdien af Snaps CyberTips yderligere ved at forfine vores egne platformspolitikker og de protokoller, vi har for rapportering til NCMEC. Den indledende rekalibrering fandt sted i maj 2024, og vores politikændringer trådte fuldt ud i kraft i sidste del af sidste år.

Selvom vi bør undgå at lægge for stor vægt på det rene antal rapporter isoleret set, er Snap glade for at kunne meddele, at vi siden implementeringen af vores politikforbedringer har set et betydeligt fald i vores samlede rapporteringsvolumen til NCMEC og et lignende fald i eskaleringer for online lokning – alt imens vi stadig opfylder vores juridiske forpligtelser til at rapportere CSEA i CyberTips. De lavere totaler er dog endnu ikke slået igennem i NCMEC's årlige rapporteringsvolumener, fordi ændringerne blev implementeret senere i 2024, hvilket kun efterlod et par hele måneder af året til at afspejle ændringerne.

Parallelt har vores team arbejdet på at forbedre data og mærkning i vores CyberTips. Sådanne præciseringer kan hjælpe med at identificere de påståede forbrydelser og involverede personer bedre og dermed muliggøre en hurtigere og mere præcis sortering af rapporter fra NCMEC og politiet. Selv når rapportering til NCMEC måske ikke er berettiget, vil Snap fortsætte med at håndtere billeder og adfærd, der er i strid med vores platformspolitikker, ved at gribe ind – hvilket kan omfatte fjernelse af det krænkende indhold, deaktivering af kontoen og forsøg på at blokere oprettelsen af nye konti.

Kontrolpunkt for rekalibrering

Sidste måned afholdt vi en anden rekalibrering med NCMEC, hvor Snap-teamet opsummerede sidste års interne politikændringer, opdaterede NCMEC om vores fremskridt, bekræftede nogle yderligere driftsretningslinjer og hjalp med at sætte forventninger til de kommende måneder. Vi gav også et smugkig på nogle yderligere planlagte politik- og rapporteringstilføjelser, som vi håber vil fortsætte med at øge værdien af vores rapporter til både NCMEC og politiet. Naturligvis er dette en iterativ proces, men vi er opmuntrede af fremskridtene i det seneste år.

Fremadrettet

Over tid forventer vi, at NCMEC og politiet fortsat vil se reducerede mængder af CyberTips fra Snap sammenlignet med tidligere år, men en større procentdel af dem, defaktiskmodtager, bør indeholde information af højere kvalitet og være mere handlingsorienterede.

Vi er forpligtet til løbende forbedringer i alle aspekter af vores sikkerhedsarbejde. Vi foregiver ikke at have alle svarene med hensyn til bekæmpelse af CSEA eller andre potentielle onlineskader; det bør ingen, for det er der ingen, der har. Dag ud og dag ind kæmper vi med problemer, der berører hele samfundet, og vi anlægger en hel-virksomheds-tilgang – med de ultimative dobbelte mål om at mindske risici og reducere skader.

Med hensyn til vores CyberTips har vi et klart mål for den ikke så fjerne fremtid: Uanset om det er en leder af en statslig Internet Crimes Against Children Task Force (ICAC), en føderal efterforsker eller et medlem af politiet på den anden side af jorden, ønsker vi, at statslige, føderale og internationale myndigheder med tillid kan forfølge CyberTips fra Snap, fordi de ved, at vores rapporter konsekvent kan stoles på som handlingsorienterede, værdifulde og grundige. Og vores håb er, at disse bestræbelser vil bidrage til en tilsvarende stigning i relaterede anholdelser ⁶og domfældelser verden over.

En stor »tak« til NCMEC, WeProtect, de 61 ICAC Task Forces i USA, politiet rundt om i verden og alle vores kolleger og samarbejdspartnere på tværs af landskabet for bekæmpelse af CSEA – og en yderligere bemærkning om, at vi fortsat er åbne for og ivrige efter jeres feedback for yderligere at forbedre vores strategier og tilgange. Vi er alle i dette sammen.

- Jacqueline Beauchere, Global chef for platformsikkerhed