Snap er dypt engasjert i sikkerheten til Snapchat-fellesskapet. Målet vårt er å bidra til å beskytte brukere mot en rekke risikoer på nettet og potensiell skade som spenner over det digitale økosystemet, inkludert avskyelige forbrytelser som involverer seksuell utnyttelse og misbruk av barn (CSEA). Snap har i årevis bekjempet dette ulovlige innholdet og den avskyelige kriminelle atferden, ved å bruke både proaktive deteksjons- og reaktive responstiltak i Snapchat-appen. I løpet av det siste året har vi gjort ytterligere endringer i våre relaterte retningslinjer og prosesser med den hensikt å bidra til å stille gjerningspersoner for retten. Vi vil gjerne dele mer om det arbeidet her.

Hva er CSEA?

Seksuell utnyttelse og misbruk av barn dekker en rekke ulovlige aktiviteter som involverer seksuell skade på mindreårige, inkludert: visning, produksjon og distribusjon av bilder av seksuell utnyttelse og misbruk av barn (CSEAI), inkludert den nyere trusselen om AI-genererte bilder og videoer; nettlokking, eller forlokkelse, av mindreårige for seksuelle formål; ¹seksuell utpressing; ²menneskehandel med barn; og direktestrømming av barn som blir seksuelt misbrukt og torturert. ³Det er vanskelig å forstå at disse frastøtende realitetene faktisk eksisterer. Men dessverre har slikt misbruk alltid eksistert – og den digitale verdenen gir nå en alternativ måte å misbruke på, og utvider måtene å begå lovbrudd på til å bli raskere og mer vidtrekkende.

«Teknologi har fundamentalt endret måten de med seksuell interesse for barn fantaserer om dem, får tilgang til dem og forgriper seg på dem», sa Ernie Allen, leder for den London-baserteWeProtect Global Alliance.New York Timesskrev: «Krisen med seksuell utnyttelse av barn på nettet er på et bristepunkt.» Den bemerket at rapporter eskalerer, lovbrytere deler bilder av yngre ofre og mer avskyelige forbrytelser, og politiet sliter med å holde tritt. Hvis du legger til nye variasjoner på den utfordringen, som sextortion, som FBI rapporterte er opp 7200 %, direktestrømming av misbruk og andre, er det klart at dette problemet bør være på toppen av politiske agendaer over hele verden,» la han til.

Teknologiselskapers juridiske forpliktelser

Når amerikanske teknologiselskaper blir klar over CSEA på sine plattformer eller tjenester, har de en juridisk plikt til å rapportere det til National Center for Missing and Exploited Children (NCMEC). NCMEC gjennomgår deretter disse CyberTips og har kontakt med både nasjonale og internasjonale politimyndigheter for å hjelpe til med å beskytte barneofre og straffe lovbrytere.

Frem til i fjor hadde de årlige totalsummene av CyberTips til NCMEC stort sett steget år for år, og toppet seg med rekordhøye 36,2 millioner rapporter ⁴i 2023, opp fra drøyt 32 millioner i 2022, og 4 560 i 1998 da NCMECs CyberTipline ble opprettet. Det var denne rekordøkningen i CyberTips – i tillegg til andre faktorer, inkludert en fortsatt økning i seksuell utpressing globalt og tilbakemeldinger vi mottok fra politiet om hvorvidt våre egne CyberTips kunne følges opp – som fikk Snap til å først henvende seg til NCMEC i 2024 for å rekalibrere vår CyberTip-rapportering.

Jeg har overvåket CyberTip-rapportering over flere år, og jeg er overbevist om at praksisen til noen teknologiselskaper har gått i retning av å rapporterealttil NCMEC – selv utover deres juridiske forpliktelse – av frykt for å bli anklaget for å ha gått glipp avnoe. ⁵Selskaper som unnlater å rapportere som lovpålagt, kan få store bøter. Men denne tilnærmingen til rapportering, kombinert med den lave handlekraften til mange rapporter (enten fordi CyberTips mangler tilstrekkelig kontekst for at politiet kan iverksette tiltak, eller fordi den rapporterte oppførselen i noen tilfeller ikke er en prioritet for dem), har resultert i økende CyberTips; flere, omfattende gjennomganger; og økt frustrasjon blant politiet.

Mål: CyberTips av høy verdi

Målet med rekalibreringen vår med NCMEC var å ytterligere øke handlekraften og verdien av Snaps CyberTips ved å finjustere våre egne plattformpolicyer og protokollene vi har på plass for rapportering til NCMEC. Den første rekalibreringen fant sted i mai 2024, og våre policyendringer ble fullt effektive i siste del av fjoråret.

Selv om vi bør unngå å legge for mye vekt på det rene antallet rapporter isolert sett, er Snap glade for å kunne dele at vi siden implementeringen av våre policyforbedringer har sett en betydelig nedgang i vårt totale rapporteringsvolum til NCMEC og en lignende nedgang i eskaleringer for nettlokking – alt mens vi fortsatt oppfyller våre juridiske forpliktelser til å rapportere CSEA i CyberTips. De lavere totalene har imidlertid ennå ikke filtrert gjennom til NCMECs årlige rapporteringsvolumer, fordi endringene ble implementert senere i 2024, og etterlot bare noen få hele måneder av året til å reflektere endringene.

Parallelt har teamet vårt jobbet med å forbedre dataene og merkingen i våre CyberTips. Slike avklaringer kan bidra til å bedre identifisere de påståtte forbrytelsene og de involverte personene, og i sin tur tillate raskere og mer nøyaktig sortering av rapporter fra NCMEC og politiet. Selv når rapportering til NCMEC ikke er berettiget, vil Snap fortsette å håndtere bilder og atferd som er i strid med våre plattformpolicyer ved å iverksette tiltak – som kan inkludere å fjerne det krenkende innholdet, deaktivere kontoen og forsøke å blokkere opprettelsen av nye kontoer.

Rekalibreringssjekkpunkt

Forrige måned holdt vi en ny rekalibrering med NCMEC, hvor Snap-teamet oppsummerte fjorårets interne policyendringer; oppdaterte NCMEC om fremgangen vår; bekreftet noen ytterligere driftsretningslinjer; og bidro til å sette forventninger for de kommende månedene. Vi forhåndsviste også noen ytterligere planlagte policy- og rapporteringstillegg som vi håper vil fortsette å øke verdien av rapportene våre til både NCMEC og politiet. Naturligvis er dette en iterativ prosess, men vi er oppmuntret av fremgangen det siste året.

Veien videre

Over tid forventer vi at NCMEC og politiet kan fortsette å se reduserte volumer av CyberTips fra Snap sammenlignet med tidligere år, men en større prosentandel av de defaktiskmottar, bør inneholde informasjon av høyere kvalitet og være mer handlingsrettet.

Vi er forpliktet til kontinuerlig forbedring i alle aspekter av vårt sikkerhetsarbeid. Vi later ikke som om vi har alle svarene med hensyn til å bekjempe CSEA eller annen potensiell skade på nettet; ingen burde det, for det er det ingen som har. Dag ut og dag inn kjemper vi mot problemer som gjelder hele samfunnet, og vi tar i bruk en helhetligselskaps-tilnærming – med de to endelige målene om å redusere risiko og redusere skade.

Når det gjelder våre CyberTips, har vi et klart mål for en ikke så fjern fremtid: Enten det er en delstatlig Internet Crimes Against Children Task Force (ICAC)-leder, en føderal etterforsker eller et medlem av politiet på den andre siden av kloden, ønsker vi at statlige, føderale og internasjonale myndigheter trygt skal kunne forfølge CyberTips fra Snap fordi de vet at rapportene våre konsekvent kan stoles på som handlingsrettede, verdifulle og grundige. Og vårt håp er at denne innsatsen vil bidra til en tilsvarende økning i relaterte arrestasjoner ⁶og domfellelser over hele verden.

En stor «takk» til NCMEC, WeProtect, de 61 ICAC Task Forces i USA, politimyndigheter over hele verden, og alle våre kolleger og samarbeidspartnere på tvers av landskapet som bekjemper CSEA – og en tilleggsmerknad om at vi forblir åpne for, og ivrige etter, deres tilbakemeldinger for å ytterligere forbedre våre strategier og tilnærminger. Vi er alle i dette sammen.

- Jacqueline Beauchere, global sjef for plattformsikkerhet