Hos Snap udvikler vi løbende vores sikkerhedsmekanismer og platformspolitikker for at begrænse ildesindede aktørers evne til at misbruge vores platform. Vi gør brug af avanceret teknologi, til at opdage og blokere aktivitet, der krænker vores regler, og vi anvender designprincipper for at skabe gnidninger i venneprocessen, vi støtter retshåndhævende myndigheder, samarbejder med offentlige myndigheder, og arbejder på at øge bevidstheden og uddanne om de alvorligste skader, som påfalder teenagere, og faktisk alle medlemmer af vores fællesskab. 

Vi tager vores ansvar for at beskytte teenagere meget alvorligt. Vores arbejde er væsentligt, og omfatter følgende: 

I. At gøre Snapchat til et fjendtligt miljø for ildesindede aktører

Tidligere på året annoncerede vi nye funktioner, der skal hjælpe med yderligere at beskytte vores fællesskab, især teenagere, og for at styrke de relationer i den virkelige verden, der gør Snapchat unik. Disse opdateringer omfatter: udvidede advarsler i appen for mistænkelige kontakter, øget venskabsbeskyttelse, bygget specielt til teenagere, og forbedrede muligheder for at blokere uønskede kontakter. 

Disse ændringer, der fokuserer på at bekæmpe online sextortion, bygger på vores igangværende investeringer i at bekæmpe alle former for seksuel udnyttelse og misbrug af børn. For eksempel: 

Vi bruger signaler til at identificere sextortion-adfærd, så vi aktivt kan fjerne ildesindede aktører, før de har mulighed for at udse sig nye mål og gøre andre til ofre. Dette gøres i tillæg til at udnytte og anvende teknologi, der er designet til at forhindre spredning af kendte billedmaterialer med seksuel udnyttelse og misbrug af børn (CSEAI) på Snapchat, herunder PhotoDNA (til at opdage dubletter af kendte ulovlige billeder), CSAI Match (til at detektere dubletter af kendte ulovlige videoer), og Content Safety API (for at hjælpe med at opdage nye, “ikke-tidligere-hashed”-billedmaterialer).

Selvom vi længe har tilbudt nem indrapportering i appen af indhold og konti, der overtræder vores regler, foretog vi i 2023 forbedringer for at styrke vores kamp mod sextortion-relaterede skader. Sidste år lancerede vi rapportering af chat-beskeder i appen - som gør det muligt for Snapchattere at rapportere individuelle beskeder direkte fra selve samtalen. Vi udvidede også vores værktøjer til rapportering i appen, til at omfatte en specifik, skræddersyet rapporteringsårsag til sextortion, og introducerede, efter rådgivning og vejledning fra CSEA-bekæmpende NGO Thorn, denne rapporteringsmulighed på et sprog, som teenagere og unge mennesker kan relatere til ("De lækkede / truer med at lække mine nøgenbilleder"). Herefter bruges disse rapporter til at informere vores håndhævelsesindsats, herunder signal-baseret detektion og håndhævelse. Vi analyserer tendenser, mønstre og sextortionisters teknikker, og hvis en konto udviser visse karakteristika, bliver den låst for sextortion.

Vi fortsætter med at forbedre og tilføje til rækken af værktøjer i vores Familiecenter, der blev udrullet i 2022, hvor forældre kan se, hvem deres teenager er venner med på Snapchat, hvem de har chattet med for nylig, og nemt rapportere konti, de måtte være betænkelige over for. Vores mål for Familiecentret har altid været at tilskynde til åben og konstruktiv dialog mellem forældre/værger og teenagere, om være sikker på nettet.

Vi samarbejder tæt med retshåndhævende myndigheder, og investerer kraftigt i vores teams for sikkerheds- og retshåndhævende operationer, der arbejder 24/7 rundt om i hele verden, for at hjælpe med at holde vores fællesskab sikkert. Vore tillids- og sikkerhedsteams er f.eks. mere end fordoblet i størrelse siden 2020, og vores team for retshåndhævende operationer er mere end tredoblet på den tid. Vi afholder årlige topmøder for retshåndhævende myndigheder i USA for at sikre, at officerer og agenturer ved, hvordan man tager de nødvendige handlinger mod enhver ulovlig aktivitet, der måtte finde sted på vores platform. 

Vi arbejder også direkte med retshåndhævende myndigheder i Nigeria - hvor mange tilfælde af sextortion stammer fra - for at opbygge kapacitet og viden til at undersøge og retsforfølge gerningsmændene, og vi planlægger at fortsætte vores engagement med den nigerianske regering og at samarbejde yderligere på dette område. Og vi har arbejdet sammen med International Justice Mission, NCMEC, andre medlemmer inden for branchen og ngo'er, for at tilbyde træning til retshåndhævende myndigheder om, hvordan CyberTips undersøges i lande uden for USA, hvor sextortion er fremherskende.

I mange år har vi også engageret os i en robust kadre af "betroede indberettere”: non-profit-, ngo'er, og udvalgte regeringsbureauer, der omgående videregiver sager til os, hvor en persons liv kan være i overhængende fare og andre akutte problemer, på vegne af Snapchattere i nød, via højprioritets-kanaler. De fleste af deltagerne i vores program for betroede indberettere, rapporterer indhold og konti om seksuelt-relaterede skader mod mindreårige, herunder sextortion.

II. At engagere industrieksperter og koalitioner 

Ud over vores egne investeringer, samarbejder vi også med eksperter over hele kloden, fordi vi ved, at ingen enhed eller organisation alene, kan gøre store nok fremskridt mod disse problematikker. Snap repræsenterer f.eks. branchen i det internationale politiske råd for WeProtect Global Alliance; vi er medlem af INHOPE’s rådgivende råd, og sidder i bestyrelsen for den britiske Internet Watch Foundation (IWF). Alle disse organisationer har udryddelsen af online CSEA som en central del af deres mission.

Vi forbliver aktive medlemmer af Tech Coalition, en global industri-alliance, der fokuserer på at bekæmpe seksuel udnyttelse og misbrug af børn på nettet, og vi afsluttede for nylig en toårig periode i bestyrelsens forretningsudvalg. Vi grundlagde også Tech Coalition's Lantern-initiativ, det første program til deling af signaler på tværs af platforme, til at hjælpe virksomheder med at forbedre, hvordan de håndhæver deres politikker omkring børns sikkerhed. Gennem aktiv deltagelse i dette program, kan virksomheder hjælpe hinanden med at krydstjekke for ildesindede aktører, herunder sextortionists.

Derudover udnytter vi National Center for Missing and Exploited Children's (NCMEC) Take It Down-database, som giver mindreårige mulighed for at generere et digitalt fingeraftryk, kaldet et "hash" - af udvalgte billeder eller videoer, direkte på deres enheder. Deltagende virksomheder, herunder Snap, kan derefter bruge disse hashes til at lede efter og fjerne duplikerede billeder, der krænker vores Retningslinjer for fællesskabet. Vi deltager i et lignende program i Storbritannien, kaldet Report Remove, og sidste år sluttede vi os til SWGfL’s StopNCII-samarbejde, for at hjælpe med at forhindre spredningen af intime billeder uden samtykke (NCII) på Snapchat, ved at udnytte denne gruppes hash-database. StopNCII hjælper med at stoppe spredningen af intime billeder af dem, der er under 18 år, og giver ofrene mulighed for at genvinde deres privatliv og kontrol over deres mest private billeder og videoer.

I år lancerede vi også vores konstituerende Snap Council for Digital Well-Being, en gruppe bestående af 18 teenagere fra hele USA, som blev udvalgt til at deltage i årelangt pilotprogram, der kæmper for sikrere onlinevaner og praksisser i deres skoler og fællesskaber. I juli mødtes denne gruppe, sammen med mindst én forælder eller værge, i Snaps hovedkvarter i Santa Monica, Californien for at drøfte diverse emner, hvilket gav et interessant indblik i emner som online faldgruber og sociale dynamikker, og forældre-værktøjer. Dette er i tillæg til Snaps sikkerhedsråd, der består af 16 fagfolk og tre fortalere for unge, der yder direkte vejledning og retning til Snap i forbindelse med sikkerhedsspørgsmål. Vi ser frem til 2025, hvor vi håber på at skabe flere muligheder for medlemmer af begge grupper, til at mødes og afdække yderligere indsigt.

III. At drive bevidsthed 

Ud over vores interne investeringer og det arbejde, vi foretager med eksperter og på tværs af industrien, er det kritisk, at vi øger offentlighedens og Snapchatteres bevidsthed for at bekæmpe seksuelt misbrug og sextortion på nettet. 

I 2022 lancerede vi Digital Well-Being Index, branchens førende forskning, der tilbyder indsigt i, hvordan teenagere og unge voksne færdes på nettet, på tværs af alle platforme. Som en del af denne forskning, er vi i løbet af de sidste to år dykket dybt ned i sextortion. Da denne undersøgelse dækker oplevelser online generelt set, ikke kun på Snapchat, hjælper det ikke kun med at informere vores arbejde, men vi håber, at det også giver indsigt til andre i det teknologiske økosystem. Senere på måneden vil vi dele resultater af vores andet års dybdegående sextortion-undersøgelse i forbindelse med Technology Coalition's kommende virtuelle forum med flere interessenter, om økonomisk sexafpresning af mindreårige.

Tidligere på året, fik vi æren af at være den første enhed til at støtte Know2Protect, en offentlig bevidsthedskampagne, den første af sin slags, der blev lanceret tidligere i år af den amerikanske Department of Homeland Security (DHS). Kampagnen uddanner og giver unge mennesker, forældre, betroede voksne og politiske beslutningstagere mulighed for at hjælpe med at forebygge og bekæmpe forbrydelser, såsom økonomisk sextortion. Ud over at donere annonceplads på Snapchat til uddannelsesressourcer for K2P, udfører vi yderligere forskning med teenagere og unge voksne i USA for yderligere at bidrage til kampagnen. Vi lancerede også i fællesskab en augmented reality Snapchat-linse for at hjælpe med at uddanne Snapchattere gennem en interaktiv Know2Protect-quiz. Og i Storbritannien støttede vi IWF’s mest omfattende offentlige bevidstgørelseskampagne omkring disse problemer til dato, Gurls Out Loud, der er designet til at informere 11-til-13-årige piger om seksuel grooming på nettet, sexting og om at sende nøgenbilleder. Derudover lancerede vi for nylig Underviserens vejledning til Snapchat, hvor vi samarbejder med Safe and Sound Schools for at udvikle et omfattende værktøjssæt til undervisere, der indeholder oplysninger og vejledning om, hvordan man bekæmper sextortion. 

På baggrund af vores flerårige forskningsinitiativer, ved vi, at bevidstgørelse og samfundsuddannelse er kraftfulde værktøjer til at hjælpe med at forebygge mod digital vold, og vi fortsætter med at udvikle og fremme ressourcer i appen for at nå ud til teenagere og unge mennesker direkte på Snapchat. I september 2023 udgav vi fire nye episoder i appen "Sikkerheds-Snapshots", der fokuserer på seksuelle risici og skader, herunder økonomisk sextortion. Vi har også episoder, der handler om sexting og konsekvenserne af at skabe og dele nøgenbilleder, grooming af børn på nettet til seksuelle formål, og sextrafficking af børn. Alle disse ressourcer blev gennemgået af eksperter på National Center for Missing and Exploited Children (NCMEC), og er blevet skabt i samarbejde med relevante hotlines og hjælpelinjer i geografiske nøgleområder. 

Vi fortsætter med at kæmpe tilbage mod seksuel udnyttelse og misbrug af børn på nettet, men der er stadig mere at gøre. I 2025 vil vi fortsætte med at øge bevidstheden om potentielle online skader og blive ved med at gentage, at alle kan være et potentielt mål. Vi sigter mod at forstyrre og modarbejde ildesindede aktører tidligt og ofte, og vi ønsker at producere mere handlekraftige CyberTips til retshåndhævende myndigheder.

Det er vigtigt at bemærke, at vi anvender mange af disse samme strategier, når vi kæmper tilbage mod anden forfærdelig skadelig adfærd, såsom ulovlig narkotikaaktivitet, herunder salg af forfalskede piller, trusler om vold, og selvmord og indhold med selvskadende adfærd. Vi er klar over, at vores arbejde på dette område måske aldrig slutter, men vi går meget op i at Snapchattere er sikre, og vil fortsætte med at arbejde sammen med hele industrien, regeringen og retshåndhævende myndigheder for at udveksle oplysninger og styrke vores forsvar.