Hos Snap utvikler vi kontinuerlig våre sikkerhetsmekanismer og plattformretningslinjer for å begrense muligheten for uredelige aktører til å misbruke plattformen vår. Vi drar nytte av avansert teknologi for å oppdage og blokkere aktivitet som bryter med våre regler og bruker designprinsipper for å skape friksjon i kontaktprosessen, vi støtter rettsvesenet, samarbeider med offentlige myndigheter, og arbeider for å øke bevisstheten og utdanne om de mest alvorlige skadene som påvirker tenåringer, og alle medlemmer av fellesskapet vårt.

Vi tar vårt ansvar for å beskytte tenåringer svært alvorlig. Vårt arbeid er betydelig, inkludert følgende: 

I. Gjøre Snapchat til et fiendtlig miljø for uredelige aktører

Tidligere i år annonserte vi nye funksjoner som vil bidra til å beskytte fellesskapet vårt, spesielt tenåringer, og forsterke de virkelige forholdene som gjør Snapchat unikt. Disse oppdateringene inkluderer: utvidede advarsler i appen for mistenkelige kontakter, forbedrede kontaktbeskyttelser bygget spesielt for tenåringer, og forbedre muligheten til å blokkere uønsket kontakt. 

Disse endringene, fokusert på å bekjempe seksuell utnyttelse på nettet, bygger på våre pågående investeringer for å kjempe mot alle former for seksuell utpressing av barn og misbruk. For eksempel:

Vi bruker signaler til å identifisere uoppriktig seksuell atferd slik at vi aktivt kan fjerne uredelige aktører før de får muligheten til å målrette og bedra andre. Dette er i tillegg til å dra nytte av og distribuere teknologi designet for å forhindre spredning av kjente bilder av seksuell utnyttelse og misbruk (CSEAI) på Snapchat inkludert PhotoDNA (for å oppdage duplikater av kjente ulovlige bilder), CSAI Match (for å oppdage duplikater av kjente ulovlige videoer), og Content Safety API (for å hjelpe til med å oppdage ny bildehashing).

Selv om vi har tilbudt en enkel måte å rapportere i appen på for innhold og kontoer som bryter med reglene våre, har vi i 2023 gjort forbedringer for å styrke kampen mot skader relatert til seksuell utpressing. I fjor lanserte vi chatrapportering i appen - som gjør det mulig for Snapchattere å rapportere individuelle meldinger direkte fra selve samtalen. Vi har også utvidet våre rapporteringsverktøy i appen til å inkludere en spesifikk, skreddersydd grunn til rapportering for seksuell utpressing og, etter råd og veiledning fra NGO Thorn, presenterte vi dette rapporteringsalternativet på et relevant språk for tenåringer og unge («De lekket / truer med å lekke nakenbildene mine»). Disse rapportene brukes deretter til å informere vårt håndhevingsarbeid, inkludert signalbasert påvisning og håndhevelse. Vi analyserer trender, mønstre og uredelige aktøreres teknikker og, hvis en konto demonstrerer visse egenskaper, så låser vi den.

Vi fortsetter å forbedre og tilføye verktøy i familiesenteret som først ble utgitt i 2022, hvor foreldre kan se hvem tenåringen er venner med på Snapchat, hvem de har snakket med nylig og enkelt rapportere kontoer som de mener kan være bekymringsverdige. Målet med familiesenteret har alltid vært å tilskynde åpen og konstruktiv dialog blant foreldre/omsorgspersoner og tenåringer om å holde seg trygge på nett. 

Vi samarbeider med politimyndigheter og investerer betraktelig i våre team tilknyttet sikkerhet og lovens håndhevere som opererer rundt om i verden 24/7 for å holde fellesskapet vårt trygt. For eksempel har våre tillit- og sikkerhetsansatte mer enn doblet i størrelse siden 2020, og vårt team tilknyttet lovens håndhevere har mer enn tredoblet på den tiden. Vi er vert for årlige toppmøter for lovens håndhevere i USA for å sikre at politibetjenter og -organer har kjennskapen til hvordan de skal iverksette passende tiltak mot enhver ulovlig aktivitet som kan oppstå på plattformen vår. 

Vi jobber også direkte med politimyndigheter i Nigeria – hvor mange tilfeller av seksuell utpressing stammer fra – for å bygge kapasitet og kunnskap for å etterforske og rettsforfølge gjerningsmenn, og vi planlegger å fortsette engasjementet vårt med den nigerianske regjeringen og samarbeide ytterligere på dette området. Og vi har jobbet med International Justice Mission, NCMEC, andre bransjemedlemmer og frivillige organisasjoner for å gi opplæring til politimyndigheter om etterforskningen av CyberTips i land utenfor USA hvor seksuell utpressing er utbredt.

I mange år har vi også engasjert oss med en robust kader av "pålitelige flaggere": ideelle organisasjoner, frivillige organisasjoner og utvalgte offentlige etater som eskalerer saker til oss om mishandling, overhengende trusler mot livet og andre problemstillinger på vegne av Snapchattere i nød via høyprioriterte kanaler. Flertallet av deltakerne i vårt program for klarerte rapportører rapporterer innhold og kontoer knyttet til seksualrelaterte skader mot mindreårige, inkludert seksuell utpressing.  

II. Engasjere bransjeeksperter og koalisjoner 

I tillegg til våre egne investeringer samarbeider vi også med eksperter over hele verden, fordi vi vet at ingen enhet eller organisasjon kan på egen hånd fremme disse problemene på meningsfullt vis. Snap representerer for eksempel bransjen i styret for den internasjonale politikken i WeProtect Global Alliance; vi er medlemmer av INHOPE sin rådgivende forsamling og sitter i tillitsstyret i UK Internett Watch Foundations (IWF). Sentralt i oppdragene til alle disse organisasjonene står bekjempelse av seksuell utnyttelse og misbruk av barn.

Vi er fortsatt aktive medlemmer av Tech Coalition, en global bransjeallianse som fokuserer på å bekjempe seksuell utnyttelse av barn på nettet og mishandling, der vi nylig avsluttet en toårig periode i konsernledelsens styre. Vi var også med på å grunnlegge Tech Coalition sitt Lantern-initiativ, det første programmet som deler faresignaler på tvers av plattformer for å styrke hvordan de håndhever retningslinjer for barns sikkerhet. Gjennom aktiv deltakelse i dette programmet kan selskaper hjelpe hverandre med å kryssjekke for uredelige aktører, inkludert seksuelle utpressere.

I tillegg benytter vi oss av National Center for Missing and Exploited Children (NCMEC) sin database Take It Down, som lar mindreårige generere et digitalt fingeravtrykk som kalles for et "hash" av utvalgte bilder eller videoer direkte på enhetene deres. Deltakende selskaper, inkludert Snap, kan i etterkant bruke disse hashene til å søke etter og fjerne dupliserte bilder som bryter med samfunnsretningslinjene våre. Vi deltar i et lignende program i Storbritannia som heter Report Remove, og i fjor ble vi med i SWGfL sitt samarbeid Stop NCII for å forhindre spredningen av ikke-samtykkende intimbilder (NCII) på Snapchat ved å benytte oss av gruppens hash-database. StopNCII bidrar til å stoppe spredningen av intime bilder fra de som er 18 og over, og tilbyr ofrene muligheten til å få tilbake personvernet sitt for deres mest private bilder og videoer.

I år lanserte vi også vårt første Snap Council for Digital Well-Being, en gruppe på 18 tenåringer fra hele USA, som ble valgt til å delta i et årelangt testprogram som fremmer tryggere nettvaner og -praksis i deres skoler og samfunn. I juli samlet denne gruppen seg sammen med minst én forelder eller anstand på Snap sitt hovedkvarter i Santa Monica i California for diskusjoner som ga interessant innsikt i emner som fallgruver på nettet og sosial dynamikk, og foreldreverktøy. Dette er i tillegg til Snap sitt sikkerhetsråd, som består av 16 fagfolk og tre unge forkjempere som gir direkte veiledning til Snap om sikkerhetsspørsmål. Vi ser frem til 2025, hvor vi håper å skape flere muligheter for medlemmer av begge gruppene til å komme sammen og avdekke ytterligere innsikt. 

III. Bevisstgjøring

Utover våre interne investeringer og arbeidet vårt med eksperter på tvers av industrien, er en kritisk del av det å bekjempe seksuelle overgrep på nettet å øke den offentlige bevisstheten, så vel som bevisstheten til Snapchattere.

I 2022 lanserte vi Digital Well-Being Index, et bransjeledende forskningssenter som tilbyr innsikt i hvordan tenåringer og unge voksne har det på nettet på tvers av alle plattformer. Som en del av denne forskningen har vi i de siste to årene gjort et dypdykk i seksuell utpressing. Fordi denne studien dekker erfaringer på nett generelt og ikke bare på Snapchat, bidrar den ikke bare til å forbedre arbeidet vårt, men vi håper også at den gir innsikt til andre på tvers av det teknologiske økosystemet. Senere denne måneden vil vi dele resultatene fra vårt andreårige dypdykk i seksuell utpressing, i forbindelse med Technology Coalition sitt kommende virtuelle Multi-stakeholder Forum om finansiell seksuell utpressing av mindreårige. 

Tidligere i år ble vi hedret over å være den første enheten som støtter Know2Protect, en "første i sitt slag" offentlig bevisstgjøringskampanje lansert tidligere i år av US Department of Homeland Security (DHS). Kampanjen utdanner og gir unge mennesker, foreldre, betrodde voksne og politikere muligheten til å bidra til å forhindre og bekjempe forbrytelser slik som finansiell seksuell utpressing. I tillegg til å donere reklameplass på Snapchat for K2P-ressurser, utfører vi ytterligere forskning med tenåringer og unge voksne i USA for å forbedre kampanjen ytterligere. Vi lanserte også en Snapchat-Linse med utvidet virkelighet for å hjelpe med å utdanne Snapchattere gjennom en interaktiv Know2Protect-quiz. Og i Storbritannia støttet vi IWF sin vidstrakte offentlige bevisstgjøringskampanje rundt disse problemstillingene til dags dato, Gurls Out Loud, utformet for å informere 11 til 13 år gamle jenter om grooming på nett, sexting og sende nakenbilder. I tillegg lanserte vi nylig en lærerveiledning for Snapchat der vi samarbeidet med Safe og Sound School for å utvikle et omfattende verktøysett for lærere som inkluderer informasjon og veiledning om hvordan de kan bekjempe seksuell utpressing. 

Basert på våre mange års forskning vet vi at bevisstgjøring og samfunnsopplæring er kraftige verktøy for å forhindre skadeligheter på nettet, og vi fortsetter å utvikle og promotere ressurser i appen for å nå ut til tenåringer og unge mennesker direkte på Snapchat. I september 2023 lanserte vi fire nye episoder av "Safety Snapshot" i appen, med fokus på seksuell risiko og skadeligheter, inkludert finansiell seksuell utpressing. Vi tilbyr også episoder om sexting og konsekvensene av å skape og dele nakenbilder, grooming av barn på nett for seksuelle formål, og menneskehandel med barn. Alle disse ressursene ble gjennomgått av eksperter ved National Center for Missing and Exploited Children (NCMEC) og opprettet i samarbeid med relevante hotlines og hjelpetelefoner i viktige geografiske områder.

Vi fortsetter å kjempe mot seksuell utnyttelse av barn og mishandling, men det er fortsatt mer å gjøre. I 2025 vil vi fortsette å øke bevisstheten om potensielle skadeligheter på nettet og fortsette å gjenta at alle kan bli et potensielt mål. Vi ønsker å forstyrre og motvirke uredelige aktører tidlig og ofte, og vi ønsker å produsere enda mer brukbare CyberTips for politimyndigheter.

Det er viktig å merke seg at vi benytter oss av mange av de samme strategiene idet vi kjemper mot andre ekstreme skadeligheter, slik som ulovlig narkotikaaktivitet, inkludert salg av falske piller, voldstrusler og selvskadelig innhold, inkludert selvmord. Vi innser at arbeidet vårt innen dette området kanskje aldri vil ende, men vi bryr oss dypt om sikkerheten til Snapchattere og vi vil fortsette å samarbeide på tvers av bransjen med myndigheter og politiet for å utveksle informasjon og styrke forsvaret vårt.