Alle fortjener å føle seg trygge på nettet og ha kontroll over sine egne bilder. På Snapchat forbyr vi uttrykkelig deling, promotering eller distribusjon av seksuelt eksplisitt innhold, inkludert intime bilder uten samtykke (NCII). Men med hjelp fra lovgivere kan vi kodifisere og styrke bransjestandarder og gi sterkere beskyttelse mot denne typen skade. Derfor er vi stolte av å støtte H.R. 633, også kjent som TAKE IT DOWN (Tools to Address Known Exploitation by Immobilizing Technological Deepfakes On Websites and Networks) Act.

TAKE IT DOWN Act gjør publisering av NCII og lignende bilder til en føderal straffbar handling. Den krever også at nettsteder og plattformer som Snapchat fjerner slike bilder innen 48 timer etter en forespørsel fra offeret, og at de gjør en rimelig innsats for å identifisere og fjerne kopier av bildet/bildene. Denne loven er et viktig skritt, ikke bare for å beskytte folk mot at deres private bilder deles uten tillatelse, men også for å begrense distribusjonen av AI-genererte intime bilder som kan være like skadelige.

Hos Snap er det vår høyeste prioritet å beskytte fellesskapet vårt – spesielt våre yngre brukere. TAKE IT DOWN Act er i tråd med og utfyller vår pågående innsats for å stoppe ondsinnede aktører fra å distribuere NCII og bilder av seksuell utnyttelse og misbruk av barn (CSEAI) på nettet. Arbeidet vårt inkluderer: 

• Rask handling på rapporteringer 

Våre sikkerhetsteam som er tilgjengelige døgnet rundt, svarer raskt på rapporter om trakassering eller seksuelt innhold, med mål om å sikre rask handling når Snapchattere trenger hjelp. Vi gjør det enkelt å rapportere i appen, slik at Snapchattere kan rapportere enkeltmeldinger, stories eller kontoer direkte fra samtaler. Vi har også spesifikke kategorier for folk å rapportere NCII og CSEAI, slik at våre sikkerhetsteam kan prioritere disse rapportene og handle raskt.

• Støtte ofre gjennom bransjeomfattende partnerskap

Vi deltar aktivt i National Center for Missing and Exploited Children’s (NCMEC) Take It Down-program, som lar mindreårige lage digitale «fingeravtrykk» av intime bilder uten å dele de faktiske bildene. Vi bruker disse fingeravtrykkene til å oppdage samsvarende innhold på Snapchat og fjerne alt som bryter med retningslinjene våre. Vi deltar også i lignende programmer som Report Remove i Storbritannia, også for bilder av mindreårige, og StopNCII for 18+ – alt for å forhindre spredning av intime bilder på plattformen vår.

• Avansert teknologi for å oppdage og fjerne skadelig innhold 

Vi bruker spesialisert teknologi som PhotoDNA for å oppdage kjente ulovlige bilder og Googles CSAI Match for kjente ulovlige videoer. Vi bruker også Googles Content Safety API for å hjelpe oss med å identifisere ulovlige bilder som ikke har blitt rapportert eller hashet før. 

• Beskytte tenåringer mot fremmede og mistenkelige kontoer

For å håndtere den nylige trenden med svindel med seksuell utpressing, har vi rullet ut beskyttelse for yngre brukere som bidrar til å forhindre at fremmede kan finne profilene deres og komme i kontakt med dem. Vi advarer tenåringer om mistenkelige venneforespørsler og forhindrer levering av en venneforespørsel helt når den kommer fra en konto uten felles venner til en tenåring, eller hvis kontoen har en historikk med å få tilgang til Snapchat fra steder som er forbundet med svindelaktivitet. Vi tar også skritt for å stoppe lovbrytere fra å opprette nye kontoer på samme enhet, eller bruke samme e-postadresse eller telefonnummer. 

• Samarbeid med politi og rettshåndhevende myndigheter 

Vårt team for operasjoner mot rettshåndhevende myndigheter har vokst betydelig, noe som gjør at vi kan samarbeide bedre med myndighetene for å holde Snapchattere trygge. Vi arrangerer et årlig toppmøte for rettshåndhevende myndigheter i USA og samarbeider med internasjonale rettshåndhevende myndigheter, inkludert i Vest-Afrika, hvor mange saker om seksuell utpressing stammer fra. Når nødsituasjoner oppstår, svarer vi vanligvis på relaterte forespørsler om datainformasjon fra rettshåndhevende myndigheter innen 30 minutter. I tillegg, når vi blir klar over seksuell utnyttelse av barn – enten det blir rapportert til oss og/eller vi proaktivt identifiserer det – rapporterer vi det til NCMEC, som igjen koordinerer med nasjonale og internasjonale rettshåndhevende myndigheter etter behov.

• Utdanning og bevisstgjøring 

For å hjelpe med å utdanne samfunnet vårt direkte, har vi lansert korte videoer i appen om seksuelle risikoer og potensielle skader via vår «Safety Snapshot»-kanal på Utforsk. Temaene inkluderer finansiell seksuell utpressing og konsekvensene av å ta og dele nakenbilder. I tillegg har vi utviklet ressurser for foreldre og lærere for å hjelpe dem å forstå hvordan tenåringer bruker Snapchat og hvilke sikkerhetstiltak som finnes for å holde dem trygge. Vårt Snap Council for Digital Well-Being samler tenåringer for å fremme tryggere vaner på nettet i sine skoler og lokalsamfunn. Vi samarbeider også med eksperter for å støtte initiativer som Know2Protect, en nasjonal offentlig bevisstgjøringskampanje lansert av det amerikanske Department of Homeland Security for å hjelpe til med å forhindre og bekjempe forbrytelser som finansiell seksuell utpressing. 

Vårt pågående engasjement 

Selv om vi er fornøyde med fremgangen vår, vet vi at arbeidet vårt kanskje aldri blir ferdig. Hos Snap vil vi fortsette å øke bevisstheten om potensielle skader på nettet, utvikle nye teknologier for å oppdage innhold som bryter retningslinjene, og samarbeide med bransjepartnere, offentlige etater, rettshåndhevende myndigheter, sivilsamfunnet, foreldre og de unge selv. 

Ved å støtte TAKE IT DOWN Act og fortsette vår sikkerhetsinnsats, jobber vi mot en fremtid der alle kan glede seg over å koble seg til venner og familie på nettet uten frykt for utnyttelse eller misbruk. 

Vi bryr oss dypt om sikkerheten til hver eneste Snapchatter og er fortsatt forpliktet til å gjøre plattformen vår til et fiendtlig miljø for ondsinnede aktører og et sunt sted for ekte tilknytning.