Alla förtjänar att känna sig trygga online och ha kontroll över sina bilder. På Snapchat förbjuder vi uttryckligen delning, marknadsföring eller distribution av sexuellt explicit innehåll, inklusive icke-samtyckesbaserade intima bilder (NCII). Men med hjälp av lagstiftare kan vi kodifiera och stärka branschstandarder och ge starkare skydd mot denna typ av skada. Det är därför vi är stolta över att stödja H.R. 633, även känd som TAKE IT DOWN (Tools to Address Known Exploitation by Immobilizing Technological Deepfakes On Websites and Networks) Act.

TAKE IT DOWN Act gör publicering av NCII och liknande bilder till ett federalt brott. Den kräver också att webbplatser och plattformar som Snapchat tar bort sådana bilder inom 48 timmar efter en begäran från offret, och att de gör rimliga ansträngningar för att identifiera och ta bort kopior av bilden/bilderna. Denna lag är ett avgörande steg, inte bara för att hjälpa till att skydda människor från att få sina privata bilder delade utan tillstånd, utan också för att begränsa distributionen av AI-genererade intima bilder som kan vara lika skadliga.

På Snap är skyddet av vår community – särskilt våra yngre användare – vår högsta prioritet. TAKE IT DOWN Act är i linje med och kompletterar våra pågående ansträngningar för att stoppa illasinnade aktörer från att distribuera NCII och bilder av sexuella övergrepp och utnyttjande av barn (CSEAI) online. Vårt arbete inkluderar:

• Snabba åtgärder vid anmälningar

Våra säkerhetsteam som är tillgängliga dygnet runt svarar snabbt på anmälningar om trakasserier eller sexuellt innehåll, med målet att säkerställa snabba åtgärder när Snapchattare behöver hjälp. Vi gör det enkelt att anmäla i appen, vilket gör att Snapchattare kan anmäla enskilda meddelanden, stories eller konton direkt från konversationer. Vi har också specifika kategorier för personer att anmäla NCII och CSEAI så att våra säkerhetsteam kan prioritera dessa anmälningar och agera snabbt.

• Stöd till offer genom branschövergripande partnerskap

Vi deltar aktivt i National Center for Missing and Exploited Children's (NCMEC) Take It Down-program, som gör det möjligt för minderåriga att skapa digitala "fingeravtryck" av intima bilder utan att dela de faktiska bilderna. Vi använder dessa fingeravtryck för att upptäcka matchande innehåll på Snapchat och ta bort allt som strider mot våra policyer. Vi deltar också i liknande program som Report Remove i Storbritannien, även för minderårigas bilder, och StopNCII för 18+ – allt för att förhindra spridningen av intima bilder på vår plattform.

• Avancerad teknik för att upptäcka och ta bort skadligt innehåll

Vi använder specialiserad teknik som PhotoDNA för att upptäcka kända olagliga bilder och Googles CSAI Match för kända olagliga videor. Vi använder också Googles Content Safety API för att hjälpa oss att identifiera olagliga bilder som inte har anmälts eller hashats tidigare.

• Skydda tonåringar från främlingar och misstänkta konton

För att hantera den senaste trenden med sex-utpressningsbedrägerier har vi rullat ut skydd för yngre användare som hjälper till att förhindra att främlingar kan hitta deras profiler och få kontakt med dem. Vi varnar tonåringar för misstänkta vänförfrågningar och förhindrar leverans av en vänförfrågan helt och hållet när den kommer från ett konto utan gemensamma vänner till en tonåring eller om kontot har en historik av att ha använt Snapchat på platser som är förknippade med bedrägeriaktivitet. Vi vidtar också åtgärder för att hindra förövare från att skapa nya konton på samma enhet, eller använda samma e-postadress eller telefonnummer.

• Samarbete med brottsbekämpande myndigheter

Vårt team för brottsbekämpande insatser har vuxit avsevärt, vilket gör att vi kan samarbeta bättre med myndigheter för att hålla Snapchattare säkra. Vi är värd för ett årligt toppmöte för brottsbekämpande myndigheter i USA och samarbetar med internationella brottsbekämpande myndigheter, bland annat i Västafrika, där många fall av sex-utpressning har sitt ursprung. När nödsituationer uppstår svarar vi vanligtvis på relaterade begäranden om datautlämning från brottsbekämpande myndigheter inom 30 minuter. Dessutom, när vi blir medvetna om sexuellt utnyttjande av barn – antingen när det rapporteras till oss och/eller vi proaktivt identifierar det – rapporterar vi det till NCMEC, som i sin tur samordnar med inhemska och internationella brottsbekämpande myndigheter vid behov.

• Utbildning och medvetenhet 

För att hjälpa till att utbilda vår community direkt har vi lanserat korta videor i appen om sexuella risker och potentiella skador via vår“Safety Snapshot”kanal på Upptäck. Ämnen inkluderar ekonomisk sex-utpressning och konsekvenserna av att ta och dela nakenbilder. Dessutom har vi utvecklat resurser för föräldrar och lärare för att hjälpa dem att förstå hur tonåringar använder Snapchat och vilka skydd som finns för att hålla dem säkra. Vårt SnapCouncil for Digital Well-Beingsamlar tonåringar för att förespråka säkrare onlinevanor i sina skolor och samhällen. Vi samarbetar också med experter för att stödja initiativ somKnow2Protect, en nationell kampanj för att öka allmänhetens medvetenhet som lanserats av U.S. Department of Homeland Security för att hjälpa till att förebygga och bekämpa brott som ekonomisk sex-utpressning.

Vårt pågående engagemang

Även om vi är nöjda med våra framsteg, vet vi att vårt arbete kanske aldrig blir klart. På Snap kommer vi att fortsätta att öka medvetenheten om potentiella skador online, utveckla ny teknik för att upptäcka innehåll som bryter mot reglerna och samarbeta med branschpartners, myndigheter, brottsbekämpande myndigheter, civilsamhället, föräldrar och ungdomar själva.

Genom att stödja TAKE IT DOWN Act och fortsätta våra säkerhetsinsatser arbetar vi mot en framtid där alla kan njuta av att få kontakt med vänner och familj online utan rädsla för utnyttjande eller övergrepp.

Vi bryr oss djupt om säkerheten för varje Snapchattare och är fortsatt engagerade i att göra vår plattform till en fientlig miljö för illasinnade aktörer och en hälsosam plats för genuin anslutning.