Iedereen verdient het om zich online veilig te voelen en de controle over zijn of haar afbeeldingen te hebben. Op Snapchat verbieden we uitdrukkelijk het delen, promoten of verspreiden van expliciete seksuele content, waaronder niet-consensuele intieme beelden (NCII). Maar met de hulp van wetgevers kunnen we branchenormen codificeren en versterken en betere bescherming tegen dit soort schade bieden. Daarom ondersteunen we met trots H.R. 633, ook wel bekend als de TAKE IT DOWN (Tools to Address Known Exploitation by Immobilizing Technological Deepfakes On Websites and Networks) Act.

Volgens de TAKE IT DOWN Act is het publiceren van NCII-beelden en soortgelijke beelden een misdrijf. Het vereist ook dat websites en platforms zoals Snapchat dergelijke beelden binnen 48 uur na een verzoek van het slachtoffer verwijderen en redelijke inspanningen leveren om kopieën van de afbeelding(en) te identificeren en te verwijderen. Deze wet is niet alleen een cruciale stap, omdat mensen hun privéafbeeldingen zonder toestemming kunnen delen, maar ook omdat het de verspreiding van door AI gegenereerde intieme beelden die net zo schadelijk kunnen zijn, helpt beperken.

Bij Snap heeft het beschermen van onze community, en dan vooral onze jongere gebruikers, de hoogste prioriteit. De TAKE IT DOWN Act is in overeenstemming met en vormt een aanvulling op onze voortdurende inspanningen om te voorkomen dat kwaadwillenden beelden van NCII-materiaal en seksuele uitbuiting en misbruik van kinderen (CSEAI) online verspreiden. Ons werk omvat: 

• Snel reageren op meldingen

Onze 24/7 veiligheidsteams reageren snel op meldingen van intimidatie of seksuele content, zodat we snel kunnen handelen als Snapchatters hulp nodig hebben. We maken rapporteren binnen de app gemakkelijk, waardoor Snapchatters individuele berichten, verhalen of accounts rechtstreeks vanuit gesprekken kunnen melden. We hebben ook specifieke categorieën voor mensen om NCII en CSEAI te melden, zodat onze veiligheidsteams die meldingen de hoogste prioriteit kunnen geven en snel kunnen handelen.

• Slachtoffers ondersteunen via branchebrede partnerschappen

We nemen actief deel aan het Take It Down-programma van het National Center for Missing and Exploited Children’s (NCMEC), waarmee minderjarigen digitale 'vingerafdrukken' van intieme beelden kunnen maken zonder de daadwerkelijke beelden te delen. We gebruiken deze vingerafdrukken om matchende content op Snapchat te detecteren en alles te verwijderen dat ons beleid schendt. We nemen ook deel aan soortgelijke programma's zoals Report Remove in het Verenigd Koninkrijk, ook voor beelden van minderjarigen, en StopNCII voor 18+ – die allemaal helpen om de verspreiding van intieme beelden op ons platform te voorkomen.

• Geavanceerde technologie voor het detecteren en verwijderen van schadelijke content 

We gebruiken gespecialiseerde technologie zoals PhotoDNA om bekende illegale afbeeldingen en Google's CSAI Match voor bekende illegale video's te detecteren. We gebruiken ook de Content Safety-API van Google om illegale afbeeldingen te identificeren die nog niet eerder zijn gemeld of gehasht. 

• Tieners beschermen tegen vreemden en verdachte accounts

We hebben beveiliging voor jongere gebruikers ingevoerd die helpt voorkomen dat vreemden hun profiel kunnen vinden en ermee in contact kunnen komen om de recente trend van sextortion-oplichting aan te pakken. We waarschuwen tieners voor verdachte vriendschapsverzoeken en voorkomen de bezorging van een vriendschapsverzoek als het afkomstig is van een account zonder wederzijdse vrienden van een tiener, of als het account in het verleden Snapchat heeft geopend op locaties die in verband worden gebracht met oplichting. Tevens nemen we stappen om te voorkomen dat daders nieuwe accounts op hetzelfde apparaat maken of hetzelfde e-mailadres of telefoonnummer gebruiken. 

• Samenwerken met de wetshandhaving 

Ons team voor wetshandhavingsoperaties is aanzienlijk gegroeid, waardoor we beter met autoriteiten kunnen samenwerken om Snapchatters te kunnen beschermen. We organiseren een jaarlijkse wetshandhavingstop in de VS en werken samen met internationale wetshandhavers, waaronder in West-Afrika, waar veel sextortion-zaken ontstaan. In geval van noodsituaties, reageren we meestal binnen 30 minuten op gerelateerde verzoeken om openbaarmaking van gegevens vanuit de wetshandhaving. Wanneer we ons bewust worden van seksuele uitbuiting van kinderen – wanneer het aan ons wordt gemeld en/of we het proactief identificeren – dan melden we het aan de NCMEC, die op zijn beurt, indien nodig, coördineert met de binnenlandse en internationale wetshandhavers.

• Voorlichting en bewustwording 

We hebben korte in-app video's over seksuele risico's en mogelijk gevaar gelanceerd via ons 'Safety Snapshot'-kanaal op Discover om onze community rechtstreeks te informeren, Onderwerpen zijn onder andere financiële sextortion en de gevolgen van het maken en delen van naaktbeelden. Daarnaast hebben we informatiebronnen voor ouders en leerkrachten ontwikkeld om hen te helpen begrijpen hoe tieners Snapchat gebruiken en welke veiligheidsmaatregelen er zijn om hen te beschermen. Onze Snap Council for Digital Well-Being brengt tieners samen om veiligere online gewoonten op hun school en in hun gemeenschap te bepleiten. We werken ook samen met experts om initiatieven zoals Know2Protect te ondersteunen, een nationale publieke bewustwordingscampagne die is gelanceerd door het U.S. Department of Homeland Security om misdaden zoals financiële sextortion te helpen voorkomen en bestrijden. 

Onze voortdurende inzet 

Hoewel we blij zijn met onze vooruitgang, weten we dat ons werk misschien nooit klaar is. Bij Snap blijven we het bewustzijn vergroten over potentiële online schade, nieuwe technologieën ontwikkelen om content te detecteren dat inbreuk maakt en samenwerken met branchepartners, overheidsinstanties, wetshandhavers, het maatschappelijk middenveld, ouders en jongeren zelf. 

Door de TAKE IT DOWN Act te ondersteunen en onze veiligheidsinspanningen voort te zetten, werken we aan een toekomst waarin iedereen online kan genieten van contact met vrienden en familie, zonder angst voor uitbuiting of misbruik. 

We vinden de veiligheid van elke Snapchatter erg belangrijk en blijven ons inzetten om van ons platform een vijandige omgeving te maken voor kwaadwillenden en een gezonde ruimte voor oprechte verbinding.