Każdy zasługuje na to, by czuć się bezpiecznie w internecie i mieć kontrolę nad swoimi zdjęciami. W aplikacji Snapchat wyraźnie zabraniamy udostępniania, promowania i rozpowszechniania treści o charakterze jednoznacznie seksualnym, w tym intymnych zdjęć bez zgody (NCII). Jednak z pomocą ustawodawców możemy skodyfikować i wzmocnić standardy branżowe oraz zapewnić silniejszą ochronę przed tego typu szkodami. Dlatego z dumą wspieramy H.R. 633, znaną również jako ustawa TAKE IT DOWN (Tools to Address Known Exploitation by Immobilizing Technological Deepfakes On Websites and Networks).

Ustawa TAKE IT DOWN czyni publikowanie NCII i podobnych materiałów wizualnych przestępstwem federalnym. Wymaga ona również od stron internetowych i platform takich jak Snapchat usuwania takich materiałów w ciągu 48 godzin od otrzymania wniosku od ofiary oraz podejmowania uzasadnionych starań w celu zidentyfikowania i usunięcia kopii zdjęć. Prawo to jest kluczowym krokiem nie tylko w celu ochrony ludzi przed udostępnianiem ich prywatnych zdjęć bez pozwolenia, ale także w ograniczaniu dystrybucji intymnych zdjęć generowanych przez sztuczną inteligencję, które mogą być równie szkodliwe.

W Snap ochrona naszej społeczności — zwłaszcza młodszych użytkowników — jest naszym najwyższym priorytetem. Ustawa TAKE IT DOWN jest zgodna z naszymi bieżącymi wysiłkami i uzupełnia je w celu powstrzymania złych podmiotów przed rozpowszechnianiem w internecie materiałów NCII oraz materiałów przedstawiających wykorzystywanie seksualne i krzywdzenie dzieci (CSEAI). Nasza praca obejmuje:

• Szybkie reagowanie na zgłoszenia

Nasze zespoły ds. bezpieczeństwa działające 24/7 szybko reagują na zgłoszenia dotyczące nękania lub treści o charakterze seksualnym, dążąc do zapewnienia szybkiego działania, gdy snapchaterzy potrzebują pomocy. Ułatwiamy zgłaszanie w aplikacji, umożliwiając snapchaterom zgłaszanie poszczególnych wiadomości, Stories lub kont bezpośrednio z konwersacji. Mamy również określone kategorie, w których można zgłaszać materiały NCII i CSEAI, dzięki czemu nasze zespoły ds. bezpieczeństwa mogą nadawać priorytet tym zgłoszeniom i szybko działać.

• Wspieranie ofiar poprzez partnerstwa branżowe

Aktywnie uczestniczymy w programie Take It Down prowadzonym przez National Center for Missing and Exploited Children (NCMEC), który umożliwia nieletnim tworzenie cyfrowych „odcisków palców” intymnych zdjęć bez udostępniania samych zdjęć. Używamy tych odcisków palców do wykrywania pasujących treści na Snapchacie i usuwania wszystkiego, co narusza nasze zasady. Uczestniczymy również w podobnych programach, takich jak Report Remove w Wielkiej Brytanii, również w przypadku zdjęć nieletnich, oraz StopNCII dla osób powyżej 18 roku życia – wszystko to pomaga zapobiegać rozprzestrzenianiu się intymnych zdjęć na naszej platformie.

• Zaawansowana technologia do wykrywania i usuwania szkodliwych treści

Używamy specjalistycznej technologii, takiej jak PhotoDNA, do wykrywania znanych nielegalnych zdjęć oraz CSAI Match od Google do wykrywania znanych nielegalnych filmów. Korzystamy również z interfejsu API Content Safety od Google, aby pomóc nam identyfikować nielegalne materiały wizualne, które nie zostały wcześniej zgłoszone ani nie zostały im przypisane hashe.

• Ochrona nastolatków przed nieznajomymi i podejrzanymi kontami

Aby zaradzić niedawnemu trendowi oszustw związanych z szantażem na tle seksualnym, wprowadziliśmy zabezpieczenia dla młodszych użytkowników, które pomagają uniemożliwić nieznajomym znajdowanie ich profili i nawiązywanie z nimi kontaktu. Ostrzegamy nastolatków przed podejrzanymi zaproszeniami do znajomych i całkowicie uniemożliwiamy dostarczenie zaproszenia do znajomych, gdy pochodzi ono od konta bez wspólnych znajomych do nastolatka lub jeśli konto ma historię dostępu do Snapchata w lokalizacjach związanych z działalnością oszustów. Podejmujemy również kroki, aby uniemożliwić przestępcom tworzenie nowych kont na tym samym urządzeniu lub przy użyciu tego samego adresu e-mail lub numeru telefonu.

• Współpraca z organami ścigania

Nasz zespół ds. operacji związanych z organami ścigania znacznie się rozrósł, co pozwala nam na lepszą współpracę z władzami w celu zapewnienia bezpieczeństwa snapchaterom. Organizujemy coroczny szczyt organów ścigania w USA i współpracujemy z międzynarodowymi organami ścigania, w tym w Afryce Zachodniej, skąd pochodzi wiele przypadków szantażu na tle seksualnym. W sytuacjach awaryjnych zazwyczaj odpowiadamy na związane z tym wnioski organów ścigania o ujawnienie danych w ciągu 30 minut. Ponadto, gdy dowiemy się o wykorzystywaniu seksualnym dzieci – niezależnie od tego, czy zostanie nam to zgłoszone, czy też proaktywnie to zidentyfikujemy – zgłaszamy to do NCMEC, które z kolei koordynuje działania z krajowymi i międzynarodowymi organami ścigania w stosownych przypadkach.

• Edukacja i świadomość 

Aby bezpośrednio edukować naszą społeczność, uruchomiliśmy w aplikacji krótkie filmy na temat zagrożeń seksualnych i potencjalnych szkód za pośrednictwem naszego kanału„Safety Snapshot”w sekcji Odkrywaj. Tematy obejmują szantaż na tle seksualnym oraz konsekwencje robienia i udostępniania nagich zdjęć. Ponadto opracowaliśmy zasoby dla rodziców i wychowawców, aby pomóc im zrozumieć, w jaki sposób nastolatki korzystają ze Snapchata i jakie zabezpieczenia istnieją, aby zapewnić im bezpieczeństwo. Nasza Rada Snapds. cyfrowego dobrostanuzrzesza nastolatków w celu promowania bezpieczniejszych nawyków online w ich szkołach i społecznościach. Współpracujemy również z ekspertami w celu wspierania inicjatyw takich jakKnow2Protect, krajowa kampania uświadamiająca społeczeństwo, zainicjowana przez Departament Bezpieczeństwa Wewnętrznego Stanów Zjednoczonych w celu zapobiegania i zwalczania przestępstw, takich jak szantaż na tle seksualnym.

Nasze stałe zaangażowanie

Chociaż cieszymy się z naszych postępów, wiemy, że nasza praca może nigdy się nie skończyć. W Snap będziemy nadal podnosić świadomość na temat potencjalnych szkód w internecie, rozwijać nowe technologie do wykrywania treści naruszających zasady i współpracować z partnerami branżowymi, agencjami rządowymi, organami ścigania, społeczeństwem obywatelskim, rodzicami i samymi młodymi ludźmi.

Wspierając ustawę TAKE IT DOWN i kontynuując nasze wysiłki na rzecz bezpieczeństwa, dążymy do przyszłości, w której każdy będzie mógł cieszyć się kontaktem z przyjaciółmi i rodziną w internecie bez obawy o wykorzystanie lub nadużycia.

Bardzo zależy nam na bezpieczeństwie każdego snapchatera i pozostajemy zaangażowani w uczynienie naszej platformy nieprzyjaznym środowiskiem dla złych podmiotów i zdrową przestrzenią dla autentycznych relacji.