Snap stale ulepsza mechanizmy bezpieczeństwa i zasady platformy, aby ograniczyć możliwość niewłaściwego korzystania z naszej platformy przez nieuczciwe osoby. Wykorzystujemy zaawansowaną technologię do wykrywania i blokowania działań, które naruszają nasze zasady, stosujemy zasady projektowania do tworzenia tarć w procesie nawiązywania znajomości, wspieramy organy ścigania, współpracujemy z organami rządowymi i pracujemy nad zwiększeniem świadomości i zapewnieniem edukacji w zakresie najpoważniejszych szkód, które dotykają nastolatków i w rzeczy samej wszystkich członków naszej społeczności. 

Bardzo poważnie traktujemy odpowiedzialność za ochronę nastolatków. Nasza praca jest znacząca i obejmuje następujące elementy: 

I. Uczynienie z platformy Snapchat wrogiego środowiska dla nieuczciwych osób

Wcześniej, w tym roku ogłosiliśmy nowe funkcje, które pomogą w dalszej ochronie naszej społeczności, a w szczególności użytkowników nastoletnich, oraz wzmocnieniu relacji w świecie rzeczywistym, które sprawiają, że Snapchat jest wyjątkowy. Aktualizacje te obejmują: rozszerzone ostrzeżenia w aplikacji dla podejrzanych kontaktów, ulepszone zabezpieczenia dodawania do znajomych stworzone specjalnie dla nastolatków oraz ulepszone możliwości blokowania niechcianych kontaktów. 

Zmiany te, koncentrujące się na zwalczaniu szantażu na tle seksualnym w Internecie, opierają się na naszych bieżących inwestycjach w zakresie walki z wszelkimi formami wykorzystywania i nadużyć seksualnych z udziałem dzieci. Na przykład: 

Wykorzystujemy sygnały do identyfikacji zachowań związanych z szantażem na tle seksualnym, abyśmy mogli aktywnie usuwać nieuczciwe osoby, zanim będą miały możliwość namierzenia i prześladowania innych. Jest to dodatek do wykorzystania i wdrażania technologii mającej na celu zapobieganie rozpowszechnianiu znanych obrazów wykorzystywania seksualnego dzieci i nadużyć (CSEAI) na Snapchacie, w tym PhotoDNA (do wykrywania duplikatów znanych nielegalnych zdjęć), CSAI Match (do wykrywania duplikatów znanych nielegalnych filmów) i Content Safety API (do pomagania w wykrywaniu nowych, nigdy wcześniej nie haszowanych obrazów).

Chociaż od dawna oferujemy w aplikacji proste zgłaszanie treści i kont, które naruszają nasze zasady, w 2023 r. wprowadziliśmy ulepszenia, które wzmocniły walkę ze szkodami związanymi z szantażem na tle seksualnym. W zeszłym roku uruchomiliśmy raportowanie tekstowe na czacie w aplikacji, co umożliwia użytkownikom Snapchata zgłaszanie poszczególnych wiadomości bezpośrednio z konwersacji. Rozszerzyliśmy również nasze narzędzia do zgłaszania w aplikacji, aby uwzględnić konkretny, dostosowany powód zgłaszania szantażu na tle seksualnym oraz, zgodnie z radami i wskazówkami organizacji pozarządowej Thorn walczącej z przemocą seksualną wobec dzieci (CSEA), przedstawiliśmy tę opcję zgłaszania w języku zrozumiałym dla nastolatków i młodych ludzi („Wyciekły / grożą wyciekiem moich nagich zdjęć”). Zgłoszenia te są z kolei wykorzystywane do informowania o naszych wysiłkach w zakresie egzekwowania prawa, w tym wykrywaniu i egzekwowaniu na podstawie sygnałów. Analizujemy trendy, wzorce i techniki szantażowania seksualnego i, jeśli konto wykazuje określone cechy, zostaje ono zablokowane za szantaż na tle seksualnym.

Nadal ulepszamy i powiększamy nasz pakiet narzędzi Centrum rodziny, opublikowany w 2022 r., za pomocą którego rodzice mogą zobaczyć, kto jest znajomym ich nastolatków na platformie Snapchat, z kim ostatnio rozmawiali i z łatwością zgłosić konta, które mogą być dla nich problematyczne. Naszym celem Centrum rodziny zawsze było zachęcanie do otwartego i konstruktywnego dialogu między rodzicami/opiekunami i nastolatkami na temat bezpieczeństwa w Internecie. 

Ściśle współpracujemy z organami ścigania i inwestujemy w nasze zespoły ds. bezpieczeństwa i egzekwowania prawa, które działają na całym świecie 24 godziny na dobę, 7 dni w tygodniu, aby pomóc zapewnić bezpieczeństwo naszej społeczności. Na przykład od 2020 r. nasze zespoły ds. zaufania i bezpieczeństwa zwiększyły się ponad dwukrotnie — nasz zespół ds. egzekwowania prawa zwiększył się od tego czasu ponad trzykrotnie. Co roku organizujemy szczyty dla organów ścigania w Stanach Zjednoczonych, aby zapewnić, że funkcjonariusze i agencje wiedzą, jak podejmować odpowiednie działania przeciwko nielegalnej działalności na naszej platformie. 

Współpracujemy również bezpośrednio z organami ścigania w Nigerii — skąd pochodzi wiele spraw o szantaż na tle seksualnym — aby budować zdolności i wiedzę pozwalającą na prowadzenie dochodzeń i ściganie sprawców, a także planujemy kontynuować nasze zaangażowanie z rządem nigeryjskim w celu dalszej współpracy w tej dziedzinie. Współpracujemy również z międzynarodową misją sprawiedliwości, NCMEC, innymi członkami w branży i organizacjami pozarządowymi, aby zapewnić szkolenie dla organów ścigania w zakresie dochodzeń w sprawie CyberTips w krajach poza Stanami Zjednoczonymi, w których praktyka szantażu na tle seksualnym jest powszechna.

Przez wiele lat współpracowaliśmy również z solidną kadrą „zaufanych oznaczających”: organizacjami non-profit, organizacjami pozarządowymi i wybranymi agencjami rządowymi, które eskalują do nas przypadki nadużyć, bezpośredniego zagrożenia życia i inne problemy nadzwyczajne, w imieniu użytkowników Snapchata w potrzebie, za pośrednictwem kanałów o wysokim priorytecie. Większość uczestników naszego programu dotyczącego współpracy z zaufanymi osobami zgłaszającymi zgłasza treści i konta dotyczące szkód seksualnych wymierzonych w nieletnich, w tym szantażu na tle seksualnym.  

II. Angażowanie ekspertów i koalicji z branży 

Oprócz własnych inwestycji współpracujemy również z ekspertami z całego świata, ponieważ wiemy, że żaden podmiot ani organizacja nie może samodzielnie w znaczący sposób rozwiązać tych problemów. Na przykład Snap reprezentuje branżę w międzynarodowej Radzie Politycznej WeProtect Global Alliance; jesteśmy członkami Rady Doradczej INHOPE i zasiadamy w Radzie powierniczej brytyjskiej Fundacji Internet Watch (IWF). Wszystkie te organizacje mają na celowniku wyeliminowanie CSEA w sieci.

Pozostajemy aktywnymi członkami Koalicji technologicznej, globalnego sojuszu branżowego skoncentrowanego na zwalczaniu wykorzystywania seksualnego dzieci w Internecie i niedawno zakończyliśmy dwuletnią kadencję w Komitecie Wykonawczym Rady Dyrektorów. Byliśmy również członkami-założycielami inicjatywy Lantern koalicji technologicznej, pierwszego międzyplatformowego programu udostępniania sygnałów dla firm, aby wzmocnić sposób egzekwowania zasad bezpieczeństwa dzieci. Poprzez aktywne uczestnictwo w tym programie, firmy mogą pomagać sobie nawzajem w sprawdzaniu krzyżowym mającym na celu wykrywania przestępców, w tym osób posuwających się do szantażu na tle seksualnym.   

Ponadto korzystamy z bazy danych Take It Down Krajowego Centrum ds. Zaginionych i Wykorzystywanych dzieci (NCMEC), która umożliwia nieletnim generowanie cyfrowego odcisku palca — nazywanego „hash” dla wybranych obrazów lub filmów bezpośrednio na ich urządzeniach. Firmy uczestniczące, w tym Snap, mogą następnie wykorzystywać te odciski „hash”, aby szukać i usuwać duplikaty zdjęć naruszających nasze Wytyczne dla społeczności. Uczestniczymy w podobnym programie w Wielkiej Brytanii zwanym Report Remove, a w zeszłym roku dołączyliśmy do współpracy SWGfL w zakresie StopNCII, aby zapobiegać rozpowszechnianiu intymnych zdjęć bez zgody użytkownika (NCII) na platformie Snapchat poprzez wykorzystanie bazy danych hash tej grupy. StopNCII pomaga powstrzymać rozpowszechnianie intymnych zdjęć osób w wieku powyżej 18 lat i oferuje ofiarom możliwość odzyskania prywatności w związku z najbardziej prywatnymi zdjęciami i filmami.

W tym roku uruchomiliśmy również naszą inauguracyjną Radę Snap na rzecz cyfrowego dobrostanu, grupę 18 nastolatków z całych Stanów Zjednoczonych, wybranych do udziału w rocznym programie pilotażowym promującym bezpieczniejsze zwyczaje i praktyki w Internecie w szkołach i społecznościach. W lipcu ta grupa, wraz z co najmniej jednym rodzicem lub opiekunem, zebrała się w celu prowadzenia dyskusji w siedzibie Snap w Santa Monica w Kalifornii, która przyniosła interesujące informacje na temat pułapek w Internecie i dynamiki społecznej oraz narzędzi rodzicielskich. Jest to uzupełnienie Rady Doradczej ds. bezpieczeństwa Snap, składającej się z 16 specjalistów i trzech rzeczników ds. młodzieży, którzy zapewniają firmie Snap bezpośrednie wytyczne i wskazówki w zakresie bezpieczeństwa. Z niecierpliwością czekamy na rok 2025, w którym mamy nadzieję stworzyć więcej możliwości dla członków obu grup na spotkanie się i odkrycie dodatkowych informacji. 

III. Napędzanie świadomości 

Oprócz naszych inwestycji wewnętrznych i prowadzonej współpracy międzybranżowej i z ekspertami, kluczowym komponentem walki z nadużyciami seksualnymi w Internecie i szantażem na tle seksualnym jest zwiększanie świadomości publicznej i samych Snapchatterów. 

W 2022 r. uruchomiliśmy Indeks dobrostanu cyfrowego, przodujące w branży badanie oferujące wgląd w to, jak nastolatkowie i młodzi dorośli radzą sobie online na wszystkich platformach. W ramach tego badania w ciągu ostatnich dwóch lat przeprowadziliśmy głęboką analizę dotyczącą szantażu na tle seksualnym. Ponieważ badanie to obejmuje ogólnie doświadczenia online, a nie wyłącznie na Snapchacie, to nie tylko pomaga informować o naszej pracy, ale mamy nadzieję, oferuje również informacje innym osobom z całego ekosystemu technologicznego. Jeszcze w tym miesiącu udostępnimy wyniki naszej dwuletniej analizy dotyczącej szantażu na tle seksualnym w połączeniu z nadchodzącym wirtualnym forum wielostronnych interesariuszy Koalicji technologicznej na temat finansowego szantażu na tle seksualnym osób nieletnich.

Na początku tego roku mieliśmy zaszczyt być pierwszym podmiotem wspierającym Know2Protect, pierwszą w swoim rodzaju kampanię uświadamiającą uruchomioną na początku tego roku przez Departament Bezpieczeństwa Wewnętrznego Stanów Zjednoczonych (DHS). Kampania edukuje i wzmacnia pozycję młodych ludzi, rodziców, zaufanych dorosłych i decydentów w celu pomocy w zapobieganiu i zwalczaniu przestępstw, takich jak szantaż na tle seksualnym o charakterze finansowym. Oprócz udostępniania przestrzeni reklamowej na platformie Snapchat w celu publikowania zasobów edukacyjnych K2P prowadzimy dodatkowe badania z nastolatkami i młodymi dorosłymi w Stanach Zjednoczonych w celu dalszego informowania o kampanii. Wspólnie uruchomiliśmy również nakładkę Snapchata z rozszerzoną rzeczywistością, aby pomóc edukować użytkowników Snapchata za pośrednictwem interaktywnego quizu Know2Protect. A w Wielkiej Brytanii wspieraliśmy dotychczas szeroko zakrojoną kampanię informacyjną IWF dotyczącą tych problemów, Gurls Out Loud, mającą na celu informowanie dziewcząt w wieku od 11 do 13 lat o seksualnym uwodzeniu małoletnich, sekstingu i wysyłaniu nagich zdjęć. Ponadto niedawno uruchomiliśmy Przewodnik dla nauczycieli po Snapchacie, współpracując z organizacją Safe and Sound Schools w celu opracowania kompleksowego zestawu narzędzi dla nauczycieli zawierającego informacje i wskazówki dotyczące zwalczania szantażu na tle seksualnym. 

Na podstawie lat badań wiemy, że podnoszenie świadomości i edukacja społeczności są potężnymi narzędziami pomagającymi zapobiegać szkodom w Internecie i nadal rozwijamy i promujemy zasoby w aplikacji, aby dotrzeć do nastolatków i młodych ludzi bezpośrednio na Snapchacie. We wrześniu 2023 r. opublikowaliśmy w aplikacji cztery nowe odcinki „Safety Snapshot” poświęcone ryzyku i szkodom seksualnym, w tym szantażowi na tle seksualnym o charakterze finansowym. Oferujemy również odcinki dotyczące sekstingu i konsekwencji tworzenia i udostępniania nagich zdjęć, uwodzenia małoletnich w Internecie do celów seksualnych i handlu dziećmi w celach seksualnych. Wszystkie te zasoby zostały sprawdzone przez ekspertów z Narodowego Centrum ds. Zaginionych i Wykorzystywanych Dzieci (NCMEC) i utworzone we współpracy z odpowiednimi infoliniami i liniami pomocy w kluczowych regionach geograficznych. 

Nie przestajemy walczyć z wykorzystywaniem seksualnym dzieci w Internecie i nadużyciami seksualnymi, ale wciąż pozostaje wiele do zrobienia. W 2025 r. będziemy nadal zwiększać świadomość na temat potencjalnych szkód w Internecie i nadal powtarzać, że potencjalnym celem może być każdy z nas. Chcemy wcześnie i często zakłócać i udaremniać nieuczciwe osoby oraz chcemy tworzyć jeszcze bardziej skuteczne wskazówki CyberTips dla organów ścigania.

Należy pamiętać, że stosujemy wiele z tych samych strategii w walce z innymi poważnymi szkodami, takimi jak nielegalna działalność narkotykowa, w tym sprzedaż podrobionych tabletek, groźby przemocy oraz treści dotyczące samobójstw i samookaleczeń. Zdajemy sobie sprawę, że nasza praca w tej przestrzeni może nigdy się nie zakończyć, ale bardzo nam zależy na bezpieczeństwie użytkowników Snapchata i będziemy nadal współpracować z branżą, administracją rządową i organami ścigania w celu wymiany informacji i wzmocnienia naszej obrony.