Snap jest głęboko zaangażowany w bezpieczeństwo społeczności Snapchata. Naszym celem jest ochrona użytkowników przed szeregiem zagrożeń internetowych i potencjalnych szkód, które obejmują cały ekosystem cyfrowy, w tym odrażające przestępstwa związane z wykorzystywaniem seksualnym i krzywdzeniem dzieci (CSEA). Snap od lat zwalcza te nielegalne treści i nikczemne zachowania przestępcze, stosując zarówno proaktywne środki wykrywania, jak i reaktywne środki reagowania w całej aplikacji Snapchat. W ciągu ostatniego roku wprowadziliśmy dodatkowe zmiany w naszych powiązanych zasadach i procesach, aby pomóc w postawieniu sprawców przed wymiarem sprawiedliwości. Chcielibyśmy podzielić się tutaj bardziej szczegółowymi informacjami na temat tej pracy.

Czym jest CSEA?

Wykorzystywanie seksualne i krzywdzenie dzieci obejmuje szereg nielegalnych działań związanych z krzywdzeniem seksualnym nieletnich, w tym: oglądanie, produkcję i dystrybucję materiałów przedstawiających wykorzystywanie seksualne i krzywdzenie dzieci (CSEAI), w tym nowsze zagrożenie w postaci zdjęć i filmów generowanych przez sztuczną inteligencję; uwodzenie lub wabienie nieletnich w Internecie w celach seksualnych; ¹szantaż na tle seksualnym; ²handel dziećmi w celach seksualnych; oraz transmisje na żywo przedstawiające wykorzystywanie seksualne i torturowanie dzieci. ³Trudno jest pojąć, że te odrażające realia rzeczywiście istnieją. Niestety, takie nadużycia zawsze miały miejsce, a świat cyfrowy zapewnia obecnie alternatywne sposoby ich popełniania, rozszerzając metody przestępcze, które stają się szybsze i mają większy zasięg.

„Technologia fundamentalnie zmieniła sposób, w jaki osoby zainteresowane seksualnie dziećmi fantazjują o nich, uzyskują do nich dostęp i polują na nie” – powiedział Ernie Allen, przewodniczący londyńskiej organizacjiWeProtect Global Alliance. „New York Timesnapisał: „Kryzys związany z wykorzystywaniem seksualnym dzieci w Internecie osiągnął punkt krytyczny”. Zauważono, że liczba zgłoszeń rośnie, przestępcy udostępniają zdjęcia coraz młodszych ofiar i coraz bardziej ohydnych przestępstw, a organy ścigania z trudem nadążają. Jeśli dodamy do tego wyzwania nowe warianty, takie jak szantaż na tle seksualnym, którego liczba według FBI wzrosła o 7200%, transmisje na żywo z nadużyć i inne, staje się jasne, że problem ten powinien znaleźć się na szczycie programów politycznych na całym świecie” – dodał.

Zobowiązania prawne firm technologicznych

Gdy amerykańskie firmy technologiczne dowiedzą się o CSEA na swoich platformach lub w usługach, mają prawny obowiązek zgłoszenia tego do Krajowego Centrum ds. Dzieci Zaginionych i Wykorzystywanych (NCMEC). NCMEC następnie przegląda te zgłoszenia CyberTip i współpracuje z krajowymi i międzynarodowymi organami ścigania, aby pomóc w ochronie dzieci-ofiar i ukaraniu sprawców.

Do zeszłego roku roczna liczba zgłoszeń CyberTip do NCMEC w dużej mierze rosła z roku na rok, osiągając rekordową liczbę 36,2 miliona zgłoszeń ⁴w 2023 r., w porównaniu z nieco ponad 32 milionami w 2022 r. i 4560 w 1998 r., kiedy utworzono linię CyberTipline NCMEC. To właśnie ten rekordowy wzrost liczby zgłoszeń CyberTip – oprócz innych czynników, w tym utrzymującego się na całym świecie gwałtownego wzrostu liczby szantaży na tle seksualnym oraz informacji zwrotnych, które otrzymaliśmy od organów ścigania na temat możliwości podjęcia działań w oparciu o nasze własne zgłoszenia CyberTip – skłonił Snap do zwrócenia się po raz pierwszy do NCMEC w 2024 r. w celu ponownego skalibrowania naszych zgłoszeń CyberTip.

Monitorowałem zgłoszenia CyberTip przez kilka lat i jestem głęboko przekonany, że praktyka niektórych firm technologicznych zmierza w kierunku zgłaszaniawszystkiegodo NCMEC – nawet ponad ich prawny obowiązek – z obawy przed oskarżeniem o pominięcieczegoś. ⁵Firmy, które nie dokonują zgłoszeń zgodnie z wymogami prawa, mogą spotkać się z surowymi karami. Jednak takie podejście do zgłaszania, w połączeniu z niską przydatnością wielu zgłoszeń (albo dlatego, że zgłoszenia CyberTip nie mają wystarczającego kontekstu, aby organy ścigania mogły podjąć działania, albo dlatego, że zgłoszone zachowanie w niektórych przypadkach nie jest dla nich priorytetem), doprowadziło do rosnącej liczby zgłoszeń CyberTip, wielokrotnych, obszernych przeglądów i rosnącej frustracji wśród organów ścigania.

Cel: wartościowe zgłoszenia CyberTip

Celem naszej ponownej kalibracji z NCMEC było dalsze zwiększenie przydatności i wartości zgłoszeń CyberTip firmy Snap poprzez udoskonalenie naszych własnych zasad platformy i protokołów, które stosujemy do zgłaszania do NCMEC. Ta początkowa ponowna kalibracja miała miejsce w maju 2024 r., a nasze zmiany w zasadach weszły w pełni w życie w drugiej połowie ubiegłego roku.

Chociaż powinniśmy unikać zbytniego kładzenia nacisku na samą liczbę zgłoszeń w oderwaniu od kontekstu, od czasu wdrożenia naszych udoskonaleń polityki, Snap z przyjemnością informuje, że odnotowaliśmy znaczny spadek ogólnej liczby zgłoszeń do NCMEC i podobny spadek eskalacji w przypadku uwodzenia w Internecie – a wszystko to przy jednoczesnym wypełnianiu naszych prawnych obowiązków zgłaszania CSEA w zgłoszeniach CyberTip. Niższe sumy nie zostały jeszcze uwzględnione w rocznych wolumenach zgłoszeń NCMEC, ponieważ zmiany zostały wdrożone pod koniec 2024 r., pozostawiając tylko kilka pełnych miesięcy roku na odzwierciedlenie poprawek.

Równolegle nasz zespół pracuje nad poprawą danych i etykietowania w naszych zgłoszeniach CyberTip. Takie wyjaśnienia mogą pomóc w lepszej identyfikacji domniemanych przestępstw i zaangażowanych osób, a z kolei umożliwić szybszą i dokładniejszą selekcję zgłoszeń przez NCMEC i organy ścigania. Nawet jeśli zgłoszenie do NCMEC może nie być uzasadnione, Snap będzie nadal reagować na obrazy i zachowania, które naruszają nasze zasady platformy, podejmując działania, które mogą obejmować usunięcie treści naruszających zasady, wyłączenie konta i próbę zablokowania tworzenia nowych kont.

Punkt kontrolny ponownej kalibracji

W zeszłym miesiącu przeprowadziliśmy drugą ponowną kalibrację z NCMEC, podczas której zespół Snap podsumował zeszłoroczne wewnętrzne zmiany w zasadach, poinformował NCMEC o naszych postępach, potwierdził kilka dodatkowych wytycznych operacyjnych i pomógł ustalić oczekiwania na nadchodzące miesiące. Zapowiedzieliśmy również kilka dalszych planowanych dodatków do zasad i raportowania, które, mamy nadzieję, będą nadal zwiększać wartość naszych raportów zarówno dla NCMEC, jak i organów ścigania. Oczywiście jest to proces iteracyjny, ale jesteśmy podbudowani postępami osiągniętymi w ciągu ostatniego roku.

Patrząc w przyszłość

Z biegiem czasu spodziewamy się, że NCMEC i organy ścigania mogą nadal odnotowywać zmniejszoną liczbę zgłoszeń CyberTip od Snap w porównaniu z poprzednimi latami, ale większy odsetek tych, którefaktycznieotrzymają, powinien zawierać informacje wyższej jakości i być bardziej przydatny.

Jesteśmy zaangażowani w ciągłe doskonalenie wszystkich aspektów naszej pracy na rzecz bezpieczeństwa. Nie udajemy, że mamy wszystkie odpowiedzi w odniesieniu do zwalczania CSEA lub jakiejkolwiek innej potencjalnej szkody w Internecie; nikt nie powinien, ponieważ nikt ich nie ma. Dzień w dzień walczymy z problemami ogólnospołecznymi i stosujemy podejściecałej firmy, mając na uwadze dwa nadrzędne cele: ograniczanie ryzyka i zmniejszanie szkód.

W odniesieniu do naszych zgłoszeń CyberTip mamy wyraźny cel na niedaleką przyszłość: niezależnie od tego, czy będzie to dowódca stanowej grupy zadaniowej ds. przestępstw internetowych przeciwko dzieciom (ICAC), śledczy federalny, czy funkcjonariusz organów ścigania z drugiego końca świata, chcemy, aby władze stanowe, federalne i międzynarodowe z ufnością podejmowały działania w oparciu o zgłoszenia CyberTip od Snap, ponieważ wiedzą, że nasze raporty są niezmiennie wiarygodne, wartościowe i dokładne. Mamy nadzieję, że te wysiłki przyczynią się do odpowiedniego wzrostu liczby powiązanych aresztowań ⁶i wyroków skazujących na całym świecie.

Ogromne „dziękuję” dla NCMEC, WeProtect, 61 grup zadaniowych ICAC w USA, organów ścigania na całym świecie oraz wszystkich naszych kolegów i współpracowników w dziedzinie zwalczania CSEA – i dodatkowa uwaga, że pozostajemy otwarci i chętni na Wasze opinie, aby dalej ulepszać nasze strategie i podejścia. Jesteśmy w tym wszyscy razem.

- Jacqueline Beauchere, Globalna Dyrektor ds. Bezpieczeństwa Platformy