5 grudnia 2024 r.

5 grudnia 2024 r.

Publikujemy niniejszy raport przejrzystości dwa razy w roku, aby umożliwić wgląd w działania Snapa w zakresie bezpieczeństwa. Dokładamy wszelkich starań, aby raporty były bardziej kompleksowe i zawierały więcej informacji dla wielu interesariuszy, którym zależy na naszych praktykach moderacji treści, egzekwowaniu prawa oraz bezpieczeństwie i dobrostanie społeczności na Snapchacie. 

Niniejszy raport przejrzystości obejmuje pierwszą połowę 2024 r. (od 1 stycznia do 30 czerwca). Podobnie jak w przypadku naszych poprzednich raportów, udostępniamy w tym dokumencie dane o globalnej liczbie treści w aplikacji oraz zgłoszeń z poziomu konta, które otrzymały nasze zespoły ds. zaufania i bezpieczeństwa i przeciw którym podjęliśmy działania w określonych kategoriach naruszenia Wytycznych dla społeczności. Podajemy również informacje na temat naszej reakcji na wnioski od organów ścigania i władz oraz nasze odpowiedzi na zgłoszenia o naruszeniu praw autorskich i znaków towarowych. Udostępniamy również informacje dotyczące poszczególnych krajów w plikach, do których odsyłają linki na dole niniejszej strony.

W ramach naszego stałego zobowiązania do ciągłego ulepszania naszych raportów przejrzystości wprowadzamy również nowe dane, w których podkreślamy nasze proaktywne działania na rzecz wykrywania i egzekwowania w odniesieniu do szerszego zakresu naruszeń naszych Wytycznych dla społeczności. W niniejszym raporcie ujęliśmy te dane zarówno na poziomie globalnym, jak i krajowym. Będziemy nadal to robić. Poprawiliśmy również błąd w tytule w naszych poprzednich raportach: w przypadkach, w których wcześniej pisaliśmy o „Łącznej liczbie egzekwowanych treści”, obecnie odwołujemy się do „Łącznej liczby działań egzekucyjnych”, aby odzwierciedlić fakt, że dane podane w odpowiednich kolumnach obejmują zarówno działania egzekucyjne na poziomie treści, jak i na poziomie konta.

Więcej informacji na temat naszych zasad zwalczania potencjalnych szkód w Internecie oraz planów dalszego rozwoju naszych praktyk w zakresie zgłaszania można znaleźć w naszym najnowszym blogu dotyczącym bezpieczeństwa i oddziaływania, dotyczącym niniejszego raportu przejrzystości. Dodatkowe materiały dotyczące bezpieczeństwa i prywatności na Snapchacie są dostępne w zakładce O raportach przejrzystości, znajdującej się na dole niniejszej strony.

Należy pamiętać, że najbardziej aktualną wersję tego raportu przejrzystości można znaleźć w wersji anglojęzycznej.

Nasze zespoły ds. zaufania i bezpieczeństwa egzekwują nasze Wytyczne dla społeczności zarówno proaktywnie (poprzez wykorzystanie zautomatyzowanych narzędzi), jak i reaktywnie (w odpowiedzi na zgłoszenia), zgodnie z informacjami szczegółowymi w poniższych sekcjach niniejszego raportu. W aktualnym cyklu sprawozdawczym (pierwsza połowa 2024 roku) nasze zespoły ds. zaufania i bezpieczeństwa podjęły następujące działania egzekucyjne: 

Poniżej przedstawiamy zestawienie w podziale na rodzaj naruszenia Wytycznych dla społeczności, w tym średni czas reakcji między czasem wykrycia naruszenia (w sposób proaktywny lub po otrzymaniu zgłoszenia) a czasem podjęcia działań końcowych w odniesieniu do danych treści lub danego konta:

W okresie sprawozdawczym wskaźnik wyświetleń naruszających zasady (VVR) wyniósł 0,01 procent, co oznacza, że na każde 10 000 wyświetleń Snapów i Stories na Snapchacie, jedno z nich zawierało treści naruszające nasze Wytyczne dla społeczności.

Od 1 stycznia do 30 czerwca 2024 r., w odpowiedzi na zgłoszenia w aplikacji dotyczące naruszeń naszych Wytycznych dla społeczności, zespoły ds. zaufania i bezpieczeństwa Snap podjęły łącznie 6 223 618 działań egzekucyjnych na całym świecie, w tym działań egzekucyjnych przeciwko 3 842 507 unikalnym kontom. Średni czas oczekiwania na podjęcie działań egzekucyjnych przez nasze zespoły ds. zaufania i bezpieczeństwa, w odpowiedzi na te zgłoszenia, wyniósł około 24 minuty. Poniżej przedstawiono zestawienie według kategorii zgłoszenia. 

W pierwszej połowie 2024 r. nasza łączna liczba zgłoszeń utrzymywała się na dość stabilnym poziomie w porównaniu z poprzednim półroczem. W tym cyklu odnotowaliśmy wzrost liczby działań egzekucyjnych i łącznej liczby unikalnych kont, które zostały objęte działaniami egzekucyjnymi o około 16%.

W ciągu ostatnich 12 miesięcy Snap wprowadził nowe mechanizmy zgłaszania dla użytkowników, które uwzględniają zmiany w liczbie zgłoszeń i działań egzekucyjnych oraz wydłużenie czasu procedowania w bieżącym okresie sprawozdawczym (pierwsza połowa 2024 roku). W szczególności:

• Zgłaszanie czatów grupowych: 13 października 2023 r. wprowadziliśmy zgłaszanie czatów grupowych, aby umożliwić użytkownikom zgłaszanie nadużyć na czacie wieloosobowym. Zmiana ta miała wpływ na rozkład naszych wskaźników w różnych kategoriach zgłaszania (ponieważ niektóre potencjalne szkody są bardziej prawdopodobne w kontekście czatu) i przełożyła się na większe możliwości podejmowania działań. 

• Ulepszenia w zakresie zgłaszania kont: udoskonalono również funkcję zgłaszania kont, aby umożliwić użytkownikom dokonującym zgłoszenia przesyłanie dowodów na czacie podczas zgłaszania konta, co do którego występuje podejrzenie, że jest prowadzone przez nieuczciwą osobę. Zmiana ta, która zapewnia nam więcej dowodów i lepszy kontekst do oceny zgłoszeń kont, została wprowadzona 29 lutego 2024 r. 

Zgłoszenia czatów, a w szczególności czatów grupowych, są jednymi z najbardziej złożonych i czasochłonnych w procesie weryfikacji, co wydłużyło czas procedowania we wszystkich obszarach.

Dwie opisane powyżej zmiany, obok zmian w szerszym ekosystemie, miały największy wpływ na zgłaszanie podejrzenia wykorzystywania seksualnego dzieci (CSEA), napastowania i nękania oraz mowy nienawiści. W szczególności:

• CSEA: w pierwszym półroczu 2024 roku zaobserwowaliśmy wzrost zgłoszeń związanych z wykorzystaniem seksualnym dzieci oraz odpowiednich działań egzekucyjnych. W szczególności zauważyliśmy wzrost o 64% łącznej liczby zgłoszeń dokonywanych przez użytkowników w aplikacji, wzrost o 82% wszystkich działań egzekucyjnych i wzrost o 108% łącznej liczby unikalnych kont objętych działaniami egzekucyjnymi. Wzrost ten wynika w dużej mierze z wprowadzenia funkcji zgłaszania czatu grupowego i konta. Ze względu na delikatny charakter tej kolejki do moderacji, wybrany zespół wysoko wykwalifikowanych pracowników jest przydzielany do oceny zgłoszeń dotyczących potencjalnych naruszeń związanych z CSEA. Napływ dodatkowych zgłoszeń w połączeniu z objęciem naszych zespołów nowymi szkoleniami spowodował wydłużenie czasu procedowania. Idąc dalej, znacznie zwiększyliśmy liczebność naszych zespołów pracowników obsługi, aby skrócić czas procedowania i podejmować odpowiednie działania egzekucyjne w odpowiedzi na zgłoszenia potencjalnego wykorzystania seksualnego dzieci. Oczekujemy, że wysiłki te znajdą odzwierciedlenie w naszym raporcie przejrzystości za drugą połowę 2024 r., a czas procedowania ulegnie znacznemu skróceniu.
  

• Napastowanie i nękanie: z raportu wynika, że napastowanie i nękanie w sposób nieproporcjonalny występuje w czatach, a zwłaszcza w czatach grupowych. Wprowadzone przez nas ulepszenia w zakresie zgłaszania czatów grupowych i kont pomagają nam podejmować bardziej kompleksowe działania podczas oceny zgłoszeń w tej kategorii. Ponadto od tego okresu wymagamy od użytkowników umieszczania komentarza podczas przesyłania zgłoszeń o napastowaniu i nękaniu. Analizujemy te komentarze, aby uwzględnić kontekst każdego zgłoszenia. Wszystkie te zmiany doprowadziły do znacznego wzrostu łącznej liczby działań egzekucyjnych (o 91%), łącznej liczby unikalnych kont objętych działaniami egzekucyjnymi (o 82%) oraz do wydłużenia czasu procedowania (o 245 minut) w przypadku odpowiednich zgłoszeń. 
  

• Mowa nienawiści: w pierwszej połowie 2024 r. zaobserwowaliśmy wzrost zgłaszanych treści, łącznej liczby działań egzekucyjnych i czasu procedowania w odniesieniu do mowy nienawiści. W szczególności odnotowaliśmy wzrost o 61% zgłoszeń w aplikacji, wzrost o 127% łącznej liczby działań egzekucyjnych i wzrost o 125% łącznej liczby unikalnych kont, które zostały objęte działaniami egzekucyjnymi. Zjawisko to wynikało częściowo z ulepszeń naszych mechanizmów zgłaszania czatów (zgodnie z opisem powyżej) i uległo dodatkowemu zaostrzeniu w wyniku otoczenia geopolitycznego, a zwłaszcza kontynuacji konfliktu między Izraelem a Hamasem. 

W bieżącym okresie sprawozdawczym odnotowaliśmy spadek o około 65% wszystkich działań egzekucyjnych i spadek o około 60% łącznej liczby unikalnych kont, które zostały objęte działaniami egzekucyjnymi w odpowiedzi na zgłoszenia podejrzanych przypadków spamu i nadużyć, co odzwierciedla usprawnienie proaktywnych narzędzi wykrywania i egzekwowania. W odpowiedzi na zgłoszenia dotyczące treści związanych z samookaleczaniem i samobójstwami odnotowaliśmy podobny spadek łącznej liczby działań egzekucyjnych (spadek o około 80%), co wynika z modyfikacji naszego podejścia, które koncentruje się na ofiarach. Nasze zespoły ds. zaufania i bezpieczeństwa, w stosownych przypadkach, będą wysyłać użytkownikom odpowiednie zasoby dotyczące samopomocy zamiast podejmować działania egzekucyjne przeciwko nim. Takie podejście zostało świadomie przyjęte przez członków Rady Doradczej ds. Bezpieczeństwa, w której skład wchodzą profesor pediatrii i lekarz specjalizujący się w zaburzeniach związanych z interaktywnymi mediami i Internetem.

Stosujemy zautomatyzowane narzędzia do proaktywnego wykrywania naruszeń naszych Wytycznych dla społeczności oraz, w niektórych przypadkach, działań egzekucyjnych. Narzędzia te obejmują narzędzia dopasowywania haszów (takie jak PhotoDNA i CSAI), narzędzia do wykrywania obraźliwego języka (które wykrywają naruszenia i podejmują działania egzekucyjne na podstawie zidentyfikowanej i regularnie aktualizowanej listy słów kluczowych i emotek stanowiących naruszenie), a także multimodalnej sztucznej inteligencji/technologii uczenia maszynowego. 

W pierwszej połowie 2024 roku podjęliśmy następujące działania egzekucyjne w następstwie proaktywnego wykrycia przypadków naruszenia naszych Wytycznych dla społeczności przy użyciu zautomatyzowanych narzędzi:

Wykorzystywanie seksualne któregokolwiek członka naszej społeczności, w szczególności nieletnich, jest nielegalne, odrażające i zabronione zgodnie z naszymi Wytycznymi dla społeczności. Zapobieganie, wykrywanie i eliminowanie materiałów zawierających wykorzystywanie seksualne dzieci (CSEA) na platformie Snap jest dla nas priorytetem i nieustannie zwiększamy nasze możliwości zwalczania takich oraz innych rodzajów przestępstw.

Wykorzystujemy aktywne narzędzia technologiczne umożliwiające wykrywanie naruszeń, takie jak PhotoDNA służące do dopasowywania haszów czy CSAI do identyfikowania znanych nielegalnych obrazów i filmów zawierających wykorzystywanie seksualne dzieci. Ponadto w niektórych przypadkach stosujemy sygnały behawioralne do działań egzekucyjnych mających na celu przeciwdziałanie innym potencjalnie nielegalnym działaniom obejmującym wykorzystywanie seksualne dzieci. Materiały zawierające wykorzystywanie seksualne dzieci zgłaszamy do amerykańskiej organizacji National Center for Missing and Exploited Children (Krajowe Centrum ds. Dzieci Zaginionych i Wykorzystywanych) (NCMEC), zgodnie z wymogami przepisów prawa. Instytucja ta następnie współpracuje z krajowymi i międzynarodowymi organami ścigania w zależności od sytuacji.

W pierwszej połowie 2024 r. podjęliśmy następujące działania w związku z wykryciem wykorzystywania seksualnego dzieci na Snapchacie (proaktywnie lub po otrzymaniu zgłoszenia):

Zdrowie psychiczne i dobrostan użytkowników Snapchata jest dla nas niezmiernie istotny, co prowadziło i w dalszym ciągu prowadzi do podejmowania decyzji dotyczących tworzenia Snapchata w odmienny sposób. Uważamy, że Snapchat jako platforma przeznaczona do komunikacji między prawdziwymi znajomymi może odgrywać wyjątkową rolę w ułatwianiu udzielania sobie wzajemnej pomocy w trudnym okresie. Dlatego opracowaliśmy zasoby i metody wsparcia dla użytkowników Snapchata w potrzebie. 

Nasze narzędzie wyszukiwania Here For You wyświetla zasoby lokalnych ekspertów, gdy użytkownicy szukają określonych tematów związanych ze zdrowiem psychicznym, stanami lękowymi, depresją, stresem, myślami samobójczymi, przygnębieniem i nękaniem. Opracowaliśmy również stronę poświęconą szantażowi na tle seksualnym i innym rodzajom ryzyka o podłożu seksualnym, aby wesprzeć osoby w trudnej sytuacji. Nasza globalna lista zasobów dotyczących bezpieczeństwa jest publicznie dostępna dla wszystkich użytkowników Snapchata w naszym Centrum prywatności, bezpieczeństwa i zasad. 

Gdy nasze zespoły ds. zaufania i bezpieczeństwa dowiedzą się o Snapchatterze znajdującym się w niebezpieczeństwie, mogą przekazać mu zasoby dotyczące zapobiegania samookaleczeniom i wsparcia, a w stosownych przypadkach powiadomić o tym personel reagowania kryzysowego. Udostępnione przez nas zasoby są dostępne na naszej globalnej liście zasobów dotyczących bezpieczeństwa dla wszystkich użytkowników Snapchata.

Poniżej przedstawiamy informacje na temat odwołań, które otrzymaliśmy od użytkowników wnioskujących o weryfikację naszej decyzji o zablokowaniu konta:

W niniejszej sekcji przedstawiono przegląd działań podejmowanych przez nasze zespoły ds. zaufania i bezpieczeństwa w celu egzekwowania naszych Wytycznych dla społeczności, zarówno proaktywnie, jak i w odpowiedzi na zgłoszenia naruszeń w aplikacji z podziałem na poszczególne regiony geograficzne. Nasze Wytyczne dla społeczności mają zastosowanie do wszelkich treści na Snapchacie — i do wszystkich użytkowników Snapchata — na całym świecie, bez względu na lokalizację.

Informacje dotyczące poszczególnych krajów, w tym wszystkich państw członkowskich UE, są dostępne do pobrania za pośrednictwem załączonego pliku CSV.

Snap dokłada wszelkich starań, aby wszystkie reklamy były w pełni zgodne z naszą Polityką dotyczącą reklam. Wierzymy w odpowiedzialne i kulturalne podejście do reklamowania, które umożliwi stworzenie bezpiecznych oraz przyjemnych doświadczeń dla wszystkich naszych użytkowników. Wszystkie reklamy podlegają ocenie i akceptacji przez firmę Snap. Ponadto zastrzegamy sobie prawo do usuwania reklam, również w odpowiedzi na opinie użytkowników, które traktujemy poważnie. 

Poniżej przedstawiamy informacje na temat naszej moderacji płatnych reklam, które zostały nam zgłoszone po ich opublikowaniu na Snapchacie. Należy pamiętać, że możemy usunąć reklamy ze Snapchata z różnych powodów, co opisane zostało w Polityce dotyczącej reklam Snapa. Wśród takich przyczyn są treści kłamliwe, treści dla dorosłych, treści brutalne lub niepokojące, mowa nienawiści oraz naruszenie własności intelektualnej. Ponadto możesz znaleźć galerię reklam Snapchata w pasku nawigacyjnym tego raportu przejrzystości.