5. prosince 2024

5. prosince 2024

Tuto zprávu o transparentnosti zveřejňujeme dvakrát ročně, abychom poskytli přehled o snahách společnosti Snap na poli bezpečnosti. Jsme odhodláni v těchto snahách pokračovat a neustále se snažíme poskytovat zprávy, které jsou čím dál komplexnější a poskytují více informací pro mnoho zúčastněných, kteří se hlouběji zajímají o naše moderování obsahu, postupy pro vymáhání práva a bezpečnost a pohonu komunity Snapchatu. 

Tato zpráva o transparentnosti se týká prvního pololetí roku 2024 (1. ledna – 30. června). Stejně jako v našich předchozích zprávách v ní zveřejňujeme údaje o celkovém objemu případů nahlášení obsahu a účtů v aplikaci, které naše Týmy důvěry a bezpečnosti řešili v jednotlivých kategoriích porušení Pokynů pro komunitu, i o tom, jak jsme reagovali na žádosti orgánů činných v trestním řízení a dalších úřadů, a jak jsme reagovali na oznámení o porušení autorských práv a ochranných známek. V souborech, na které je odkazováno v dolní části této stránky, také poskytujeme přehledy pro jednotlivé země.

V rámci našeho pokračujícího úsilí neustále zlepšovat naše zprávy o transparentnosti mimo jiné poskytujeme nové přehledy o tom, jak proaktivně detekujeme a prosazujeme pravidla u široké škály porušení našich Pokynů pro komunitu. Tato data jsme v této zprávě zahrnuli jak na globální úrovni, tak na úrovních jednotlivých zemí a budeme je takto poskytovat i nadále. Také jsme opravili chybu v označení, která se nacházela v našich předchozích zprávách: tam, kde jsme dříve zmiňovali „celkový omezený obsah“ nyní uvádíme „celkem případů vymáhání“, abychom reflektovali skutečnost, že data uvedená v příslušných sloupcích zahrnují vymáhání jak na úrovni obsahu, jak na úrovni účtů.

Další informace o našich zásadách pro boj proti možným rizikům v prostředí internetu a o našich plánech dalšího rozvoje postupů při nahlašování naleznete na našem nedávném blogu o bezpečnosti a dopadu, který se zabývá touto zprávou o transparentnosti. Podrobnosti o prostředcích k zajištění bezpečnosti a ochrany soukromí na Snapchatu pak najdete na kartě O podávání zpráv o transparentnosti v dolní části stránky.

Upozorňujeme, že aktuální verzi této Zprávy o transparentnosti je k dispozici v EN-US lokalizaci.

Naše Týmy pro důvěru a bezpečnost vymáhají naše Pokyny pro komunitu jak proaktivně (pomocí automatizovaných nástrojů), tak reaktivně (v reakci na nahlášení), jak je podrobně popsáno v následujících částech této zprávy. V tomto cyklu zprávy (1. pol. 2024) naše Týmy pro důvěru a bezpečnost podnikly následující kroky vymáhání pravidel: 

Níže naleznete členění podle typu porušení Pokynů pro komunitu, včetně mediánové doby mezi momentem zjištění porušení (proaktivně nebo po obdržení hlášení) a momentem, kdy jsme učinili poslední akci týkající se relevantního obsahu nebo účtu:

Za období, které je předmětem této zprávy, jsme zaznamenali míru porušení pravidel (MPP) v hodnotě 0,01 procenta, což znamená, že jeden z každých 10 000 snapů a příběhů zobrazených na Snapchatu porušoval naše Pokyny pro komunitu.

Od 1. ledna do 30. června 2024 v reakci na nahlášení o porušení našich Pokynů pro komunitu provedená v aplikaci Týmy pro důvěru a bezpečnost provedl celkem 6 223 618 vymáhání pravidel po celém světě, včetně vymáhání pravidel u 3 842 507 jedinečných účtů. Medián doby akce vymáhání pravidel ze strany Týmů pro důvěru a bezpečnost v reakci na tato hlášení byl přibližně 24 minut. Níže je uvedeno členění podle kategorií hlášení. 

Naše celkové uváděné objemy zůstaly v 1. pololetí roku 2024 v porovnání s předchozími šesti měsíci poměrně srovnatelné. V tomto cyklu jsme zaznamenali zvýšení v celkovém počtu vymáhání pravidel a celkového počtu zásahů vůči jedinečným účtům o přibližně 16 %.

Za posledních 12 měsíců společnost Snap zavedla nové nahlašovací mechanismy pro uživatele, což mělo za následek změny objemů nahlášení a vynucení pravidel a prodloužení doby do vyřešení v tomto období (1. pol. 2024). Konkrétně:

• Nahlašování skupinového chatu: od 13. října 2023 je k dispozici nahlášení skupinového chatu, které umožňuje uživatelům nahlásit zneužívání, ke kterému dochází v chatu s více účastníky. Tato změna ovlivnila skladbu našich metrik napříč kategoriemi hlášení (protože k některým potenciálním újmám dochází spíše na chatu) a zvýšila akceschopnost nahlašování. 

• Vylepšení nahlašování účtů: také jsme vylepšili naší funkci nahlašování účtu, abychom nahlašujícím uživatelům mohli poslat důkaz z chatu, když nahlašují účet, o kterém se domnívají, že je používán osobou se zlými úmysly. Tuto změnu, která nám poskytuje více důkazů a souvislostí ke zhodnocení nahlášení účtů, jsme spustili 29. února 2024. 

Kontrola nahlašování chatu, zejména skupinového chatu, patří mezi nejsložitější a časově nejnáročnější a zvyšuje doby vyřešení napříč všemi kategoriemi. 

Tyto dvě výše uvedené změny, stejně jako změny v širším ekosystému, ve velké míře ovlivnily nahlašování kvůli podezření na sexuální vykořisťování a zneužívání dětí (CSEA), obtěžování a šikanu a podněcování k nenávisti. Konkrétně:

• CSEA: v 1. pololetí 2024 jsme zaznamenali zvýšení nahlášení i vymáhání pravidel v souvislosti s CSEA. Konkrétně jsme zaznamenali 64% zvýšení nahlášení v aplikaci ze strany uživatelů, 82% zvýšení celkového počtu vymáhání pravidel a 108% zvýšení celkového počtu omezených jedinečných účtů. Tato zvýšení jsou způsobena zejména zavedením nahlašování skupinových chatů a účtů. Vzhledem k citlivé povaze moderování jako takového se kontrolou hlášení možných porušení týkající se CSEA zabývají vysoce proškolení pracovníci. Příliv dalších hlášení v kombinaci s adaptací našich týmů na nová školení vedlo ke zvýšení dob vyřešení. Dále jsme zvýšili počet našich globálních dodavatelských týmů, což vedlo k výraznému snížení dob řešení a přesnému vymáhání na základě hlášení potenciálních CSEA. Očekáváme, že tato snaha se projeví ve zprávě o transparentnosti za 2. pololetí roku 2024 podstatným zlepšením doby řešení. 
  

• Obtěžování a šikana: na základě hlášení jsme zjistili, že k obtěžování a šikaně neúměrně dochází v chatech, zejména ve skupinových chatech. Zlepšení nahlašování skupinového chatu a účtů nám pomohlo provádět komplexnější vyhodnocení hlášení v této kategorii hlášení. Kromě toho jsme od té doby vyžadovali, aby uživatelé při nahlašování obtěžování nebo šikany přidali komentář. Tyto komentáře kontrolujeme, abychom získali souvislosti k jednotlivým hlášením. Společně tyto změny vedly k podstatnému zvýšení počtu vymáhání pravidel (+91 %), celkovému počtu omezených jedinečných účtů (+82 %) a doby řešení (+245 minut) v rámci příslušných nahlášení. 
  

• Podněcování k nenávisti: v 1. pololetí roku 2024 jsme zaznamenali zvýšený počet nahlášeného obsahu, celkových případů vymáhání pravidel a zvýšení doby řešení podněcování k nenávisti. Konkrétně jde o 61% zvýšení nahlášení v aplikaci, 127% procentní zvýšení celkového počtu vymáhání pravidel a 125% zvýšení celkových omezení jedinečných účtů. To bylo částečně způsobeno zlepšením našich nahlašovacích mechanismů pro chat (jak je uvedeno výše), zároveň tak zhoršením geopolitického prostředí, zejména pokračující konflikt mezi Izraelem a Hamásem. 

V tomto období jsme zaznamenali přibližně 65% pokles celkového počtu vymáhání pravidel a přibližně 60% snížení celkových omezení jedinečných účtů v reakci na hlášení podezření na spam a zneužívání, což odráží zlepšení našich nástrojů pro proaktivní odhalování a vymáhání pravidel. Podobné poklesy v celkovém počtu případů vymáhání práv jsme zaznamenali i u obsahu týkajícího se sebepoškozování a sebevraždy (poklesy cca 80 %), což odráží náš nový přístup soustředěný na oběť, na základě kterého naše Týmy důvěry a bezpečnosti zašlou příslušným uživatelům prostředky pro svépomoc, je-li to vhodné, místo omezujících kroků proti těmto uživatelům. Tento přístup byl doporučen členy naší Rady pro bezpečnost, včetně profesora pediatrie a lékaře, který se specializuje na interaktivní média a poruchy způsobené vlivy internetu.

K proaktivnímu odhalování používáme automatizované nástroje a v některých případech přistoupíme k vymáhání našich Pokynů pro komunitu kvůli jejich porušení. Mezi tyto nástroje patří i nástroje pro porovnávání hashů souborů (včetně PhotoDNA a porovnání obrazových materiálů se sexuálním zneužíváním dětí (CSAI) od společnosti Google), nástroje pro detekci urážlivého jazyka (které provádí detekci a vymáhání na základě určeného a pravidelně aktualizovaného seznamu urážlivých klíčových slov a emoji) a technologie multimodální umělé inteligence / strojového učení. 

V 1. pololetí roku 2024 jsme na základě proaktivního odhalování použili automatizované nástroje a provedli následující akce vymáhání pravidel v případech porušení našich Pokynů pro komunitu:

Sexuální vykořisťování jakéhokoli člena naší komunity, zejména nezletilého, je protiprávní, ohavné a zakázané našimi Pokyny pro komunitu. Předcházení, odhalování a vymýcení sexuálního vykořisťování a zneužívání dětí (CSEA) na naší platformě je nejvyšší prioritou společnosti Snap Inc. Proto neustále rozvíjíme svoje schopnosti boje proti těmto i dalším trestným činům.

Používáme aktivní technologické nástroje pro odhalování, například robustní porovnávání hashů souborů PhotoDNA a porovnání obrazových materiálů se sexuálním zneužíváním dětí (CSAI) k identifikování známých nelegálních obrázků obsahujících CSEA. Kromě toho v některých případech používáme behaviorální signály k vymáhání pravidel proti potenciálně nelegálním činnostem souvisejícím s CSEA. Obsah s CSEA hlásíme americkému Národnímu centru pro pohřešované a zneužívané děti (NCMEC), jak to vyžaduje zákon. Centrum NCMEC pak podle potřeby spolupracuje s domácími nebo mezinárodními orgány činnými v trestním řízení.

V první polovině roku 2024 jsme podnikli následující kroky při odhalení CSEA na Snapchatu (ať už proaktivně nebo po obdržení nahlášení):

*Připomínáme, že každé podání na centrum NCMEC může obsahovat více položek obsahu. Celkový počet jednotlivých mediálních souborů odeslaných centru NCMEC odpovídá celkovému počtu řešeného obsahu.

Záleží nám na duševní pohodě a zdraví Snapchatterů, a proto chceme rozhodovat tak, aby byl Snapchat jiný. Snapchat je platforma navržená pro komunikaci mezi skutečnými přáteli a my věříme, že může sehrát jedinečnou roli i v těžkých chvílích, kdy uživatelé potřebují pomoc od lidí, kteří jsou jim blízcí. Proto jsme vyvinuli prostředky a podporu pro Snapchattery, kteří je potřebují. 

Náš vyhledávač Here For You zobrazuje zdroje od místních odborných partnerů, když uživatelé vyhledají určitá témata související s duševním zdravím, úzkostí, depresí, stresem, myšlenkami na sebevraždu, truchlením a šikanou. Také jsme připravili stránku věnovanou finančnímu sexuálnímu vydírání a dalším sexuálním rizikům a újmám, abychom pomohli lidem, kteří těmto problémům čelí. Náš celosvětový seznam zdrojů bezpečnosti je veřejně dostupný všem Snapchatterům v našem Centru ochrany soukromí, bezpečnosti a zásad. 

Jakmile se naše Týmy pro důvěru a bezpečnost dozví o Snapchatterovi v nouzi, může se pokusit předejít jeho sebepoškození nebo nabídnout potřebné prostředky podpory a v nutných případech také upozornit záchranné složky. Prostředky, které sdílíme, jsou všem Snapchatterům veřejně k dispozici na našem globálním seznamu prostředků pro bezpečnost.

Níže uvádíme informace o odvoláních, která jsme získali od uživatelů, kteří požádali o kontrolu našeho rozhodnutí zablokovat jejich účet:

* Jak je uvedeno v části „Analýza“ výše, zastavení šíření obsahu nebo aktivity související se sexuálním vykořisťováním dětí má naši nejvyšší prioritu. Na splnění tohoto cíle vynakládá společnost Snap významné prostředky a takovéto jednání netoleruje. Rozšířili jsme naši celosvětovou síť dodavatelských týmů, abychom se adaptovali na nové zásady a funkce nahlašování na Snapchatu. Tím jsme v období mezi 2. pololetím 2023 a 1. pololetím 2024 snížili dobu vyřešení odvolání v souvislosti CSEA ze 152 dnů na 15 dnů. Neustále se snažíme zlepšit naše procesy, včetně snížení doby řešení odvolání.

Tato část poskytuje přehled o krocích našich Týmů důvěry a bezpečnosti při vymáhání našich Pokynů pro komunitu, a to jak proaktivně, tak v reakci na hlášení porušení pravidel provedené v aplikaci, podle geografických regionů. Naše Pokyny pro komunitu se vztahují na veškerý obsah na Snapchatu, jakož i na všechny Snapchattery, po celém světě, bez ohledu na místo.

Informace o jednotlivých zemích, včetně všech členských států EU, jsou ke stažení k dispozici v přiloženém CSV souboru.

Společnost Snap Inc. usiluje o to, aby veškeré reklamy plně odpovídaly jejím reklamním zásadám. Věříme ve zodpovědný a respektující přístup k reklamě a vytváření bezpečného a příjemného zážitku pro všechny naše uživatele. Všechny reklamy jsou předmětem naší kontroly a schválení. Kromě toho si vyhrazujeme právo odstranit reklamy, včetně těch na základě uživatelské zpětné vazby, kterou bereme vážně. 

Níže uvádíme přehled o našem moderování placených reklam, které jsou nám nahlášeny po jejich zveřejnění na Snapchatu. Pamatujte, že reklamy na Snapchatu lze odstranit z řady důvodů, které jsou uvedeny v Reklamních zásadách společnosti Snap Inc., včetně klamavého obsahu, obsahu pro dospělé, násilného nebo znepokojivého obsahu, projevů nenávisti a porušení práv duševního vlastnictví. Galerii reklam na Snapchatu teď můžete také najít v navigační liště této zprávy o transparentnosti.