5. december 2024

5. december 2024

Túto správu o transparentnosti uverejňujeme dvakrát ročne, aby sme poskytli prehľad o úsilí spoločnosti Snap v oblasti bezpečnosti. Sme oddaní tomuto úsiliu a neustále sa snažíme, aby boli tieto správy komplexnejšie a informatívnejšie pre mnohé zainteresované strany, ktorým veľmi záleží na našej moderácii obsahu, postupoch presadzovania práva a bezpečnosti a blahobyte komunity Snapchat.

Táto správa o transparentnosti sa vzťahuje na prvý polrok 2024 (od 1. januára do 30. júna). Rovnako ako v prípade našich predchádzajúcich hlásení zdieľame údaje o globálnom objeme hlásení o obsahu v aplikácii a na úrovni účtu, ktoré naše tímy pre dôveru a bezpečnosť dostali a presadzovali v rámci konkrétnych kategórií porušení smerníc komunity, ako sme reagovali na žiadosti orgánov činných v trestnom konaní a vlád; a ako sme reagovali na oznámenia o porušení autorských práv a ochranných známok. V súboroch prepojených v dolnej časti tejto stránky poskytujeme aj informácie o jednotlivých krajinách.

V rámci nášho trvalého záväzku neustále zlepšovať naše správy o transparentnosti uvádzame aj nové údaje, ktoré poukazujú na naše proaktívne úsilie pri odhaľovaní a presadzovaní dodržiavania širšieho spektra porušení našich smerníc komunity. Tieto údaje sme zahrnuli do tejto správy na globálnej úrovni aj na úrovni jednotlivých krajín a budeme v tom pokračovať aj v budúcnosti. Opravili sme tiež chybu v označovaní v našich predchádzajúcich správach: tam, kde sme predtým uvádzali „Celkový vynútený obsah“, teraz uvádzame „Celkový počet vynútení“, aby sme zohľadnili skutočnosť, že údaje uvedené v príslušných stĺpcoch zahŕňajú vynútenia na úrovni obsahu aj na úrovni účtu.

Viac informácií o našich zásadách boja proti potenciálnym škodám na internete a o plánoch na ďalší rozvoj našich postupov podávania správ nájdete v našom nedávnom blogu Bezpečnosť a vplyv o tejto správe o transparentnosti. Ak chcete nájsť ďalšie zdroje bezpečnosti a ochrany osobných údajov na Snapchate, pozrite si našu kartu Informácie o transparentnosti v spodnej časti stránky.

Upozorňujeme, že najaktuálnejšia verzia tejto správy o transparentnosti je v americkej angličtine.

Naše tímy pre dôveru a bezpečnosť presadzujú dodržiavanie smerníc komunity proaktívne (pomocou automatizovaných nástrojov) aj reaktívne (v reakcii na hlásenia), ako sa podrobnejšie uvádza v nasledujúcich častiach tejto správy. V tomto cykle podávania správ (1. polrok 2024) prijali naše tímy pre dôveru a bezpečnosť tieto opatrenia na presadzovanie práva: 

Nižšie je uvedený rozpis podľa typu príslušných porušení smerníc komunity vrátane priemerného času od zistenia porušenia (buď proaktívne, alebo po prijatí hlásenia) do prijatia konečného opatrenia v súvislosti s príslušným obsahom alebo účtom:

Počas vykazovaného obdobia sme zaznamenali mieru zhliadnutia (VVR) 0,01 percenta, čo znamená, že z každých 10 000 zhliadnutí snímok a príbehu na Snapchate 1 obsahoval obsah, o ktorom sa zistilo, že porušuje naše smernice komunity.

Od 1. januára do 30. júna 2024 prijali tímy pre dôveru a bezpečnosť spoločnosti Snap v reakcii na hlásenia o porušení našich smerníc komunity celkovo 6 223 618 opatrení na presadzovanie pravidiel na celom svete vrátane opatrení na presadzovanie pravidiel voči 3 842 507 jedinečným účtom. Priemerný čas, za ktorý naše tímy pre dôveru a bezpečnosť prijali opatrenia na presadzovanie práva v reakcii na tieto správy, bol ~24 minút. Rozpis podľa jednotlivých kategórií vykazovania je uvedený nižšie. 

V porovnaní s predchádzajúcimi šiestimi mesiacmi zostali naše celkové objemy nahlasovania v 1. polroku 2024 pomerne stabilné. V tomto cykle sme zaznamenali nárast celkového počtu vymožených pohľadávok a celkového počtu vymožených jedinečných účtov približne o 16 %.

Za posledných 12 mesiacov spoločnosť Snap zaviedla pre používateľov nové mechanizmy vykazovania, ktoré sú dôvodom zmien v našich vykazovaných a vynútených objemoch a predĺženia času vybavenia v tomto vykazovanom období (1. polrok 2024). Konkrétne:

• Nahlásenie skupinového chatu: dňa 13. októbra 2023 sme zaviedli službu Nahlásenie skupinového chatu, ktorá umožňuje používateľom nahlásiť zneužitie v chate s viacerými osobami. Táto zmena ovplyvnila zloženie našich metrík v jednotlivých kategóriách hlásení (pretože niektoré potenciálne poškodenia sa s väčšou pravdepodobnosťou vyskytujú v kontexte chatu) a zvýšila akcieschopnosť hlásení. 

• Vylepšenia nahlasovania účtov: vyvinuli sme tiež funkciu nahlasovania účtov, aby sme používateľom, ktorí nahlasujú účet, dali možnosť predložiť dôkazový materiál v chate pri nahlasovaní účtu, pri ktorom existuje podozrenie, že ho prevádzkuje zlý hráč. Táto zmena, ktorá nám poskytuje viac dôkazov a súvislostí na posúdenie správ o účtoch, sa začala 29. februára 2024. 

Nahlasovania chatov, a najmä správy o skupinovom chate, patria k najzložitejším a časovo najnáročnejším na preskúmanie, čo predĺžilo čas spracovania vo všetkých oblastiach. 

Nahlasovanie podozrení na sexuálne zneužívanie a zneužívanie detí (CSEA), obťažovanie a šikanovanie a nenávistné prejavy boli ovplyvnené najmä dvoma vyššie uvedenými zmenami a presunmi v širšom ekosystéme. Konkrétne:

• CSEA: v prvom polroku 2024 sme zaznamenali nárast počtu hlásení a výkonov v súvislosti s CSEA. Konkrétne sme zaznamenali 64% nárast celkového počtu hlásení používateľov v aplikácii, 82 % nárast celkového počtu presadzovaní práva a 108 % nárast celkového počtu zakázaných unikátnych účtov. Tieto nárasty sú spôsobené najmä zavedením funkcií skupinového chatu a vykazovania účtov. Vzhľadom na citlivú povahu tohto moderačného frontu je na preskúmanie hlásení o možných porušeniach týkajúcich sa CSEA určený vybraný tím vysokokvalifikovaných zamestnancov. Prílev ďalších hlásení v kombinácii s adaptáciou našich tímov na nové školenia viedol k predĺženiu času spracovania. V budúcnosti sme výrazne zvýšili veľkosť našich globálnych tímov predajcov, aby sme skrátili čas vybavovania a presne presadzovali správy o potenciálnom CSEA. Očakávame, že naša správa o transparentnosti za druhý polrok 2024 bude odrážať plody tohto úsilia s podstatne lepším časom spracovania. 
  

• Obťažovanie a šikanovanie: Na základe hlásení sme zistili, že obťažovanie a šikanovanie sa neúmerne často vyskytuje v chatoch, a to najmä v skupinových chatoch. Vylepšenia, ktoré sme zaviedli v skupinových hláseniach o chate a hláseniach o účtoch, nám pomáhajú prijímať komplexnejšie opatrenia pri posudzovaní hlásení v tejto kategórii hlásení. Okrem toho od tohto obdobia vyžadujeme, aby používatelia pri odosielaní hlásenia o obťažovaní a šikanovaní zadali komentár. Preskúmame tento komentár, aby sme každú správu uviedli do súvislostí. Tieto zmeny spoločne viedli k podstatnému nárastu celkového počtu vymáhaní práva (+91 %), celkového počtu jedinečných vymáhaných účtov (+82 %) a času spracovania (+245 minút) príslušných správ. 
  

• Nenávistné prejavy: v prvom polroku 2024 sme zaznamenali nárast nahláseného obsahu, celkového počtu prípadov vymáhania a času vybavenia v prípade nenávistných prejavov. Konkrétne sme zaznamenali 61 % nárast počtu hlásení v aplikáciách, 127 % nárast celkového počtu vymáhaní práva a 125 % nárast celkového počtu vynútených jedinečných účtov. Čiastočne to bolo spôsobené zlepšením našich mechanizmov hlásenia chatu (ako už bolo uvedené) a ďalej to zhoršilo geopolitické prostredie, najmä pokračovanie konfliktu medzi Izraelom a Hamásom. 

V tomto vykazovanom období sme zaznamenali ~65% pokles celkového počtu vymáhaní práva a ~60 % pokles celkového počtu jedinečných účtov vynútených v reakcii na hlásenia o podozrení na spam a zneužívanie, čo odráža zlepšenie našich proaktívnych nástrojov na detekciu a vymáhanie práva. Podobný pokles sme zaznamenali aj v celkovom počte vymáhaní práva v reakcii na hlásenia obsahu týkajúceho sa sebapoškodzovania a samovrážd (pokles o 80 %), čo odráža náš aktualizovaný prístup zameraný na obete, podľa ktorého naše tímy pre dôveru a bezpečnosť vo vhodných prípadoch pošlú príslušným používateľom zdroje na svojpomoc, namiesto toho, aby voči týmto používateľom prijali vynucovacie opatrenia. Na tomto prístupe sa podieľali členovia nášho poradného výboru pre bezpečnosť vrátane profesora pediatrie a lekára, ktorý sa špecializuje na interaktívne médiá a poruchy spôsobených sledovaním internetu.

Na proaktívne zisťovanie a v niektorých prípadoch aj presadzovanie porušovania našich smerníc komunity používame automatizované nástroje. Medzi tieto nástroje patria nástroje na porovnávanie (vrátane nástrojov PhotoDNA a Google Child Sexual Abuse Imagery (CSAI) Match), nástroje na detekciu zneužívajúceho jazyka (ktoré zisťujú a presadzujú na základe identifikovaného a pravidelne aktualizovaného zoznamu zneužívajúcich kľúčových slov a emotikonov) a multimodálne technológie umelej inteligencie/strojového učenia.

V prvom polroku 2024 sme po proaktívnom zistení porušení našich smerníc komunity pomocou automatizovaných nástrojov prijali nasledujúce opatrenia na presadzovanie práva:

Sexuálne vykorisťovanie ktoréhokoľvek člena našej komunity, najmä neplnoletých, je nezákonné, ohavné a naše Smernice komunity ho zakazujú. Prevencia, odhaľovanie a odstraňovanie sexuálneho vykorisťovania a zneužívania detí (CSEA) na našej platforme je pre Snap najvyššou prioritou a neustále rozvíjame naše schopnosti na boj proti týmto a iným zločinom.

Na identifikáciu známych nezákonných snímok a videí CSEA používame aktívne technologické nástroje na detekciu, ako je napríklad robustné porovnávanie hash-match PhotoDNA a porovnávanie snímok sexuálneho zneužívania detí (CSAI) spoločnosti Google. Okrem toho v niektorých prípadoch používame behaviorálne signály na presadzovanie ochrany pred inými potenciálne nezákonnými aktivitami CSEA. Obsah CSA nahlasujeme Národnému centru pre nezvestné a zneužívané deti v USA (NCMEC), ako to vyžaduje zákon. NCMEC potom podľa potreby koordinuje s vnútroštátnymi alebo medzinárodnými orgánmi činnými v trestnom konaní.

V prvom polroku 2024 sme po zistení CSEA na Snapchate (buď proaktívne, alebo po prijatí hlásenia) prijali nasledujúce opatrenia:

Veľmi nám záleží na duševnom zdraví a pohode Snapchatterov, čo aj naďalej ovplyvňuje naše rozhodnutia vybudovať Snapchat inak. Ako platforma navrhnutá na komunikáciu so skutočnými priateľmi a medzi nimi veríme, že Snapchat môže zohrať jedinečnú úlohu pri podpore priateľov, aby si navzájom pomáhali v ťažkých časoch. Preto sme vytvorili zdroje a podporu pre Snapchatterov v núdzi. 

Náš vyhľadávací nástroj Tu pre vás zobrazuje zdroje od odborných miestnych partnerov, keď používatelia vyhľadávajú určité témy týkajúce sa duševného zdravia, úzkosti, depresie, stresu, samovražedných myšlienok, smútku a šikanovania. V snahe podporiť tých, ktorí sa ocitli v núdzi, sme vytvorili aj stránku venovanú finančnému sexuálnemu vydieraniu a iným sexuálnym rizikám a škodám. Náš globálny zoznam bezpečnostných zdrojov je verejne dostupný pre všetkých Snapchatterov v našom centre ochrany súkromia, bezpečnosti a zásad.

Keď sa naše tímy pre dôveru a bezpečnosť dozvedia o Snapchatterovi v núdzi, môžu poskytnúť prostriedky na prevenciu a podporu sebapoškodzovania a v prípade potreby upozorniť personál reakcie na núdzové situácie. Zdroje, ktoré zdieľame, sú dostupné na našom globálnom zozname bezpečnostných zdrojov a sú verejne dostupné pre všetkých Snapchatterov.

Nižšie uvádzame informácie o odvolaniach, ktoré sme dostali od používateľov žiadajúcich o preskúmanie nášho rozhodnutia zablokovať ich účet:

Táto časť poskytuje prehľad činností našich tímov pre dôveru a bezpečnosť zameraných na presadzovanie našich usmernení komunity, a to tak proaktívne, ako aj v reakcii na hlásenia o porušeniach v aplikáciách, vo vybraných geografických regiónoch. Naše smernice komunity sa vzťahujú na všetok obsah na Snapchate – a na všetkých Snapchatterov – na celom svete, bez ohľadu na miesto.

Informácie pre jednotlivé krajiny vrátane všetkých členských štátov EÚ sú k dispozícii na stiahnutie prostredníctvom priloženého súboru CSV.

Spoločnosť Snap sa zaviazala zabezpečiť, že všetky reklamy budú plne v súlade s našimi pravidlami inzercie. Veríme v zodpovedný a rešpektujúci prístup k reklame, ktorý vytvára bezpečný a príjemný zážitok pre všetkých našich používateľov. Všetky reklamy podliehajú našej kontrole a schváleniu. Okrem toho si vyhradzujeme právo odstrániť reklamy, a to aj v reakcii na spätnú väzbu používateľov, ktorú berieme vážne.

Nižšie uvádzame prehľad nášho moderovania platených reklám, ktoré nám boli nahlásené po ich zverejnení na Snapchate. Upozorňujeme, že reklamy na Snapchate, vrátane klamlivého obsahu, obsahu pre dospelých, násilného alebo znepokojujúceho obsahu, nenávistných prejavov a porušovania práv duševného vlastníctva, môžu byť odstránené z rôznych dôvodov (ako je uvedené v Reklamných pravidlách spoločnosti Snap). Okrem toho teraz môžete nájsť Galériu reklám Snapchat na navigačnom paneli tejto správy o transparentnosti.