Spoločnosť Snap sa hlboko zaviazala k bezpečnosti komunity Snapchat. Naším cieľom je pomôcť chrániť používateľov pred celým radom online rizík a potenciálnych škôd, ktoré sa vyskytujú v digitálnom ekosystéme, vrátane ohavných trestných činov zahŕňajúcich sexuálne vykorisťovanie a zneužívanie detí (CSEA). Spoločnosť Snap už roky bojuje proti tomuto nezákonnému obsahu a ohavnému trestnému správaniu, pričom v celej aplikácii Snapchat využíva proaktívne opatrenia na odhaľovanie aj reaktívne opatrenia. V uplynulom roku sme vykonali ďalšie zmeny v našich súvisiacich zásadách a procesoch s cieľom pomôcť postaviť páchateľov pred súd. Radi by sme sa tu podelili o ďalšie informácie o tejto práci.

Čo je CSEA?

Sexuálne vykorisťovanie a zneužívanie detí zahŕňa celý rad nezákonných činností, ktoré zahŕňajú sexuálne poškodzovanie maloletých, vrátane: prezerania, výroby a distribúcie materiálov so sexuálnym zneužívaním detí (CSEAI), vrátane novšej hrozby fotografií a videí generovaných umelou inteligenciou; online grooming alebo lákanie maloletých na sexuálne účely; ¹sexuálne vydieranie; ²sexuálne obchodovanie s deťmi; a živé vysielanie sexuálneho zneužívania a mučenia detí. ³Je ťažké pochopiť, že tieto odporné skutočnosti naozaj existujú. Ale, žiaľ, takéto zneužívanie vždy existovalo – a digitálny svet teraz poskytuje alternatívne prostriedky zneužívania, čím sa spôsoby páchania trestnej činnosti rozširujú na rýchlejšie a ďalekosiahlejšie.

„Technológia zásadne zmenila spôsob, akým ľudia so sexuálnym záujmom o deti o nich fantazírujú, získavajú k nim prístup a zneužívajú ich,“ povedal Ernie Allen, predseda londýnskejWeProtect Global Alliance. „New York Timesnapísal: „Kríza online sexuálneho vykorisťovania detí je v bode zlomu.“ Poznamenal, že počet hlásení sa stupňuje, páchatelia zdieľajú obrázky mladších obetí a ohavnejších trestných činov a orgány činné v trestnom konaní sa snažia držať krok. Ak k tejto výzve pridáte nové variácie, ako je sextortion, ktorého nárast FBI hlási o 7 200 %, zneužívanie v priamom prenose a ďalšie, je jasné, že tento problém by mal byť na prvom mieste politických programov na celom svete,“ dodal.

Právne povinnosti technologických spoločností

Keď sa americké technologické spoločnosti dozvedia o CSEA na svojich platformách alebo službách, majú zákonnú povinnosť nahlásiť to Národnému centru pre nezvestné a zneužívané deti (NCMEC). NCMEC potom tieto kybernetické tipy preskúma a spolupracuje s domácimi aj medzinárodnými orgánmi činnými v trestnom konaní, aby pomohla ochrániť detské obete a potrestať páchateľov.

Až do minulého roka sa celkový ročný počet kybernetických tipov pre NCMEC z roka na rok zväčša zvyšoval a dosiahol rekordných 36,2 milióna hlásení ⁴v roku 2023, čo je nárast z niečo vyše 32 miliónov v roku 2022 a 4 560 v roku 1998, keď bola vytvorená linka NCMEC CyberTipline. Práve tento rekordný nárast kybernetických tipov – okrem iných faktorov, vrátane pokračujúceho nárastu sexuálneho vydierania na celom svete a spätnej väzby, ktorú sme dostali od orgánov činných v trestnom konaní o použiteľnosti našich vlastných kybernetických tipov – podnietil spoločnosť Snap, aby v roku 2024 prvýkrát oslovila NCMEC s cieľom prekalibrovať naše hlásenia kybernetických tipov.

Niekoľko rokov som monitoroval hlásenia kybernetických tipov a som pevne presvedčený, že prax niektorých technologických spoločností smeruje k hláseniuvšetkéhopre NCMEC – dokonca aj nad rámec ich zákonnej povinnosti – zo strachu, že budú obvinení z vynechanianiečoho. ⁵Spoločnosti, ktoré neplnia oznamovaciu povinnosť v súlade so zákonom, môžu čeliť vysokým pokutám. Tento prístup k podávaniu správ, spojený s nízkou využiteľnosťou mnohých správ (buď preto, že kybernetické tipy nemajú dostatočný kontext na to, aby orgány činné v trestnom konaní mohli konať, alebo preto, že nahlásené konanie v niektorých prípadoch nie je pre nich prioritou), však viedol k narastajúcemu počtu kybernetických tipov, viacnásobným a rozsiahlym preskúmaniam a zvýšenej frustrácii medzi orgánmi činnými v trestnom konaní.

Cieľ: Kybernetické tipy s vysokou hodnotou

Cieľom našej rekalibrácie s NCMEC bolo ďalšie zvýšenie využiteľnosti a hodnoty kybernetických tipov spoločnosti Snap spresnením našich vlastných zásad platformy a protokolov, ktoré máme zavedené na podávanie správ NCMEC. Táto počiatočná rekalibrácia sa uskutočnila v máji 2024 a naše zmeny zásad nadobudli plnú účinnosť v druhej polovici minulého roka.

Hoci by sme sa mali vyhnúť prílišnému zdôrazňovaniu samotného počtu hlásení, od zavedenia našich vylepšení zásad spoločnosť Snap s potešením oznamuje, že sme zaznamenali výrazný pokles celkového objemu hlásení pre NCMEC a podobný pokles eskalácií v prípade online lákania – a to všetko pri plnení našich zákonných povinností hlásiť CSEA v kybernetických tipoch. Nižšie celkové počty sa však ešte nepremietli do ročných objemov hlásení NCMEC, pretože zmeny boli zavedené neskôr v roku 2024, takže na zohľadnenie zmien zostalo len niekoľko celých mesiacov v roku.

Súbežne s tým náš tím pracuje na zlepšení údajov a označovania v našich kybernetických tipoch. Takéto objasnenia môžu pomôcť lepšie identifikovať údajné trestné činy a zúčastnené osoby a následne umožniť rýchlejšie a presnejšie triedenie hlásení zo strany NCMEC a orgánov činných v trestnom konaní. Aj keď hlásenie NCMEC nemusí byť opodstatnené, spoločnosť Snap bude naďalej riešiť snímky a správanie, ktoré sú v rozpore s našimi zásadami platformy, a to prijatím opatrení – ktoré môžu zahŕňať odstránenie obsahu porušujúceho pravidlá, deaktiváciu účtu a snahu zablokovať vytváranie nových účtov.

Kontrolný bod rekalibrácie

Minulý mesiac sme uskutočnili druhú rekalibráciu s NCMEC, kde tím spoločnosti Snap zrekapituloval minuloročné interné zmeny zásad, informoval NCMEC o našom pokroku, potvrdil niektoré ďalšie prevádzkové usmernenia a pomohol nastaviť očakávania na nasledujúce mesiace. Ukázali sme aj niektoré ďalšie plánované doplnky zásad a hlásení, o ktorých dúfame, že budú naďalej zvyšovať hodnotu našich hlásení pre NCMEC aj orgány činné v trestnom konaní. Prirodzene, ide o opakujúci sa proces, ale pokrok za posledný rok nás povzbudzuje.

Pohľad do budúcnosti

Očakávame, že časom môžu NCMEC a orgány činné v trestnom konaní naďalej zaznamenávať znížený objem kybernetických tipov od spoločnosti Snap v porovnaní s predchádzajúcimi rokmi, ale väčšie percento tých, ktoréskutočnedostanú, by malo obsahovať kvalitnejšie informácie a byť lepšie využiteľné.

Zaviazali sme sa k neustálemu zlepšovaniu vo všetkých aspektoch našej bezpečnostnej práce. Netvárime sa, že máme všetky odpovede v súvislosti s bojom proti CSEA alebo akýmkoľvek iným potenciálnym online škodám; nikto by sa tak nemal tváriť, pretože nikto ich nemá. Deň čo deň bojujeme s celospoločenskými problémami a prinášame celo-firemnýprístup – s konečným dvojitým cieľom zmierniť riziko a znížiť škody.

Pokiaľ ide o naše kybernetické tipy, máme jasný cieľ pre nie príliš vzdialenú budúcnosť: Či už ide o veliteľa štátnej pracovnej skupiny pre internetovú kriminalitu páchanú na deťoch (ICAC), federálneho vyšetrovateľa alebo príslušníka orgánov činných v trestnom konaní na polceste okolo sveta, chceme, aby štátne, federálne a medzinárodné orgány s dôverou sledovali kybernetické tipy od spoločnosti Snap, pretože vedia, že sa na naše správy dá konzistentne spoľahnúť ako na použiteľné, cenné a dôkladné. A dúfame, že toto úsilie pomôže podnietiť zodpovedajúci nárast súvisiacich zatknutí ⁶a odsúdení na celom svete.

Obrovské „ďakujem“ NCMEC, WeProtect, 61 pracovným skupinám ICAC v USA, orgánom činným v trestnom konaní na celom svete a všetkým našim kolegom a spolupracovníkom v oblasti boja proti CSEA – a ďalšia poznámka, že zostávame otvorení a dychtiví po vašej spätnej väzbe na ďalšie zlepšovanie našich stratégií a prístupov. Sme v tom všetci spolu.

- Jacqueline Beauchere, globálna riaditeľka pre bezpečnosť platformy