V spoločnosti Snap neustále vylepšujeme naše bezpečnostné mechanizmy a zásady našej platformy, aby sme obmedzovali možnosti ľudí so zlými úmyslami našu platformu zneužívať. Využívame pokročilé technológie na odhaľovanie a blokovanie činností, ktoré porušujú naše pravidlá, používame dizajnové princípy na sťažovanie procesu pridávania priateľov, podporujeme presadzovanie práva, spolupracujeme s vládnymi orgánmi a pracujeme na zvyšovaní povedomia a poskytujeme vzdelávanie o najvážnejších nebezpečenstvách, ktoré postihujú tínedžerov a všetkých členov našej komunity. 

Svoju zodpovednosť ochraňovať tínedžerov berieme veľmi vážne. Naša práca je rozsiahla a zahŕňa nasledovné: 

I. Robíme zo Snapchatu nepriateľské prostredie pre ľudí so zlými úmyslami

Tento rok sme už oznámili nové funkcie, ktoré pomôžu chrániť našu komunitu, najmä používateľov v tínedžerskom veku, a ktoré posilnia vzťahy v reálnom svete, ktoré robia Snapchat jedinečným. Medzi tieto aktualizácie patrí: rozšírené varovania v aplikácii o podozrivých kontaktoch, vylepšená ochrana pri pridávaní priateľov vytvorená špecificky pre tínedžerov a zlepšená možnosť zablokovať nechcené kontakty. 

Tieto zmeny, zamerané na boj proti sexuálnemu vydieraniu online, vychádzajú z našich prebiehajúcich investícií do boja proti všetkým formám sexuálneho zneužívania a vykorisťovania detí. Napríklad: 

Používame signály na rozpoznávanie správania súvisiaceho so sexuálnym vydieraním, aby sme odstránili ľudí so zlými úmyslami skôr, než budú mať príležitosť zamerať sa na druhých a poškodiť ich. Toto robíme popri využívaní technológií navrhnutých na zabránenie šíreniu známych vyobrazení sexuálneho zneužívania a vykorisťovania detí (CSEAI) na Snapchate, vrátane PhotoDNA (na rozpoznávanie duplikátov známych nelegálnych snímok), CSAI Match (na rozpoznávanie duplikátov známych nelegálnych videí) a Content Safety API (na posilnenie rozpoznávania nových vyobrazení, ktoré ešte nikdy neboli hešované).

Zatiaľ čo sme už dlho poskytovali v aplikácii možnosť nahlasovať obsah a účty, ktoré porušujú naše pravidlá, v roku 2023 sme zaviedli vylepšenia na posilnenie nášho boja proti škodám spôsobeným sexuálnym vydieraním. Minulý rok sme spustili nahlasovanie textu četu v aplikácii, ktoré umožňuje Snapchatterom nahlasovať jednotlivé správy priamo zo samotnej konverzácie. Taktiež sme rozšírili naše nástroje nahlasovania o prispôsobený, špecifický dôvod na sexuálne vydieranie a na základe rád a odporúčaní od neziskovej organizácie Thorn, ktorá bojuje proti sexuálnemu zneužívaniu a vykorisťovaniu detí, sme možnosť nahlasovať opísali spôsobom, ktorý je blízky tínedžerom a mladým ľuďom („Leakli / vyhrážajú sa, že leaknu moje nahé fotky“). Tieto správy potom ovplyvňujú naše úsilie o presadzovanie pravidiel vrátane odhaľovania a presadzovania na základe signálov. Analyzujeme trendy, vzory a techniky sexuálnych vydieračov a ak nejak účet vykazuje isté charakteristiky, je pre sexuálne vydieranie uzamknutý.

Naďalej vylepšujeme a rozširujeme našu sadu nástrojov Rodinného centra, zverejnenú v roku 2022, kde rodičia vidia, s kým je ich tínedžer na Snapchate spriatelený, s kým nedávno četoval, a môžu jednoducho nahlásiť účty, ktoré ich znepokojujú. Naším zámerom s Rodinným centrom bolo vždy podporovať otvorený a konštruktívny dialóg medzi rodičmi/opatrovníkmi a tínedžermi o tom, ako sa chrániť online. 

Úzko spolupracujeme s orgánmi činnými v trestnom konaní a veľa investujeme do tímov bezpečnosti a operácii presadzovania práva, ktoré pôsobia po celom svete 24/7, aby sme udržiavali našu komunitu v bezpečí. Napríklad naše tímy dôvery a bezpečnosti sa od roku 2020 rozrástli viac než dvojnásobne a náš tím operácií presadzovania práva sa za ten čas rozrástol viac než trojnásobne. Organizujeme každoročné samity pre orgány činné v trestnom konaní v USA, aby sme zabezpečili, že funkcionári a agentúry vedia, ako podniknúť vhodné kroky proti akejkoľvek nezákonnej činnosti, ktorá sa môže diať na našej platforme. 

Taktiež priamo spolupracujeme s orgánmi činnými v trestnom konaní v Nigérii – kde má pôvod veľa prípadov sexuálneho vydierania – aby sme pripravili prostriedky a získali vedomosti na vyšetrovanie a stíhanie páchateľov, a plánujeme naďalej spolupracovať s nigérijskou vládou v tejto oblasti. A pracujeme s International Justice Mission, NCMEC, ďalšími spoločnosťami pôsobiacimi v tomto odvetví a mimovládnymi organizáciami, s ktorými poskytujeme školenia orgánom činným v trestnom konaní o vyšetrovaní CyberTips v krajinách mimo USA, kde je rozšírené sexuálne vydieranie.

Veľa rokov pracujeme s robustným kádrom „varovníkov“: neziskoviek, mimovládnych organizácií a vybraných vládnych agentúr, ktoré nám postupujú prípady zneužívania, bezprostredné ohrozenia života a iné núdzové prípady v mene Snapchatterov v núdzi prostredníctvom kanálov s vysokou prioritou. Väčšina účastníkov nášho Programu dôveryhodných značiek nahlasuje obsah a účty v súvislosti so sexuálnym ublížením maloletým vrátane sexuálneho vydierania.  

II. Zapájame odborníkov a koalície v príslušnom sektore 

Popri svojom vlastnom úsilí taktiež spolupracujeme s odborníkmi po celom svete, pretože vieme, že žiaden subjekt alebo organizácia sama o sebe nedokáže zmysluplne pokročiť v tejto práci. Napríklad, spoločnosť Snap zastupuje svoj sektor v medzinárodnej Rade pre politiku globálnej aliancie WeProtect; sme členmi Poradnej rady globálnej siete núdzových liniek INHOPE a sedíme v správnej rade organizácie Internet Watch Foundation (IWF). Všetky tieto organizácie majú v centre svojho úsilia odstránenie online CSEA.

Naďalej sme aktívnymi členmi Tech Coalition, globálnej aliancie v tomto sektore zameranej na boj proti sexuálnemu vykorisťovaniu a zneužívaniu detí online, a nedávno sme ukončili dvojročné obdobie vo výkonnom výbore jej správnej rady. Taktiež sme boli zakladajúcimi členmi iniciatívy Lantern od Tech Coalition, prvého programu zdieľania signálov naprieč platformami pre spoločnosti na posilnenie ich presadzovania zásad pre bezpečnosť detí. Aktívnou účasťou na tomto programe si spoločnosti môžu navzájom pomôcť krížovo kontrolovať ľudí so zlými úmyslami, vrátane sexuálnych vydieračov.   

Okrem toho využívame databázu Take It Down Národného centra pre nezvestné a vykorisťované deti (NCMEC), ktorá umožňuje maloletým vytvárať digitálne odtlačky zvané „heš“ vybraných fotografií alebo videí priamo na ich zariadeniach. Zúčastnené spoločnosti vrátane Snap potom môžu využívať tie heše na hľadanie a odstraňovanie duplikátnych obrázkov a videí porušujúcich naše Smernice komunity. Zúčastňujeme sa podobného programu v spojenom kráľovstve s názvom Report Remove a minulý rok sme sa pridali k spolupráci StopNCII charitatívnej organizácie SWGfL s účelom pomôcť zabrániť šíreniu nekonsenzuálnych intímnych snímok (NCII) na Snapchate využitím databázy hešov tej skupiny. StopNCII pomáha zastavovať šírenie intímnych snímok ľudí vo veku 18 a viac rokov a ponúka obetiam možnosť získať späť do svojho súkromia ich najsúkromnejšie fotografie a videá.

Tento rok sme taktiež spustili našu ustanovujúcu Radu pre digitálne blaho spoločnosti Snap, skupinu 18 tínedžerov z celých USA vybraných na účasť na ročnom pilotnom programe presadzujúcom bezpečnejšie zvyky a postupy online na ich školách a v ich komunitách. V júli sa táto skupina spolu s aspoň jedným rodičom alebo doprevádzajúcou osobou stretla v hlavnom sídle spoločnosti Snap v Santa Monica v Kalifornii na rozhovory, ktoré priniesli zaujímavé poznatky o témach ako online nástrahy, sociálna dynamika a rodičovské nástroje. Toto sa deje navyše k Bezpečnostnému poradnému výboru spoločnosti Snap, ktorý pozostáva zo 16 profesionálov a troch obhajcov mládeže, ktorí poskytujú priame poradenstvo a usmernenia pre spoločnosť Snap v otázkach bezpečnosti. Tešíme sa na rok 2025 a dúfame, že v ňom budeme môcť vytvoriť viac príležitostí pre členov oboch skupín stretávať sa a získavať ďalšie poznatky. 

III. Zvyšujeme povedomie 

Okrem našich interných investícií a práce, ktorú robíme s odborníkmi a naprieč sektorom, je kritickou súčasťou boja proti online schémam sexuálneho zneužívania a vydierania zvyšovanie povedomia verejnosti a Snapchatterov. 

V roku 2022 sme spustili Index digitálneho blaha, popredný výskum v tomto sektore prinášajúci poznatky o tom, ako sa tínedžerom a mladým dospelým darí online na všetkých platformách. V rámci tohto výskumu posledné dva roky do hĺbky skúmame sexuálne vydieranie. Keďže toto skúmanie zahŕňa skúsenosti online vo všeobecnosti a nie len na Snapchate, dúfame, že okrem usmerňovania našej práce prináša poznatky aj iným vo všetkých technologických ekosystémoch. Neskôr tento mesiac zverejníme výsledky druhého roka nášho skúmania sexuálneho vydierania do hĺbky spolu s nadchádzajúcim virtuálnym Fórom pre rôznych zainteresovaných od Technology Coalition o finančnom vydieraní neplnoletých. 

Dávnejšie tohto roku sa nám dostalo cti byť prvým subjektom, ktorý podporil Know2Protect, prvú kampaň na zvyšovanie povedomia verejnosti svojho druhu, ktorú spustilo Ministerstvo vnútornej bezpečnosti (DHS) USA dávnejšie tohto roku. Táto kampaň vzdeláva a pomáha mladým ľuďom, rodičom, dôveryhodným dospelým a tvorcom politík predchádzať a bojovať proti zločinom ako finančné sexuálne vydieranie. Okrem poskytovania reklamného priestoru na Snapchate na vzdelávacie prostriedky K2P vykonávame ďalší výskum s tínedžermi a mladými dospelými v USA kvôli ďalším poznatkom pre túto kampaň. Taktiež sme spoločne spustili Objektív Snapchat s rozšírenou realitou na pomoc pri vzdelávaní Snapchatterov prostredníctvom interaktívneho kvízu Know2Protect. A v Spojenom kráľovstve sme podporili rozsiahlu kampaň IWF na zvyšovanie povedomia verejnosti o týchto témach v súčasnosti, Girls Out Loud, ktorá má informovať dievčatá vo veku od 11 do 13 rokov o online sexuálnom groomingu, sextingu a posielaní nahých fotografií. Okrem toho sme nedávno spustili Sprievodcu Snapchatom pre učiteľov, v spolupráci so Safe and Sound Schools, na vypracovanie komplexného súboru nástrojov pre učiteľov, ktorý obsahuje informácie a usmernenia o boji proti sexuálnemu vydieraniu. 

Na základe niekoľkých rokov nášho výskumu vieme, že zvyšovanie povedomia a vzdelávanie komunity sú účinné nástroje na pomoc pri predchádzaní online nebezpečenstvám, a naďalej vyvíjame a propagujeme prostriedky v aplikácií, ktorými oslovujeme tínedžerov a mladých ľudí priamo na Snapchate. V Septembri 2023 sme zverejnili štyri nové epizódy „Bezpečnostnej snímky“ v aplikácii, ktoré sa zameriavajú na sexuálne riziká a škody vrátane finančného sexuálneho vydierania. Taktiež máme k dispozícii epizódy o sextingu a dôsledkoch vytvárania a zdieľania nahých fotografií, online groomingu detí na sexuálne účely a o obchodovaní s deťmi na sexuálne účely. Všetky tieto zdroje boli preskúmané odborníkmi z Národného Centra pre nezvestné a vykorisťované deti (NCMEC) a vytvorené v spolupráci s relevantnými núdzovými a pomocnými linkami v kľúčových lokalitách. 

Stále bojujeme proti online sexuálnemu vykorisťovaniu a zneužívaniu detí, ale stále je ešte čo robiť. V roku 2025 budeme naďalej zvyšovať povedomie o potenciálnych online nebezpečenstvách a naďalej opakovať, že každý môže byť potenciálnym cieľom. Chceme ľuďom zo zlými úmyslami mariť a narúšať ich činnosť včas a často a chceme vytvárať ešte lepšie uplatniteľné CyberTips pre orgány činné v trestnom konaní.

Je dôležité poznamenať, že používame mnohé z týchto stratégii pri boji proti iným neslýchaným škodlivým činnostiam, ako je nezákonná drogová činnosť vrátane predaja falšovaných tabletiek, vyhrážanie sa násilím a obsah súvisiaci so samovraždou a sebapoškodzovaním. Uvedomujeme si, že naša práca v tejto oblasti sa nikdy neskončí, ale veľmi nám záleží na bezpečnosti Snapchatterov a budeme naďalej spolupracovať s inými v celom tomto sektore, vo vláde a s orgánmi činnými v trestnom konaní, vymieňať si informácie a posilňovať svoju obranu.