Každý si zaslúži cítiť sa online bezpečne a mať kontrolu nad svojimi obrázkami. Na Snapchate výslovne zakazujeme zdieľanie, propagáciu alebo distribúciu sexuálne explicitného obsahu vrátane intímnych snímok bez súhlasu (NCII). S pomocou zákonodarcov však môžeme kodifikovať a posilniť priemyselné normy a poskytnúť silnejšiu ochranu pred týmto typom škôd. Preto s hrdosťou podporujeme H.R. 633, tiež známy ako zákon TAKE IT DOWN (Nástroje na riešenie známeho zneužívania znehybnením technologických deepfakes na webových stránkach a sieťach).

Zákon TAKE IT DOWN robí zverejňovanie NCII a podobných snímok federálnym trestným činom. Vyžaduje tiež, aby webové stránky a platformy ako Snapchat odstránili takéto snímky do 48 hodín od žiadosti obete a aby vynaložili primerané úsilie na identifikáciu a odstránenie kópií snímok. Tento zákon je kritickým krokom nielen pri ochrane ľudí pred zdieľaním ich súkromných snímok bez povolenia, ale aj pri obmedzovaní distribúcie intímnych snímok vytvorených umelou inteligenciou, ktoré môžu byť rovnako škodlivé.

V spoločnosti Snap je ochrana našej komunity – najmä našich mladších používateľov – našou najvyššou prioritou. Zákon TAKE IT DOWN je v súlade s naším neustálym úsilím zabrániť zlým aktérom v distribúcii NCII a snímok sexuálneho zneužívania detí (CSEAI) online a dopĺňa ho. Naša práca zahŕňa:

• Rýchla reakcia na hlásenia

Naše bezpečnostné tímy 24/7 rýchlo reagujú na hlásenia o obťažovaní alebo sexuálnom obsahu s cieľom zabezpečiť rýchlu akciu, keď Snapchatteri potrebujú pomoc. Nahlasovanie v aplikácii uľahčujeme a umožňujeme Snapchatterom nahlasovať jednotlivé správy, príbehy alebo účty priamo z konverzácií. Máme tiež špecifické kategórie, v ktorých môžu ľudia nahlasovať NCII a CSEAI, aby naše bezpečnostné tímy mohli tieto hlásenia uprednostniť a rýchlo konať.

• Podpora obetí prostredníctvom celoodvetvových partnerstiev

Aktívne sa zúčastňujeme na programe Take It Down Národného centra pre nezvestné a zneužívané deti (NCMEC), ktorý umožňuje maloletým vytvárať digitálne „odtlačky prstov“ intímnych snímok bez zdieľania skutočných snímok. Tieto odtlačky prstov používame na zisťovanie zhodného obsahu na Snapchate a odstraňovanie všetkého, čo porušuje naše pravidlá. Zúčastňujeme sa aj na podobných programoch, ako je Report Remove v Spojenom kráľovstve, tiež pre snímky maloletých, a StopNCII pre osoby staršie ako 18 rokov – všetky pomáhajú predchádzať šíreniu intímnych snímok na našej platforme.

• Pokročilá technológia na zisťovanie a odstraňovanie škodlivého obsahu

Na zisťovanie známych nelegálnych snímok používame špecializovanú technológiu, ako je PhotoDNA, a na známe nelegálne videá používame nástroj CSAI Match od spoločnosti Google. Používame tiež rozhranie API pre bezpečnosť obsahu od spoločnosti Google, ktoré nám pomáha identifikovať nelegálne snímky, ktoré predtým neboli nahlásené ani hašované.

• Ochrana tínedžerov pred cudzími a podozrivými účtami

Aby sme riešili nedávny trend podvodov so sexuálnym vydieraním, zaviedli sme ochranu pre mladších používateľov, ktorá pomáha zabrániť cudzím ľuďom v tom, aby si mohli nájsť ich profily a spojiť sa s nimi. Tínedžerov varujeme pred podozrivými žiadosťami o priateľstvo a úplne zabránime doručeniu žiadosti o priateľstvo, keď pochádza z účtu bez spoločných priateľov pre tínedžera alebo ak má účet históriu prístupu k Snapchatu na miestach spojených s podvodnou činnosťou. Podnikáme tiež kroky, aby sme páchateľom zabránili vo vytváraní nových účtov na tom istom zariadení alebo v používaní rovnakej e-mailovej adresy alebo telefónneho čísla.

• Spolupráca s orgánmi činnými v trestnom konaní

Náš tím pre operácie s orgánmi činnými v trestnom konaní sa značne rozrástol, čo nám umožňuje lepšie spolupracovať s úradmi, aby sme pomohli udržať Snapchatterov v bezpečí. Organizujeme každoročný samit orgánov činných v trestnom konaní v USA a spolupracujeme s medzinárodnými orgánmi činnými v trestnom konaní, a to aj v západnej Afrike, odkiaľ pochádza mnoho prípadov sexuálneho vydierania. Keď nastanú núdzové situácie, zvyčajne reagujeme na súvisiace žiadosti o zverejnenie údajov od orgánov činných v trestnom konaní do 30 minút. Okrem toho, keď sa dozvieme o sexuálnom zneužívaní detí – buď keď nám to nahlásia a/alebo to proaktívne identifikujeme – nahlásime to NCMEC, ktoré sa následne podľa potreby koordinuje s domácimi a medzinárodnými orgánmi činnými v trestnom konaní.

• Vzdelávanie a informovanosť 

Aby sme pomohli priamo vzdelávať našu komunitu, spustili sme v aplikácii krátke videá o sexuálnych rizikách a potenciálnych škodách prostredníctvom nášho kanála„Bezpečnostná snímka“na platforme Objaviť. Medzi témy patrí sexuálne finančné vydieranie a dôsledky vytvárania a zdieľania nahých fotografií. Okrem toho sme vyvinuli zdroje pre rodičov a pedagógov, ktoré im pomôžu pochopiť, ako tínedžeri používajú Snapchat a aké ochranné opatrenia existujú na zaistenie ich bezpečnosti. Naša SnapRada pre digitálnu pohoduspája tínedžerov, aby presadzovali bezpečnejšie online návyky vo svojich školách a komunitách. Spolupracujeme tiež s odborníkmi na podpore iniciatív, ako jeKnow2Protect, národná kampaň na zvýšenie informovanosti verejnosti, ktorú spustilo Ministerstvo vnútornej bezpečnosti USA s cieľom pomôcť predchádzať a bojovať proti trestným činom, ako je sexuálne finančné vydieranie.

Náš neustály záväzok

Hoci sme s naším pokrokom spokojní, vieme, že naša práca sa možno nikdy neskončí. V spoločnosti Snap budeme naďalej zvyšovať informovanosť o potenciálnych online škodách, vyvíjať nové technológie na zisťovanie obsahu porušujúceho pravidlá a spolupracovať s priemyselnými partnermi, vládnymi agentúrami, orgánmi činnými v trestnom konaní, občianskou spoločnosťou, rodičmi a samotnými mladými ľuďmi.

Podporou zákona TAKE IT DOWN a pokračovaním v našom bezpečnostnom úsilí pracujeme na budúcnosti, v ktorej si každý bude môcť užívať spojenie s priateľmi a rodinou online bez strachu zo zneužívania alebo týrania.

Hlboko nám záleží na bezpečnosti každého Snapchattera a naďalej sme odhodlaní urobiť z našej platformy nepriateľské prostredie pre zlých aktérov a zdravý priestor pre skutočné spojenie.