Mindenki megérdemli, hogy biztonságban érezze magát online, és hogy rendelkezhessen a képei felett. A Snapchaten kifejezetten tiltjuk a szexuálisan explicit tartalmak, köztük a beleegyezés nélküli intim képek (NCII) megosztását, népszerűsítését vagy terjesztését. A jogalkotók segítségével azonban kodifikálhatjuk és megerősíthetjük az iparági szabványokat, és erősebb védelmet nyújthatunk az ilyen típusú károkkal szemben. Ezért büszkén támogatjuk a H.R. 633számú törvényjavaslatot, más néven a TAKE IT DOWN (Tools to Address Known Exploitation by Immobilizing Technological Deepfakes On Websites and Networks) törvényt.

A TAKE IT DOWN törvény szövetségi bűncselekménnyé nyilvánítja az NCII és hasonló képek közzétételét. Azt is előírja, hogy a webhelyeknek és a Snapchathez hasonló platformoknak az áldozat kérésétől számított 48 órán belül el kell távolítaniuk az ilyen képeket, és ésszerű erőfeszítéseket kell tenniük a kép(ek) másolatainak azonosítására és eltávolítására. Ez a törvény kritikus lépés nemcsak abban, hogy segítsen megvédeni az embereket attól, hogy privát képeiket engedély nélkül megosszák, hanem a mesterséges intelligencia által generált, ugyanolyan káros intim képek terjesztésének korlátozásában is.

A Snapnél a közösségünk – különösen a fiatalabb felhasználóink – védelme a legfőbb prioritásunk. A TAKE IT DOWN törvény összhangban van és kiegészíti a rosszindulatú szereplők által az NCII és a gyermekek szexuális kizsákmányolásával és bántalmazásával kapcsolatos képek (CSEAI) online terjesztésének megakadályozására irányuló folyamatos erőfeszítéseinket. Munkánk a következőket foglalja magában:

• Gyors intézkedés a bejelentésekre

A nap 24 órájában rendelkezésre álló biztonsági csapataink gyorsan reagálnak a zaklatással vagy szexuális tartalommal kapcsolatos bejelentésekre, hogy gyors intézkedést biztosítsanak, amikor a snapchatelőknek segítségre van szükségük. Az alkalmazáson belül egyszerűvé tesszük a bejelentést, lehetővé téve a snapchatelők számára, hogy közvetlenül a beszélgetésekből jelentsenek be egyes üzeneteket, történeteket vagy fiókokat. Külön kategóriáink is vannak az NCII és a CSEAI bejelentésére, hogy biztonsági csapataink prioritásként kezelhessék ezeket a bejelentéseket, és gyorsan cselekedhessenek.

• Az áldozatok támogatása iparági szintű partnerségek révén

Aktívan részt veszünk a National Center for Missing and Exploited Children (NCMEC) Take It Down programjában, amely lehetővé teszi a kiskorúak számára, hogy digitális „ujjlenyomatokat” hozzanak létre az intim képekről anélkül, hogy magukat a képeket megosztanák. Ezeket az ujjlenyomatokat használjuk az egyező tartalmak észlelésére a Snapchaten, és eltávolítunk mindent, ami sérti az irányelveinket. Hasonló programokban is részt veszünk, mint például a Report Remove az Egyesült Királyságban, szintén kiskorúak képeivel kapcsolatban, és a StopNCII a 18 éven felüliek számára – mindez segít megelőzni az intim képek terjedését a platformunkon.

• Fejlett technológia a káros tartalmak észlelésére és eltávolítására

Olyan speciális technológiákat használunk, mint a PhotoDNA az ismert illegális képek és a Google CSAI Match az ismert illegális videók észlelésére. A Google Content Safety API-ját is használjuk, hogy segítsen azonosítani azokat az illegális képeket, amelyeket korábban nem jelentettek be vagy nem hasheltek.

• A tizenévesek védelme az idegenektől és a gyanús fiókoktól

A szexuális zsarolással kapcsolatos csalások közelmúltbeli tendenciájának kezelésére olyan védelmet vezettünk be a fiatalabb felhasználók számára, amely segít megakadályozni, hogy idegenek megtalálják a profiljukat és kapcsolatba lépjenek velük. Figyelmeztetjük a tizenéveseket a gyanús baráti felkérésekre, és teljes egészében megakadályozzuk a baráti felkérés kézbesítését, ha az olyan fiókból érkezik egy tizenéveshez, amelynek nincsenek közös barátai, vagy ha a fiók korábban már hozzáfért a Snapchathez csalási tevékenységgel összefüggő helyekről. Lépéseket teszünk annak megakadályozására is, hogy az elkövetők új fiókokat hozzanak létre ugyanazon az eszközön, vagy ugyanazt az e-mail-címet vagy telefonszámot használják.

• Együttműködés a bűnüldöző szervekkel

A bűnüldözési műveletekkel foglalkozó csapatunk jelentősen megnőtt, ami lehetővé teszi számunkra, hogy jobban együttműködjünk a hatóságokkal a snapchatelők biztonságának megőrzése érdekében. Évente bűnüldözési csúcstalálkozót tartunk az Egyesült Államokban, és együttműködünk a nemzetközi bűnüldöző szervekkel, többek között Nyugat-Afrikában, ahonnan számos szexuális zsarolási eset származik. Vészhelyzetek esetén a bűnüldöző szervek adatszolgáltatási kérelmeire jellemzően 30 percen belül válaszolunk. Ezenkívül, ha gyermekek szexuális kizsákmányolásáról szerzünk tudomást – akár bejelentik nekünk, akár proaktívan azonosítjuk –, jelentjük az NCMEC-nek, amely szükség szerint koordinál a hazai és nemzetközi bűnüldöző szervekkel.

• Oktatás és figyelemfelhívás 

Annak érdekében, hogy közvetlenül oktassuk a közösségünket, alkalmazáson belüli, rövid formátumú videókat indítottunk a szexuális kockázatokról és a lehetséges károkról a„Biztonsági pillanatkép”csatornánkon a Felfedezésben. A témák között szerepel a pénzszerzés célú szexuális zsarolás, valamint a meztelen képek készítésének és megosztásának következményei. Ezenkívül forrásokat dolgoztunk ki a szülők és a pedagógusok számára, hogy segítsünk nekik megérteni, hogyan használják a tinédzserek a Snapchatet, és milyen biztosítékok léteznek a biztonságuk érdekében. A SnapDigitális Jóléti Tanácstizenéveseket hoz össze, hogy iskoláikban és közösségeikben támogassák a biztonságosabb online szokásokat. Szakértőkkel is együttműködünk olyan kezdeményezések támogatására, mint aKnow2Protect, az Egyesült Államok Belbiztonsági Minisztériuma által indított országos figyelemfelhívó kampány, amely segít megelőzni és leküzdeni az olyan bűncselekményeket, mint a pénzszerzés célú szexuális zsarolás.

Folyamatos elkötelezettségünk

Bár elégedettek vagyunk az elért eredményekkel, tudjuk, hogy a munkánk talán soha nem ér véget. A Snapnél továbbra is felhívjuk a figyelmet a lehetséges online károkra, új technológiákat fejlesztünk a jogsértő tartalmak felderítésére, és együttműködünk az iparági partnerekkel, kormányzati szervekkel, bűnüldöző szervekkel, a civil társadalommal, a szülőkkel és magukkal a fiatalokkal.

A TAKE IT DOWN törvény támogatásával és biztonsági erőfeszítéseink folytatásával egy olyan jövőért dolgozunk, ahol mindenki élvezheti a barátokkal és a családdal való online kapcsolattartást a kizsákmányolástól vagy bántalmazástól való félelem nélkül.

Mélyen törődünk minden snapchatelő biztonságával, és továbbra is elkötelezettek vagyunk amellett, hogy platformunkat ellenséges környezetté tegyük a rosszindulatú szereplők számára, és egészséges térré az őszinte kapcsolatok számára.