A Snap-nél folyamatosan fejlesztjük a biztonsági mechanizmusainkat és a platform irányelveinket, hogy korlátozzuk a lehetőségét annak, hogy rossz szándékú szereplők visszaéljenek a platformunkkal. Fejlett technológia segítségével ismerjük fel és blokkoljuk az olyan tevékenységeket, amelyek megsértik a szabályainkat, tervezési elveket alkalmazunk a barátjelölési folyamat lassítására, támogatjuk a bűnüldöző szerveket, együttműködünk a kormányzati szervekkel, dolgozunk a tudatosság növelésén és felvilágosítás nyújtásán a tizenéveseket, de valójában a közösségünk minden tagját érő legsúlyosabb ártalmakkal kapcsolatban. 

Nagyon komolyan vesszük a felelősségünket a tizenévesek védelmében. A munkánk jelentős, és az alábbiakat tartalmazza: 

I. Ellenséges környezet teremtése a Snapchat-en a rossz szándékú felhasználók számára

Ezév korábbi részében új funkciókat jelentettünk be, hogy még jobban védjük a közösségünket, kifejezetten a tizenéveseket, továbbá hogy a Snapchat egyediségét adó valós kapcsolatokat megerősítsük. Ezek közé a frissítések közé tartozik: kiterjesztett applikációbeli figyelmeztetések a gyanús kapcsolatoknál, továbbfejlesztett barátjelölési védelmek kifejezetten a tizenévesek részére, és annak a lehetőségnek a javítása, melynek segítségével a nem kívánt kapcsolatok blokkolhatók. 

Ezek a változtatások, melyek az online szexuális zaklatás elleni küzdelemre összpontosítanak, azon folyamatos fejlesztéseinkre épülnek, amelyek célja a gyermekek szexuális kizsákmányolásának és bántalmazásának minden formájával szembeni harc. Például: 

Jelzéseket használunk a szexuális zaklatás viselkedésének azonosítására, hogy aktívan eltávolíthassuk a rossz szándékú szereplőket még azelőtt, hogy lehetőségük lenne másokat megcélozni és áldozattá tenni. Ez egy kiegészítés annak a technológiának a kiaknázására és bevezetésére, melyet úgy alakítottak ki, hogy megelőzze az ismert, gyermekek szexuális kihasználásával és zaklatásával kapcsolatos képek (CSEAI) terjedését a Snapchat-en, e technológiákba beleértendő a PhotoDNA (mely az ismert illegális képek duplikátumait figyeli) és a Content Safety API (mely az új, korábban "soha nem hashelt" képek felismerését segíti).

Miközben már régóta elérhető az egyszerű, applikáción belüli bejelentés az olyan tartalmakra és fiókokra, melyek megsértik a szabályainkat, 2023-ban fejlesztéseket hajtottunk végre a szexiális zaklatással összefüggő károk elleni küzdelem megerősítésére. Tavaly elindítottuk az alkalmazáson belüli csevegés szöveg bejelentési lehetőségét - ami lehetővé teszi a Snapchat-felhasználók számára, hogy az egyes üzeneteket közvetlenül a beszélgetésből jelentsék be. Kiterjesztettük az alkalmazáson belüli jelentési eszközeinket is, hogy egy egyedi, személyre szabott bejelentési ok legyen a szexuális zaklatás, melyhez a tanácsokat és útmutatásokat a CSEA ellen küzdő NGO Thorn adta, a bejelentési lehetőséget a tizenévesek és fiatalok nyelvezetén megfogalmazva ("Kiszivárogtatták / azzal fenyegetnek, hogy kiszivárogtatják a meztelen képeimet"). E bejelentéseket egyébként arra is használjuk, hogy információt adjunk intézkedési erőfeszítéseinkről, beleértve a jelalapú felismerést és végrehajtást is. Elemezzük a trendeket, mintákat és a szexuális zaklatók technikáit, és ha egy bizonyos fiók megadott jellemzőket mutat, akkor zároljuk a szexuális zaklatás miatt.

Folytatjuk a fejlesztést, és bővítjük a 2022-ben bevezetett Családi központ eszköztárunkat, ahol a szülők láthatják kikkel barátok a tizenéveseik a Snapchat-en, kikkel beszélgettek mostanában és könnyen jelenthetik azokat a fiókokat, amelyek gyanúsnak tűnnek nekik. A célunk a Családi központtal mindig is az volt, hogy egy nyitott és konstruktív párbeszédet kezdeményezzünk a szülők/gondviselők és a tizenévesek között a biztonságos online tartózkodásról. 

Szorosan együttműködünk a bűnüldöző szervekkel, és komoly erőforrásokat biztosítunk a biztonság és hatósági együttműködések csapatainkba, melyek szerte a világban az év minden napján éjjel-nappal működnek, hogy a közösségünk biztonságban maradjon. Például, a Bizalom és biztonság csapataink mérete több, mint kétszeresére nőtt 2020 óta, és a Hatósági együttműködések csapatunk ezen idő alatt több, mint a háromszorosára bővült. Éves konferenciákat tartunk a bűnüldöző szervek számára az Egyesült Államokban, hogy a hatósági munkatársak és szervek tudják, hogy lépjenek fel hatékonyan bármilyen illegális tevékenység ellen, amely esetlegesen megjelenik a platformunkon. 

Emellett a bűnüldöző szervekkel közvetlenül is együtt dolgozunk Nigériában - ahonnan számos szexuális zaklatásos eset ered -, hogy felépítsük a kapacitást és a tudást az elkövetők felkutatására és bíróság elé állítására, és szándékunkban áll folytatni a Nigériai kormánnyal való elköteleződésünket, a további együttműködés érdekében ezen a területen. És együttműködtünk a Nemzetközi Igazságügyi Misszióval (NCMEC), az iparág más tagjaival, illetve NGO-kkal, hogy tréninget nyújtsunk a bűnüldöző szervek számára CyberTips kivizsgálásokra az Egyesült Államokon kívüli országokban, ahol a szexuális zaklatás elterjedt.

Sok éve együttműködünk a "megbízható jelölők" egy erős hálózatával: nonprofit szervezetekkel, NGO-kkal és olyan kormányzati ügynökségekkel, amelyek a veszélybe került Snapchat-felhasználók érdekében magas prioritású csatornákon át jelentenek visszéléses eseteket, közvetlen életveszélyt és egyéb sürgős problémákat. A Megbízható bejelentési programunkban résztvevők többsége jelent tartalmakat és fiókokat, melyek szexuális jellegű támadáshoz kapcsolódnak a kiskorúak ellen, ide értve a szexuális zaklatást.  

II. Iparági szakértők és koalíciók bevonása 

A saját fejlesztéseink mellett szakértőkkel is kapcsolatban állunk világszerte, mivel tudjuk, hogy egyetlen entitás vagy szervezet sem tudja önállóan kezelni ezeket a problémákat. Például, a Snap képviseli az iparágat a WeProtect Global Alliance nemzetközi irányelvek tanácsán; tagja vagyunk az INHOPE Tanácsadó testületének, és az Egyesült Királyság Internet Watch Foundation (IWF) Kuratóriumának. Ezen szervezetek mindegyikének a gyermekekkel szembeni online zaklatás elleni küzdelem megszüntetése áll a küldetésük középpontjában.

Aktív tagja maradtunk a Tech Coalition-nek, mely egy globális iparági szövetség a gyermekek online szexuális kizsákmányolása és bántalmazása ellen, és nemrég zártunk le egy kétéves időszakot az igazgatótanács végrehajtó bizottságában. Emellett alapító tagjai voltunk a Tech Coalition Lantern kezdeményezésének, az első platformokon átívelő jelmegosztási programnak a vállalatok számára, a hogy hatékonyabban érvényesítsék a gyermekvédelemmel kapcsolatos szabályokat. Az ebben a programban történő aktív részvételen keresztül a vállalatok segíthetnek egymásnak a rossz szándékú szereplők, beleértve a szexuális zaklatók keresztellenőrzésében.  

Emellett felhasználjuk a National Center for Missing and Exploited Children (NCMEC) Take It Down adatbázisát, mely lehetővé teszi a kiskorúak számára, hogy digitális ujjlenyomatot, úgynevezett "hash"-t hozzanak létre a kiválasztott képekről vagy videókról, közvetlenül az eszközeiken. A résztvevő vállalatok, köztük a Snap ezután felhasználhatják ezeket a hash-eket az olyan képek duplikátumainak felfedezésére és elvátolítására, melyek sértik a Közösségi iránymutatásainkat. Részt veszünk egy hasonló programban az Egyesült Királyságban, melyet Report Remove-nak hívnak, és tavaly csatlakoztunk a SWGfL StopNCII együttműködéséhez, hogy e csoport hash adatbázisát felhasználva megelőzzük a beleegyezés nélküli intim képek (NCII) terjedését a Snapchat-en. A StopNCII segít megállítani a 18+ intim képek terjedését, és lehetőséget biztosít az áldozatoknak a magánéletük visszaszerzésére a legtitkosabb képeiket és videóiket érintően.

Ebben az évben elindítottuk az első Snap Tanácsot a Digitális Jólétért, amely egy 18 tizenévesből álló csoport az Egyesült Államok különböző részeiről, és akiket egy egy év hosszúságú olyan pilot programban való részvételre választottak ki, melynek célja biztonságosabb online szokások és gyakorlatok kialakítása az iskoláikban és közösségeikben. Júliusban ez a csoport, oldalukon legalább egy-egy szülővel vagy kísérővel, összegyűlt a Snap központjában Santa Monica-ban, Kaliforniában, ahol érdekes betekintést nyertek olyan témákba, mint az online csapdák, a közösségi dinamika és a szülői eszközök. Ez kiegészíti a Snap Biztonsági tanácsadó testületét, amely 16 szakértőt és három fiatal tanácsadót vonultat fel, akik közvetlen útmutatást és iránymutatást nyújtanak a Snap számára a biztonsági kérdésekről. Örömmel várjuk 2025-öt, ahol reményeink szerint több lehetőséget teremthetünk mindkét csoport tagjainak, hogy találkozzanak egymással, és további értékes elemzéseket adjanak. 

III. Tudatosság növelése 

A belsős feljesztéseinken és az iparági szakértőkkel végzett munkánkon túl az online szexuális visszaélések és szexuális zaklatás elleni küzdelem egyik kritikus összetevője, hogy növeljük a nyilvánosság és a Snapchat felhasználók tudatosságát. 

2022-ben útjára indítottuk a Digitális jóléti indexet, egy iparági szinten vezető kutatást, amely betekintést nyújt abba, hogy hogyan érzik magukat a tizenévesek és a fiatal felnőttek online, az összes platformon. Ezen kutatás részeként, az elmúlt két évben mélyre ástuk magunkat a szexuális zaklatásban. Mivel ez a tanulmány általánosságban az online élményekről szól, nem csak a Snapchat kapcsán, ezért nem csak a mi munkánkat segíti, hanem reméljük, hogy értékes betekintést nyújt az egész technológiai ökoszisztémába. Később ebben a hónapban megosztjuk a második évre vonatkozó szexuális zaklatásról szóló mélyelemzésünket, a Technology Coalition közelgő virtuális Multi-Stakeholder Foruma alkalmából, amely a kiskorúak pénzügyi szexuális zaklatásáról szól. 

Ezév korábbi részében örömünkre szolgált az első entitásként támogatni a Know2Protect-et, a maga nemében első nyilvános figyelemfelkeltő kampányt, melyet még idén korábban az Egyesült Államok Belbiztonsági Minisztériuma (DHS) indított el. A kampány tájékoztat és képessé teszi a fiatalokat, szülőket, megbízható felnőtteket és döntéshozókat, hogy segítsenek megelőzni és leküzdeni a pénzügyi szexuális zaklatáshoz hasonló bűncselekményeket. A K2P oktatási forrásai számára adományozott hirdetési helyeken kívül a Snapchat-en, további kutatásokat folytatunk a tizenévesek és fiatal felnőttek körében az Egyesült Államokban, hogy a későbbiekben is informáljunk a kampányról. Emellett betársulva elindítottunk egy kiterjesztett valóság Snapchat objektívet a Snapchat-felhasználók edukálására egy interaktív Know2Protect kvízen keresztül. És az Egyesült Királyságban támogattuk az IWF széleskörű nyilvános figyelemfelkeltő kampányát ezekről a kérdésekről napjainkig, Gurls Out Loud néven, melyet a 11-13 éves lányok tájékoztatására alakítottak ki az online szexuális manipulációról, a szextingről és a meztelen képek küldéséről. Emellett mostanában indítottuk el a Snapchat oktatói útmutatóját a Safe and Sound Schools szervezettel egy átfogó eszköztár kifejlesztésére, amely információkat és útmutatást tartalmaz a szexuális zaklatás elleni küzdelemhez. 

Az éveken át tartó kutatásunk alapján tudjuk, hogy a figyelemfelkeltés és a közösségi edukálás hatékony eszközök az online károk megelőzésében, ezért továbbra is fejlesztjük és támogatjuk az alkalmazásokon belüli forrásokat, hogy a tizenéveseket és a fiatalokat közvetlenül a Snapchat-en érjük el. 2023. szeptemberében kiadunk négy új alkalmazáson belüli “Safety Snapshot” (Biztonsági pillanatkép) epizódot, a szexuális veszélyekre és károkra koncentrálva, ide értve a pénzügyi szexuális zaklatást. Emelletet epizódokat kínálunk a szextingről és a meztelen tartalmak létrehozásának és megosztásának következményeiről, a gyermekek szexuális célú megközelítéséről, és a gyermekek szexuális célú embercsempészetéről. Ezen erőforrások mindegyikét áttekintették a National Center for Missing and Exploited Children (NCMEC) szakértői, és létrehozásuk a fő földrajzi területek segélyvonalaival együttműködve történt. 

Továbbra is folytatjuk a küzdelmet a gyermekek online szexuális kizsákmányolása és zaklatása ellen, de még mindig van mit tenni. 2025-ben folytatjuk a figyelemfelhívást a lehetséges online károkkal kapcsolatban, és továbbra is hangsúlyozni fogjuk, hogy bárki potenciális célpont lehet. Szeretnénk minél korábban és gyakrabban meghiúsítani és megakadályozni a rossz szándékú szereplők tevékenységét, és még jobban végrehajtható CyberTips anyagokat gyártani a bűnüldöző hatóságok számára.

Fontos megjegyezni, hogy ugyanezeket a stratégiákat alkalmazzuk más súlyos ártalmak, például az illegális drogtevékenység ellen is, ide értve a hamis tabletták árusítását, az erőszakkal való fenyegetést, és az öngyilkos, és önkárosító tartalmat is. Tisztában vagyunk azzal, hogy a munkánk ezen a téren talán soha nem ér véget, de mélyen törődünk a Snapchat-felhasználók biztonságával, és folytatjuk a munkánkat az iparággal, kormányzattal és bünüldöző hatóságokkal együttműködve, hogy információcserét folytassunk és megerősítsük a védelmünket.