V Snapu stalno razvijamo varnostne mehanizme in pravilnike o platformi, da bi zlonamernim akterjem omejili možnosti za zlorabo naše platforme. Uporabljamo napredne tehnologije za odkrivanje in blokiranje dejavnosti, ki krši naša pravila in uporabljamo načela oblikovanja za ustvarjanje trenja v postopku vzpostavljanja prijateljstev, podpiramo organe pregona, sodelujemo z vladnimi organi in si prizadevamo za izboljšanje ozaveščenosti ter zagotavljanje izobraževanja o najresnejših negativnih vplivih, ki učinkujejo na najstnike oziroma dejansko vse člane naše skupnosti. 

Odgovornost za zaščito najstnikov jemljemo zelo resno. Naše delo je precej obsežno in vključuje naslednje: 

I. Prizadevamo si, da bi bil Snapchat sovražno okolje za zlonamerne akterje

V začetku tega leta smo napovedali nove funkcije za nadaljnjo zaščito svoje skupnosti, zlasti najstniških uporabnikov in za krepitev odnosov v resničnem svetu, zaradi katerih je Snapchat edinstven. Te posodobitve vključujejo: razširjena opozorila v aplikaciji za sumljive stike, izboljšano zaščito pri sklepanju prijateljstev, razvito posebej za najstnike in izboljšanje možnosti za blokiranje neželenih stikov. 

Te spremembe, usmerjene v preprečevanje spletnega spolnega izsiljevanja, gradijo na naših tekočih stalnih naložbah za boj proti vsem oblikam spolnega izkoriščanja in zlorabe otrok. Na primer: 

Uporabljamo signale za prepoznavanje vedenja, ki kaže na spolno izsiljevanje, da lahko dejavno odstranimo zlonamerne akterje, preden imajo možnost ciljati in viktimizirati druge. To je poleg izkoriščanja in uporabe tehnologije, namenjene preprečevanju širjenja znanega slikovnega gradiva spolnega izkoriščanja in zlorabe otrok v Snapchatu, vključno s tehnologijama PhotoDNA (za odkrivanje dvojnikov znanih nezakonitih slik) in CSAI Match (za odkrivanje dvojnikov znanih nezakonitih videoposnetkov) ter API-jem za varnost vsebine (za pomoč pri odkrivanju novih posnetkov, za katere še ne obstajajo zgoščene vrednosti).

Sicer že dolgo ponujamo načine za enostavno prijavo vsebine in računov, ki kršijo naša pravila, v letu 2023 pa smo uvedli izboljšave za krepitev boja proti škodljivim vplivom spolnega izsiljevanja. Lani smo uvedli prijavo besedilnih klepetov v aplikaciji, kar uporabnikom Snapchata omogoča prijavo posameznih sporočil neposredno iz samega pogovora. Razširili smo tudi svoja orodja za prijavo vsebine v aplikaciji, tako da vključujejo specifičen in prilagojen razlog za prijavo spolnega izsiljevanja, na podlagi nasvetov nevladne organizacije Thorn, ki se bori proti slikovnem gradivu s spolnim izkoriščanjem in zlorabo otrok, pa smo to možnost prijave ubesedili na način, ki je blizu najstnikom in mladim (»Grozijo, da bodo razkrili moje gole slike«). Te prijave uporabljamo kot podlago svojim prizadevanjem za uveljavljanje pravil, vključno z odkrivanjem in uveljavljanjem na podlagi signalov. Analiziramo trende, vzorce in pristope spolnih izsiljevalcev in če račun kaže določene značilnosti, ga zaklenemo zaradi spolnega izsiljevanja.

Še naprej izboljšujemo in dodajamo zbirko orodij v Družinskem središču, ki smo ga izdali leta 2022 in lahko starši v njem vidijo, kdo so prijatelji njihovih najstnikov v Snapchatu in s kom so pred nedavnim klepetali, ter zlahka prijavijo račune, glede katerih imajo morebitne pomisleke. Naš cilj za Družinsko središče je od nekdaj spodbujati odprt in konstruktiven dialog o varstvu v spletu med starši/skrbniki in najstniki. 

Tesno sodelujemo z organi pregona in veliko vlagamo v svoje ekipe za varnost in sodelovanje z organi pregona, ki po vsem svetu delujejo vse dni v tednu in 24 ur dnevno, da bi zagotovili varnost naše skupnosti. Naše skupine za zaupanje in varnost so se na primer od leta 2020 več kot podvojile in v tem času se je naša ekipa za sodelovanje z organi pregona že več kot potrojila. V ZDA gostimo letna srečanja za organe pregona, da bi zagotovili, da policisti in agencije vedo, kako ustrezno ukrepati glede morebitne nezakonite dejavnosti, do katere lahko prihaja na naši platformi. 

Neposredno sodelujemo tudi z organi pregona v Nigeriji, od koder prihaja veliko primerov spolnega izsiljevanja, in sicer za vzpostavitev zmogljivosti in znanja za preiskovanje in pregon storilcev, načrtujemo pa tudi nadaljevanje angažmaja z nigerijsko vlado, da bi še naprej sodelovali na tem področju. Sodelovali smo z Mednarodno misijo za pravosodje, NCMEC, drugimi člani panoge in nevladnimi organizacijami, da bi zagotovili usposabljanje za uveljavljanje zakonodaje o preiskavi prijav CyberTips v državah zunaj ZDA, kjer je razširjena dejavnost spolnega izsiljevanja.

Že vrsto let sodelujemo tudi z močno ekipo »zaupanja vrednih prijaviteljev«: to so neprofitne organizacije, nevladne organizacije in nekatere državne agencije, ki nam prek visoko prioritetnih kanalov stopnjujejo prijave zlorab, neposrednih groženj za življenje in drugih nujnih zadev v imenu uporabnikov Snapchata, ki potrebujejo pomoč. Večina udeležencev v našem programu zaupanja vrednih prijaviteljev prijavlja vsebino in račune v zvezi s spolnostjo povezanimi škodljivimi dejanji proti mladoletnikom, vključno s spolnim izsiljevanjem.  

II. Vključevanje strokovnjakov in koalicij iz panoge

Poleg lastnih naložb sodelujemo tudi s strokovnjaki po vsem svetu, ker se zavedamo, da nobeno posamično podjetje ali organizacija ne more sama smiselno delovati na področju teh vprašanj. Snap na primer predstavlja panogo v odboru za mednarodne politike globalne zveze WeProtect. Smo tudi člani svetovalnega sveta INHOPE in upravnega odbora za ustanove UK Internet Watch (IWF). Vse te organizacije imajo v središču svojega poslanstva izkoreninjenje spolnega izkoriščanja in zlorabe otrok na spletu (CSEA).

Še naprej ostajamo aktivni člani globalnega panožnega zavezništva Tech Coalition, osredotočenega na boj proti spletnemu spolnemu izkoriščanju in zlorabi otrok, pred nedavnim pa smo zaključili tudi dvoletni mandat v izvršnem odboru njegove uprave. Smo tudi ustanovni člani pobude združenja Tech Coalition, imenovane Lantern, prvega programa za izmenjavo signalov med platformami, s katerim lahko podjetja okrepijo, kako uveljavljajo svoje pravilnike o varnosti otrok. Z aktivno udeležbo v tem programu si lahko podjetja medsebojno pomagajo pri navzkrižnem preverjanju zlonamernih akterjev, vključno s spolnimi izsiljevalci.   

Poleg tega uporabljamo zbirko podatkov ameriškega nacionalnega centra za pogrešane in izkoriščane otroke (NCMEC), imenovano Take it Down, ki mladoletnikom omogoča ustvarjanje digitalnega odtisa, imenovanega »zgoščena vrednost«, slik in videoposnetkov, ki jih sami izberejo v svojih napravah. Sodelujoča podjetja, med njimi tudi Snap, lahko te zgoščene vrednosti nato uporabijo za iskanje in odstranitev podvojenih posnetkov, ki kršijo naše smernice skupnosti. V Združenem kraljestvu sodelujemo v podobnem programu, imenovanem Report Remove, lani pa smo se pridružili sodelovanju SWGfL za StopNCII, ki pomaga preprečiti širjenje intimnih posnetkov brez privolitve (ang. NCII) v Snapchatu z uporabo zbirke podatkov zgoščenih vrednostih, ki jo vzdržuje ta skupina. StopNCII pomaga ustaviti širjenje intimnih posnetkov teh posameznikov, starejših 18 in več let, ter žrtvam ponuja možnost, da znova uveljavijo svojo zasebnost za najbolj zasebne fotografije in videoposnetke.

Letos smo predstavili tudi svoj ustanovni svet Snap za digitalno dobro počutje, sestavljen iz skupine 18 najstnikov iz vseh delov ZDA, ki so bili izbrani za sodelovanje v enoletnem preskusnem programu za spodbujanje varnejših spletnih navad in praks v svojih šolah in skupnostih. Julija se je ta skupina skupaj z vsaj enim staršem ali skrbnikom zbrala na sedežu družbe Snap v Santa Monici v Kaliforniji za razprave, ki so prinesle zanimive vpoglede v teme, kot so spletne pasti in družbena dinamika, ter starševska orodja. To je poleg odbora za svetovanje o varnosti, ki ga sestavlja 16 strokovnjakov in trije zagovorniki mladih, ki družbi Snap zagotavljajo neposredne smernice in usmeritve v zvezi z varnostnimi zadevami. Upamo, da bomo lahko v letu 2025 ustvarili več priložnosti za sodelovanje članov obeh skupin in odkrivanje dodatnih vpogledov. 

III. Spodbujanje ozaveščenosti 

Poleg naših internih naložb in sodelovanja s strokovnjaki v panogi je nadvse pomemben del boja proti spolnim zlorabam in spolnemu izsiljevanju v spletu ozaveščanje javnosti in uporabnikov Snapchata.

V letu 2022 smo uvedli indeks digitalnega dobrega počutja – to so vodilne raziskave v panogi, ki ponujajo vpogled v spletno dejavnost najstnikov in mlajših odraslih na vseh platformah. V okviru te raziskave smo v zadnjih dveh letih izvedli poglobljeno raziskavo o spolnem izsiljevanju. Ker ta študija zajema izkušnje v spletu na splošno, ne samo na Snapchatu, nam ne pomaga le postaviti temeljev za naše delo, ampak upamo, da ponuja vpoglede tudi drugim v celotnem tehnološkem ekosistemu. Pozneje v tem mesecu bomo predstavili rezultate našega drugega leta raziskave o spolnem izsiljevanju skupaj s prihajajočim večdeležniškim virtualnim forumom o finančnem spolnem izsiljevanju mladoletnikov, ki ga organizira Technology Coalition. 

V začetku tega leta smo imeli čas postati prvo podjetje, ki podpira prvo in svojevrstno pobudo za ozaveščanje javnosti, imenovano Know2Protect, ki jo je v začetku tega leta predstavilo ameriško ministrstvo za domovinsko varnost (DHS). Pobuda izobražuje in opolnomoča mlade, starše, zaupanja vredne odrasle in oblikovalce politik za pomoč pri preprečevanju kaznivih dejanj, kot je finančno spolno izsiljevanje, ter boju proti njim. Poleg darovanja oglaševalskega prostora v Snapchatu za izobraževalne vire K2P izvajamo tudi dodatne raziskave z najstniki in mladimi odraslimi v ZDA, na podlagi katerih bi tudi vnaprej gradili pobudo. Sočasno smo predstavili tudi lečo Snapchat Lens za obogateno resničnost, ki bi pomagala pri izobraževanju uporabnikov Snapchata prek interaktivnega kviza Know2Protect. V Združenem kraljestvu smo podprli daljnosežno kampanjo IWF Gurls Out Loud za dosedanje ozaveščanje javnosti o teh vprašanjih, namenjeno obveščanju 11–13-letnih deklet o spletnem spolnem napeljevanju, pošiljanjem sporočil SMS s spolno vsebino in posnetki golote. Poleg tega smo pred kratkim predstavili priročnik za Snapchat za vzgojitelje, in sicer v sodelovanju z organizacijo Safe and Sound Schools za razvoj celovitega kompleta orodij za vzgojitelje, ki vključuje informacije in navodila za boj proti spolnemu izsiljevanju. 

Na podlagi večletnih raziskav vemo, da sta ozaveščanje in izobraževanje skupnosti močni orodji za preprečevanje škodljivih dejavnikov v spletu, in tudi vnaprej razvijamo in promoviramo vire v aplikaciji, da bi najstnike in mlade dosegli neposredno Snapchatu. Septembra 2023 smo izdali štiri nove epizode t.i. varnostnega posnetka, ki se osredotočajo na spolna tveganja in škodo, vključno s finančnim spolnim izsiljevanjem. Ponujamo tudi epizode o pošiljanju sporočil SMS s spolno vsebino in posledicah ustvarjanja posnetkov golote in njihovega deljenja z drugimi, spletnega nagovarjanja otrok za spolne namene in spolne trgovine z otroki. Vsi ti viri so bili pregledani s strani strokovnjakov ameriškega nacionalnega centra za pogrešane in izkoriščane otroke (NCMEC) in bili ustvarjeni v sodelovanju z ustreznimi telefonskimi linijami za pomoč uporabnikom na najpomembnejših geografskih območjih. 

Še naprej se borimo proti spletnemu spolnemu izkoriščanju in zlorabi otrok, vendar je treba storiti še več. V letu 2025 bomo še naprej delali na ozaveščanju o potencialnih nevarnostih v spletu in še naprej ponavljali, da je potencialni cilj lahko kdorkoli. Zgodaj in pogosto želimo prekiniti in preprečiti zlonamerne akterje ter pripraviti še več izvedljivih nasvetov CyberTips za organe pregona.

Pomembno je omeniti, da številne od teh istih strategij uporabljamo pri boju proti drugim pogostim nevarnostim, kot so dejavnost povezana s prepovedanimi drogami, vključno s prodajo ponarejenih tablet, grožnje z nasiljem in vsebina, povezana s samomori in samopoškodovanjem. Zavedamo se, da naše delo v tem prostoru nikoli ne bo končano, vendar nam je izjemno pomembna varnost uporabnikov Snapchata in bomo še naprej sodelovali z drugimi v celotni panogi, državnimi organi in organi pregona pri izmenjavi informacij in krepitvi svoje obrambe.