Snap pastāvīgi attīsta drošības mehānismus un platformas politikas, lai ierobežotu ļaundaru iespējas ļaunprātīgi izmantot mūsu platformu. Mēs izmantojam uzlabotu tehnoloģiju, lai noteiktu un bloķētu darbības, kas pārkāpj mūsu noteikumus, piemērojam dizaina principus, lai veicinātu draudzības procesu, atbalstām tiesību aktu piemērošanu, sadarbojamies ar valsts iestādēm un strādājam, lai veicinātu informētību un izglītošanu par nopietnāko kaitējumu, kas ietekmē pusaudžus, kā arī visus mūsu kopienas locekļus. 

Mēs ļoti nopietni uztveram mūsu atbildību attiecībā uz pusaudžu aizsardzību. Mūsu darbs ir ļoti nozīmīgs un ietver tālāk minēto:

I. Snapchat padarīšana par ļaundariem nepiemērotu vidi

Šogad mēs paziņojām par jauniem līdzekļiem, kas palīdzēs turpmāk aizsargāt mūsu kopienu, jo īpaši pusaudžus, un stiprinās reālās attiecības — tas padara Snapchat par unikālu lietotni. Šie jaunie līdzekļi ietver: paplašinātus lietotnes brīdinājumus par aizdomīgām kontaktpersonām, uzlabotu “draudzēšanās” aizsardzību, kas izstrādāta īpaši pusaudžiem, un uzlabojumus nevēlamu kontaktpersonu bloķēšanas iespējās. 

Šīs izmaiņas ir vērstas uz seksuāla rakstura izspiešanas apkarošanu tiešsaistē un balstītas uz mūsu nepārtrauktajiem ieguldījumiem, kuru mērķis ir novērst jebkāda veida bērnu seksuālu izmantošanu un vardarbību pret bērniem. Piemēram:

Mēs izmantojam signālus, lai identificētu seksuāla rakstura izspiešanas darbības, lai varam aktīvi noņemt ļaundarus, pirms viņiem ir iespēja kādam nodarīt pāri. Tas papildina tādu tehnoloģiju izmantošanu un izvietošanu, kas izstrādātas, lai novērstu tā dēvēto bērnu seksuālu izmantošanu un vardarbību pret bērniem (CSEAI) Snapchat lietotnē, tostarp PhotoDNA rīku (zināmo nelikumīgo attēlu dublikātu noteikšanai), CSAI Match rīku (zināmo nelikumīgo video dublikātu noteikšanai) un Content Safety API rīku (jaunu, iepriekš neatklātu attēlu noteikšanas veicināšanai).

Lai gan mēs jau sen piedāvājam vienkāršu lietotnē iestrādātu sistēmu ziņošanai par saturu un kontiem, kuri pārkāpj mūsu noteikumus, 2023. gadā mēs veicām uzlabojumus, lai vēl niknāk cīnītos pret kaitējumu saistībā ar seksuāla rakstura izspiešanu. Pagājušajā gadā mēs lietotnē ieviesām iespēju ziņot par tērzēšanas ziņojumiem, kas ļauj Snapchat lietotājiem ziņot par atsevišķiem ziņojumiem tieši no attiecīgās sarunas. Mēs arī paplašinājām lietotnē iestrādātos ziņošanas rīkus, kā ziņošanas iemeslu iekļaujot seksuāla rakstura izspiešanu, un, ievērojot nevalstiskās CSEA apkarošanas organizācijas “Thorn” ieteikumu un norādes, ieviesām šādu ziņošanas opciju pusaudžiem un jauniešiem saistošā veidā (“Viņi nopludināja/draud nopludināt manas kailbildes”). Šie ziņojumi savukārt tiek izmantoti, lai atbalstītu mūsu izpildes centienus, tostarp uz signāliem balstītu atklāšanu un izpildes darbības. Mēs analizējam tendences, modeļus un seksuāla rakstura izspiedēju tehnikas, un, ja kontā ir saskatāmas konkrētas iezīmes, tas tiek bloķēts par seksuāla rakstura izspiešanu.

Mēs turpinām uzlabot mūsu Ģimenes centru un 2022. gadā pievienojām tam rīku komplektu, ar kura palīdzību vecāki var redzēt, ar ko Snapchat lietotnē draudzējas viņu pusaudzis un ar ko pusaudzis pēdējā laikā ir tērzējis, kā arī ērti ziņot par kontiem, kas var raisīt bažas. Mūsu Ģimenes centra mērķis vienmēr ir bijis tūlītējs, atklāts un konstruktīvs dialogs starp vecākiem, aprūpētājiem un pusaudžiem par drošību tiešsaistē. 

Mēs cieši sadarbojamies ar tiesībaizsardzības iestādēm, un veicam lielus ieguldījumus mūsu globālajās drošības un tiesībaizsardzības operāciju komandās, kas strādā visu diennakti, lai veicinātu mūsu kopienas drošību. Piemēram, kopš 2020. gada mūsu Uzticības un Drošības komandas ir vairāk nekā dubultojušās, savukārt mūsu tiesībaizsardzības operāciju komanda ir vairāk nekā trīskāršojusies kopš tā laika. Mēs rīkojam ikgadējos samitus par tiesībaizsardzību ASV, lai nodrošinātu, ka amatpersonas un aģentūras zina, kā atbilstoši rīkoties nelikumīgu darbību gadījumā, kas var notikt mūsu platformā. 

Mēs arī tieši sadarbojamies ar tiesībaizsardzības iestādēm Nigērijā, kur rodami pirmsākumi daudziem seksuāla rakstura izspiešanas gadījumiem, lai veicinātu iespējas un paplašinātu zināšanas izmeklēšanas veikšanai un vainīgo apsūdzēšanai, kā arī plānojam turpināt sadarbību ar Nigērijas valdību, lai turpmāk strādātu šajā jomā. Mēs arī esam sadarbojušies ar organizāciju “International Justice Mission”, centru NCMEC, citiem nozares dalībniekiem, kā arī nevalstiskajām organizācijām, lai sniegtu ar tiesībaizsardzību saistītu apmācību par sistēmas CyberTips lietošanu valstīs ārpus ASV, kurās dominē seksuāla rakstura izspiešanas darbības.

Daudzu gadu garumā esam arī sadarbojušies ar spēcīgām un uzticamām iestādēm, kuras uzskatāmas par ekspertiem internetā sastopama nelikumīga satura noteikšanā: bezpeļņas organizācijas, nevalstiskas organizācijas un atsevišķas valsts iestādes, kuras mums ziņo pa augstas prioritātes kanāliem par ļaunprātīgas izmantošanas gadījumiem, nenovēršamiem draudiem dzīvībai un citiem ārkārtējiem gadījumiem to Snapchat lietotāju vārdā, kuriem nepieciešama palīdzība. Vairums mūsu Uzticamo atzīmētāju programmas dalībnieku ziņo par saturu un kontiem, kas saistīti ar seksuāla rakstura kaitējumu attiecībā pret nepilngadīgajiem, tostarp seksuāla rakstura izspiešanu.  

II. Nozares ekspertu un koalīciju iesaiste 

Papildus mūsu ieguldījumiem mēs arī sadarbojamies ar ekspertiem no visas pasaules, jo zinām, ka neviena juridiska persona vai organizācija vienatnē nevar jēgpilni atrisināt šīs problēmas. Piemēram, Snap pārstāv nozari globālās alianses WeProtect starptautiskajā Politikas padomē, un mēs esam INHOPE Konsultatīvās padomes un Apvienotās Karalistes Interneta uzraudzības fonda (IWF) Pilnvaroto padomes locekļi. Visu šo organizāciju galvenā misija ir tiešsaistes CSEA izskaušana.

Mēs aktīvi darbojamies aliansē Tech Coalition, kas ir globāla nozares alianse, kura koncentrējas uz bērnu seksuālās izmantošanas un seksuālās vardarbības pret bērniem apkarošanu tiešsaistē, un nesen aizvadījām divus gadus šīs Alianses Direktoru padomes izpildkomitejā. Mēs arī aizsākām Tech Coalition iniciatīvu “Lantern” — pirmo starpplatformu signālu kopīgošanas programmu uzņēmumiem, lai stiprinātu šo uzņēmumu bērnu aizsardzības politiku īstenošanu. Aktīvi piedaloties šajā programmā, uzņēmumi var palīdzēt viens otram pārbaudīt ļaundarus, tostarp seksuāla rakstura izspiedējus.   

Papildus mēs izmantojam Nacionālā pazudušo un izmantoto bērnu centra (NCMEC) datu bāzi “Take It Down”, kas ļauj nepilngadīgajiem ģenerēt atlasītu attēlu vai videoklipu digitālu pirksta nospiedumu, ko dēvē par jaucējkodu, tieši viņu ierīcēs. Iesaistītie uzņēmumu, tostarp Snap, pēc tam var izmantot šos jaucējkodus, lai atrastu un noņemtu attēlu dublikātus, kuri pārkāpj mūsu Kopienas noteikumus. Mēs esam iesaistījušies līdzīgā programmā Apvienotajā Karalistē — “Report Remove”, un aizvadītajā gadā mēs sākām izmantot uzņēmuma SWGfL rīku StopNCII, lai palīdzētu novērst bez piekrišanas radītu intīmu attēlu (NCII) izplatīšanu Snapchat lietotnē, izmantojot tā jaucējkodu datu bāzi. StopNCII palīdz apturēt pilngadīgo personu intīmo attēlu izplatīšanu un piedāvā cietušajiem iespēju atgūt konfidencialitāti pār viņu privātākajiem fotoattēliem un videoklipiem.

Šogad mēs arī ieviesām mūsu jauno Snap Digitālās labbūtības padomi — 18 pusaudžu grupu no ASV, kuri ir atlasīti dalībai gadu ilgā pilotprogrammā drošāku tiešsaistes paradumu un prakses veicināšanai viņu skolās un kopienās. Jūlijā šī grupa kopā ar vismaz vienu vecāku vai pavadoni pulcējās Snap galvenajā birojā Santamonikā, Kalifornijā, uz diskusijām, kas veicināja interesantu ieskatu tādās tēmās kā tiešsaistes riski, sociālā dinamika un vecāku rīki. Tas papildina Snap Drošības konsultatīvo padomi, ko veido 16 speciālisti un trīs jauniešu aizstāvji, kuri sniedz tiešās norādes un padomus Snap par drošības jautājumiem. Mēs ar nepacietību gaidām 2025. gadu, kad ceram piedāvāt vairāk iespēju abu grupu dalībniekiem sapulcēties un gūt papildu ieskatus. 

III. Apzinātības veicināšana 

Papildus mūsu iekšējiem ieguldījumiem un darbam, ko veicam kopā ar ekspertiem dažādās nozarēs, būtisks komponents tiešsaistes seksuālās izmantošanas un seksuāla rakstura izspiešanas shēmu apkarošanas komponents ir sabiedrības un Snapchat lietotāju informētības veicināšana. 

2022. gadā mēs ieviesām Digitālās labbūtības indeksu — nozarē vadošo pētījumu, kas piedāvā ieskatu par to, kā pusaudžiem un jauniešiem klājas tiešsaistē visās platformās. Šī pētījuma ietvaros pēdējo divu gadu laikā esam padziļināti pievērsušies seksuāla rakstura izspiešanai. Šīs pētījums aptver pieredzi tiešsaistē kopumā, nevis tikai lietotnē Snapchat, tāpēc tas ne tikai nodrošina informāciju mūsu darba vajadzībām, bet ceram, ka tas sniedz arī ieskatus citiem tehnoloģiju vidē esošajiem. Šomēnes mēs izklāstīsim rezultātus par mūsu divus gadus ilgo darbu ar seksuāla rakstura izspiešanas problēmu saistībā ar Technology Coalition gaidāmo virtuālo daudzpusēju ieinteresēto personu forumu par seksuāla rakstura izspiešanu ar finansiālu mērķi attiecībā pret nepilngadīgajiem. 

Šogad mums bija gods būt pirmajam uzņēmumam, kurš atbalsta Know2Protect kampaņu — šī ir pirmā šāda veida kampaņa sabiedrības informētības veicināšanai, ko šogad uzsāka ASV Iekšzemes drošības departaments (DHS). Kampaņa izglīto jauniešus, vecākus, uzticamus pieaugušos un politiku izstrādātājus, kā arī nodrošina viņiem iespējas veicināt noziegumu, piemēram, seksuāla rakstura izspiešanas ar finansiālu mērķi, novēršanu un apkarošanu. Papildus K2P izglītojošo resursu reklāmvietas nodrošināšanai lietotnē Snapchat mēs veicam papildu pētījumus ar pusaudžiem un jauniešiem ASV, lai veicinātu kampaņu. Mēs arī esam kopīgi izlaiduši papildinātās realitātes Snapchat objektīvus, lai palīdzētu izglītot Snapchat lietotājus ar interaktīvas Know2Protect viktorīnas palīdzību. Turklāt Apvienotajā Karalistē mēs atbalstījām IFW plašo sabiedrības informēšanas kampaņu par šīm problēmām — “Girls Out Loud”, kas paredzēta 11–13 gadus vecu meiteņu informēšanai par seksuālu uzmākšanos, seksuāla rakstura satura un kailbilžu sūtīšanu. Papildus mēs nesen sagatavojām Pedagogu ceļvedi Snapchat lietotnē, sadarbojoties ar organizāciju “Safe and Sound Schools”, lai izstrādātu visaptverošu rīkkopu pedagogiem, kurā ietverta informācija un norādījumi par to, kā apkarot seksuāla rakstura izspiešanu. 

Pamatojoties uz gadiem ilgiem pētījumiem, mēs zinām, ka informētības veicināšana un kopienas izglītošana ir jaudīgi rīki tiešsaistē sastopamā kaitējuma novēršanas veicināšanai, un mēs turpinām izstrādāt un izplatīt resursus, lai sasniegtu pusaudžus un jauniešus tieši Snapchat lietotnē. 2023. gada septembrī mēs izlaidām lietotnē četras jaunas “Safety Snapshot” sērijas, koncentrējoties uz seksuāliem riskiem un kaitējumu, tostarp seksuāla rakstura izspiešanu ar finansiālu mērķi. Mēs arī piedāvājam sērijas par seksuāla rakstura satura sūtīšanu un sekām, ko izraisa kailbilžu izveide un kopīgošana, bērnu seksuāla izmantošana tiešsaistē un bērnu seksuālo pakalpojumu tirdzniecība. Visus šos resursus ir pārskatījuši Nacionālā pazudušo un ekspluatēto bērnu centra (NCMEC) eksperti un tie ir izveidoti sadarbībā ar attiecīgajiem uzticības un palīdzības tālruņiem galvenajām ģeogrāfiskajās atrašanās vietās. 

Mēs turpinām apkarot bērnu seksuālu izmantošanu un vardarbību pret bērniem tiešsaistē, bet darāmā vēl joprojām ir ļoti daudz. 2025. gadā mēs turpināsim veicināt informētību par iespējamiem kaitējumiem tiešsaistē un turpināsim apgalvot, ka ikviens var kļūt par upuri. Mēs vēlamies traucēt un izjaukt ļaundaru nodomus pēc iespējas agrāk un biežāk, un mēs vēlamies darbināt sistēmu CyberTips, lai tiesībaizsardzības nolūkā nodrošinātu vēl noderīgāku informāciju.

Ir svarīgi norādīt, ka mēs izmantojam daudzas tādas pašas stratēģijas, lai apkarotu citas vienlīdz nopietnas problēmas, piemēram, ļaunprātīgas, ar narkotikām saistītas darbības, tostarp viltotu tablešu tirdzniecību, vardarbības draudus un pašnāvniecisku un paškaitējošu saturu. Mēs apzināmies, ka mūsu darbs šajā jomā nekad nebeigsies, bet mums patiesi rūp Snapchat lietotāju drošība un mēs turpināsim sadarboties ar nozares dalībniekiem, valsts iestādēm un tiesībaizsardzības iestādēm, lai apmainītos ar informāciju un stiprinātu mūsu aizsardzību.