Snap ir ļoti apņēmies nodrošināt Snapchat kopienas drošību. Mūsu mērķis ir palīdzēt aizsargāt lietotājus no dažādiem tiešsaistes riskiem un potenciālā kaitējuma, kas aptver digitālo ekosistēmu, tostarp no pretīgiem noziegumiem, kas saistīti ar bērnu seksuālu izmantošanu un vardarbību (CSEA). Snap jau gadiem ilgi cīnās pret šo nelikumīgo saturu un zemisko noziedzīgo rīcību, izmantojot gan proaktīvās atklāšanas, gan reaktīvās reaģēšanas pasākumus visā Snapchat lietotnē. Pēdējā gada laikā esam veikuši papildu izmaiņas saistītajās politikās un procesos, lai palīdzētu saukt vainīgos pie atbildības. Šeit mēs vēlētos pastāstīt vairāk par šo darbu.

Kas ir CSEA?

Bērnu seksuālā izmantošana un vardarbība pret tiem aptver virkni nelikumīgu darbību, kas saistītas ar seksuālu kaitējumu nepilngadīgajiem, tostarp: bērnu seksuālās izmantošanas un vardarbības attēlu (CSEAI) skatīšanos, veidošanu un izplatīšanu, ieskaitot jaunākus draudus, ko rada ar mākslīgo intelektu ģenerēti fotoattēli un video; nepilngadīgo pavedināšanu tiešsaistē vai ievilināšanu seksuālos nolūkos; ¹seksuāla izspiešana; ²bērnu seksuālā tirdzniecība; un bērnu seksuālās vardarbības un spīdzināšanas tiešraides straumēšana. ³Ir grūti aptvert, ka šāda pretīga realitāte patiešām pastāv. Bet, diemžēl, šāda vardarbība vienmēr ir pastāvējusi, un digitālā pasaule tagad nodrošina alternatīvus vardarbības līdzekļus, paplašinot pārkāpumu veidus, lai tie būtu ātrāki un tālejošāki.

“Tehnoloģijas ir būtiski mainījušas veidu, kā cilvēki ar seksuālu interesi par bērniem fantazē par viņiem, piekļūst viņiem un izmanto viņus,” sacīja Ernijs Alens (Ernie Allen), Londonā bāzētās organizācijas priekšsēdētājsWeProtect Global Alliance. “New York Timesrakstīja: “Tiešsaistes bērnu seksuālās izmantošanas krīze ir sasniegusi lūzuma punktu.” Tajā norādīts, ka ziņojumu skaits pieaug, likumpārkāpēji kopīgo jaunāku upuru attēlus un arvien šausminošākus noziegumus, un tiesībaizsardzības iestādēm ir grūti tikt galā. Ja šim izaicinājumam pievieno jaunas variācijas, piemēram, seksuālo izspiešanu, kuras gadījumu skaits, pēc FIB ziņām, ir pieaudzis par 7200 %, vardarbības tiešraides straumēšanu un citas, ir skaidrs, ka šai problēmai vajadzētu būt politikas darba kārtības augšgalā visā pasaulē,” viņš piebilda.

Tehnoloģiju uzņēmumu juridiskie pienākumi

Kad ASV tehnoloģiju uzņēmumi uzzina par CSEA savās platformās vai pakalpojumos, tiem ir juridisks pienākums ziņot par to Nacionālajam pazudušo un ekspluatēto bērnu centram (NCMEC). Pēc tam NCMEC pārskata šos kiberpadomus un sadarbojas ar vietējām un starptautiskajām tiesībaizsardzības iestādēm, lai palīdzētu aizsargāt bērnus-upurus un sodīt likumpārkāpējus.

Līdz pagājušajam gadam NCMEC iesniegto kiberpadomu kopējais skaits katru gadu lielākoties pieauga, sasniedzot rekordlielu skaitu — 36,2 miljonus ziņojumu ⁴2023. gadā, salīdzinot ar nedaudz vairāk kā 32 miljoniem 2022. gadā un 4560 1998. gadā, kad tika izveidota NCMEC kiberpadomu līnija. Tieši šis rekordlielais kiberpadomu pieaugums, kā arī citi faktori, tostarp nepārtraukts seksuālās izspiešanas gadījumu skaita pieaugums visā pasaulē un atsauksmes, ko saņēmām no tiesībaizsardzības iestādēm par mūsu pašu kiberpadomu izmantojamību, pamudināja Snap 2024. gadā pirmo reizi vērsties pie NCMEC, lai pārkalibrētu mūsu kiberpadomu ziņošanu.

Vairākus gadus esmu uzraudzījis kiberpadomu ziņošanu, un esmu stingri pārliecināts, ka dažu tehnoloģiju uzņēmumu prakse ir tendēta uz ziņošanu parvisuNCMEC — pat pārsniedzot savu juridisko pienākumu — bailēs tikt apsūdzētiem par to, ka ir palaiduši garāmkaut ko. ⁵Uzņēmumiem, kas neziņo, kā to prasa likums, var tikt piemēroti lieli naudas sodi. Taču šī pieeja ziņošanai apvienojumā ar daudzu ziņojumu zemo izmantojamību (vai nu tāpēc, ka kiberpadomiem trūkst pietiekama konteksta, lai tiesībaizsardzības iestādes varētu rīkoties, vai arī tāpēc, ka ziņotā rīcība dažos gadījumos nav to prioritāte) ir novedusi pie pieaugoša kiberpadomu skaita, vairākām, plašām pārbaudēm un pieaugošas neapmierinātības tiesībaizsardzības iestāžu vidū.

Mērķis: augstvērtīgi kiberpadomi

Mūsu pārkalibrēšanas ar NCMEC mērķis bija vēl vairāk palielināt Snap kiberpadomu izmantojamību un vērtību, pilnveidojot mūsu pašu platformas politikas un protokolus, kas mums ir ieviesti ziņošanai NCMEC. Šī sākotnējā pārkalibrēšana notika 2024. gada maijā, un mūsu politikas izmaiņas pilnībā stājās spēkā pagājušā gada otrajā pusē.

Lai gan mums vajadzētu izvairīties no pārāk liela uzsvara likšanas uz ziņojumu skaitu atsevišķi, kopš mūsu politikas uzlabojumu ieviešanas Snap ar prieku paziņo, ka esam novērojuši ievērojamu mūsu kopējā ziņojumu apjoma samazināšanos NCMEC un līdzīgu samazinājumu eskalācijās par pavedināšanu tiešsaistē — tas viss, joprojām pildot mūsu juridiskās saistības ziņot par CSEA kiberpadomos. Tomēr zemākie kopsummas vēl nav nonākuši NCMEC gada ziņojumu apjomos, jo izmaiņas tika ieviestas vēlāk 2024. gadā, atstājot tikai dažus pilnus gada mēnešus, lai atspoguļotu grozījumus.

Paralēli mūsu komanda ir strādājusi, lai uzlabotu datus un marķējumu mūsu kiberpadomos. Šādi precizējumi var palīdzēt labāk identificēt iespējamos noziegumus un iesaistītās personas un, savukārt, ļaut NCMEC un tiesībaizsardzības iestādēm ātrāk un precīzāk šķirot ziņojumus. Pat tad, ja ziņošana NCMEC var nebūt pamatota, Snap turpinās risināt problēmas, kas saistītas ar attēliem un rīcību, kas ir pretrunā ar mūsu platformas politikām, veicot pasākumus, kas var ietvert pārkāpjošā satura noņemšanu, konta atspējošanu un jaunu kontu izveides bloķēšanu.

Pārkalibrēšanas kontrolpunkts

Pagājušajā mēnesī mēs rīkojām otru pārkalibrēšanu ar NCMEC, kurā Snap komanda apkopoja pagājušā gada iekšējās politikas izmaiņas, informēja NCMEC par mūsu progresu, apstiprināja dažas papildu darbības vadlīnijas un palīdzēja noteikt gaidāmo turpmākajiem mēnešiem. Mēs arī sniedzām priekšskatījumu par dažiem turpmāk plānotiem politikas un ziņošanas papildinājumiem, kas, cerams, turpinās uzlabot mūsu ziņojumu vērtību gan NCMEC, gan tiesībaizsardzības iestādēm. Protams, šis ir iteratīvs process, bet mūs iedrošina pēdējā gada laikā panāktais progress.

Raugoties nākotnē

Laika gaitā mēs sagaidām, ka NCMEC un tiesībaizsardzības iestādes varētu turpināt novērot samazinātu kiberpadomu apjomu no Snap, salīdzinot ar iepriekšējiem gadiem, bet lielāks procents no tiem, ko viņitomērsaņems, saturēs augstākas kvalitātes informāciju un būs labāk izmantojami.

Mēs esam apņēmušies nepārtraukti uzlabot visus mūsu drošības darba aspektus. Mēs neizliekamies, ka mums ir visas atbildes attiecībā uz cīņu pret CSEA vai jebkādu citu potenciālu tiešsaistes kaitējumu; nevienam nevajadzētu, jo nevienam to nav. Dienu no dienas mēs cīnāmies ar visas sabiedrības problēmām, un mēs izmantojamvisa uzņēmumapieeju, lai sasniegtu galvenos divus mērķus — mazināt risku un samazināt kaitējumu.

Attiecībā uz mūsu kiberpadomiem mums ir skaidrs mērķis ne pārāk tālā nākotnē: neatkarīgi no tā, vai tas ir štata interneta noziegumu pret bērniem darba grupas (ICAC) komandieris, federālais izmeklētājs vai tiesībaizsardzības iestādes darbinieks pusceļā apkārt pasaulei, mēs vēlamies, lai štata, federālās un starptautiskās iestādes ar pārliecību izskatītu kiberpadomus no Snap, jo tās zina, ka uz mūsu ziņojumiem var konsekventi paļauties kā uz izmantojamiem, vērtīgiem un pamatīgiem. Un mēs ceram, ka šie centieni palīdzēs veicināt atbilstošu ar to saistīto arestu skaita pieaugumu ⁶un notiesājošu spriedumu skaitu visā pasaulē.

Milzīgs “paldies” NCMEC, WeProtect, 61 ICAC darba grupām ASV, tiesībaizsardzības iestādēm visā pasaulē un visiem mūsu kolēģiem un sadarbības partneriem CSEA apkarošanas jomā — un papildu piezīme, ka mēs joprojām esam atvērti un gaidām jūsu atsauksmes, lai turpinātu uzlabot mūsu stratēģijas un pieejas. Mēs visi esam šajā kopā.

- Žaklīna Bošēra (Jacqueline Beauchere), globālā platformu drošības vadītāja