2024. gada 5. decembris

2024. gada 5. decembris

Mēs publicējam šo pārredzamības atskaiti divas reizes gadā, lai sniegtu ieskatu par Snapchat centieniem drošības jomā. Mēs esam apņēmušies turpināt to darīt, kā arī nepārtraukti cenšamies padarīt šīs atskaites visaptverošākas un informatīvākas daudzajām ieinteresētajām pusēm, kurām patiesi rūp mūsu satura moderācija, tiesībaizsardzības prakse un Snapchat kopienas drošība un labbūtība. 

Šī Pārredzamības atskaite attiecas uz 2024. gada pirmo pusi (1. janvāris – 30. jūnijs). Tāpat kā mūsu iepriekšējās atskaitēs mēs kopīgojam datus par lietotnē ietvertā satura globālo apjomu un konta līmeņa pārskatiem, ko mūsu Uzticamības un Drošības komandas ir saņēmušas un piemērojušas noteiktas Kopienas noteikumu pārkāpumu kategorijās; kā mēs atbildējām uz tiesībaizsardzības iestāžu un valdību pieprasījumiem; kā arī informāciju par to, kā esam reaģējuši uz autortiesību un preču zīmju autorstiesību pārkāpumu paziņojumiem. Mēs arī sniedzam valstīm specifiskus ieskatus šīs lapas apakšdaļā esošajos failos.

Pastāvīgi cenšoties uzlabot mūsu pārredzamības atskaites, mēs arī ieviešam jaunus datus, izceļot mūsu proaktīvos centienus noteikt plašāku mūsu Kopienas noteikumu pārkāpumu klāstu un novērst tos. Mēs esam iekļāvuši šos datus atskaitē gan gobālā, gan valsts līmenī, un turpināsim šādi rīkoties arī turpmāk. Mēs arī esam izlabojuši ar apzīmējumu saistītu kļūdu mūsu iepriekšējās atskaitēs, kur iepriekš izmantojām frāzi “Satura piespiedu mainīšanas gadījumu kopskaits”, aizstājot to ar frāzi “Izpildes darbību kopskaits”, lai atspoguļotu faktu, ka attiecīgajās kolonnās sniegtie dati ietver gan satura līmeņa, gan kontu līmeņa izpildes darbības.

Papildinformāciju par mūsu politikām potenciālo tiešsaistes kaitējumu apkarošanai un plāniem turpināt attīstīt mūsu ziņošanas prakses, lūdzu, skatiet mūsu jaunākajā Drošības un Ietekmes emuārā saistībā ar šo Pārredzamības atskaiti. Lai atrastu papildu resursus par drošību un privātumu Snapchat platformā , skatiet cilni Par pārredzamības atskaitēm šīs lapas apakšdaļā.

Lūdzu, ņemiet vērā, ka jaunākā šīs Pārredzamības atskaites versija ir atrodama angļu valodā.

Mūsu Uzticības un Drošības komandas īsteno Kopienas noteikumus gan proaktīvi (ar automatizētu rīku palīdzību), gan reaktīvi (reaģējot uz ziņojumiem par pārkāpumiem), kā tālāk aprakstīts šī pārskata sadaļās. Šajā pārskata ciklā (2024. gada 1. puse) mūsu Uzticības un Drošības komandas veica tālāk norādītās izpildes darbības:

Tālāk ir redzams Kopienas noteikumu pārkāpumu sadalījums pēc to veida, tostarp vidējais izpildes ilgums — posms no brīža, kad konstatējām pārkāpumu (proaktīvi vai saņemot ziņojumu par pārkāpumu), līdz brīdim, kad veicām galīgo darbību ar attiecīgo saturu vai kontu:

Pārskata periodā neatbilstoša satura skatījumu rādītājs (VVR) bija 0,01%, kas nozīmē, ka no katriem 10 000 Snapu un stāstu skatījumu Snapchat platformā, 1 saturēja saturu, kas bija pretrunā mūsu Kopienas noteikumiem.

Laikā no 2024. gada 1. janvāra līdz 30. jūnijam, reaģējot uz lietotnē sniegtajiem ziņojumiem par mūsu Kopienas noteikumu pārkāpumiem, Snap Uzticības un Drošības komandas kopumā veica 6 223 618 izpildes darbības, tostarp 3 842 507 izpildes darbības pret unikālajiem kontiem. Mūsu Uzticības un Drošības komandu vidējais laiks šo izpildes darbību veikšanai, lai reaģētu uz šiem ziņojumiem, bija aptuveni 24 minūtes. Tālāk ir redzams sadalījums pa pārkāpumu ziņojumu kategorijām. 

Salīdzinot ar iepriekšējiem sešiem mēnešiem, mūsu kopējie pārkāpumu ziņojumu apmēri 2024. gada 1. pusē saglabājās diezgan stabili. Šajā ciklā mēs novērojām izpildes darbību kopskaita un unikālo kontu mainīšanas gadījumu kopskaita pieaugumu par aptuveni 16%.

Pēdējo 12 mēnešu laikā Snap ieviesa jaunus lietotājiem paredzētus mehānismus ziņošanai par pārkāpumiem, kā rezultātā šajā pārskata periodā (2024. gada 1. pusē) mainījās pārkāpumu ziņojumu un izpildes darbību apmērs, kā arī palielinājās izskatīšanas laiki. Uzlabojumi:

• Ziņošana par grupas tērzēšanu: 2023. gada 13. oktobrī mēs ieviesām Ziņošanu par grupas tērzēšanu, kas ļauj lietotājiem ziņot par pārkāpumiem, kuri notiek vairāku personu tērzēšanas sarunā. Šīs izmaiņas ietekmēja metriku pa pārkāpumu ziņošanas kategorijām (jo dažiem potenciālajiem kaitējumiem ir lielāka iespēja notikt tērzēšanas kontekstā) un palielināja pārkāpumu ziņojumu izmantojamību. 

• Uzlabojumi ziņošanā par noteikumus pārkāpjošiem kontiem: mēs attīstījām arī Kontu pārkāpumu ziņošanas līdzekli, lai nodrošinātu iespēju tiem lietotājiem, kuri ziņo, iesniegt tērzēšanas pierādījumu, ziņojot par kontu, aiz kura “slēpjas” potenciālais ļaundaris. Šīs izmaiņas, kas nodrošina mums iespēju iegūt lielākus pierādījumus un kontekstu ziņojumu novērtēšanai, tika ieviestas 2024. gada 29. februārī. 

Lai pārskatītu pārkāpumu ziņojumus saistībā ar Tērzēšanu, jo īpaši saistībā ar Grupas tērzēšanu, ir jāveic sarežģīts un laikietilpīgs process, kas ievērojami paildzina izskatīšanas laikus. 

Abas iepriekš aprakstītās izmaiņas, kā arī plašākas ekosistēmas izmaiņas īpaši ietekmēja ziņošanu par iespējamu Bērnu seksuālu izmantošanu un Vardarbību pret bērniem (CSEA), Uzmākšanos un Iebiedēšanu un Naida runu. Uzlabojumi:

• CSEA: 2024. gada 1. pusē mēs novērojām ar CSEA saistītu pārkāpumu ziņojumu uz izpildes darbību pieaugumu. Mēs konstatējām 64% pieaugumu no lietotājiem saņemto pārkāpumu ziņojumu kopskaitā, 82% pieaugumu izpildes darbību kopskaitā un 108% pieaugumu unikālo izmainīto kontu kopskaitā. Šos pieaugumus lielā mērā nodrošina funkcionalitāšu ieviešana, kas ļauj ziņot par Grupas tērzēšanu un Kontiem. Ņemot vērā šī moderācijas procesa sensitīvo raksturu, potenciālo ar CSEA saistīto pārkāpumu izskatīšana tiek uzticēta īpašai augsti apmācītu aģentu komandai. Papildu pārkāpumu ziņojumu pieplūdums un mūsu komandu adaptācija jaunajiem procesiem ir palielinājusi izskatīšanas laikus. Lai risinātu šo problēmu, mēs esam būtiski paplašinājuši savas globālo piegādātāju komandas, lai samazinātu izskatīšanas laikus un veiktu precīzas darbības ar ziņojumiem par iespējamiem pārkāpumiem saistībā ar CSEA. Mēs sagaidām, ka 2024. gada 2. puses Pārredzamības atskaite atspoguļos šo centienu augļus ar būtiski uzlabotu izskatīšanas laiku. 
  

• Uzmākšanās un Iebiedēšana: pamatojoties uz atskaitēm, esam ievērojuši, ka Uzmākšanās un Iebiedēšana nesamērīgā apjomā notiek tērzēšanā, jo īpaši grupas tērzēšanā. Uzlabojumi, ko ieviesām ziņošanai par pārkāpumiem saistībā ar Grupas tērzēšanu un Kontiem, palīdz mums veikt visaptverošākas darbības, novērtējot pārkāpumu ziņojumus šajā kategorijā. Turklāt, sākot ar šo periodu, mēs lūdzam lietotājiem ievadīt komentāru, iesniedzot pārkāpuma ziņojumu saistībā ar uzmākšanos un iebiedēšanu. Mēs pārskatām šo komentāru, lai noteiktu katra pārkāpuma ziņojuma kontekstu. Kopumā šo izmaiņu rezultātā notika ievērojams palielinājums izpildes darbību kopskaitā (+91%), unikālo izmainīto kontu kopskaitā (+82%) un izskatīšanas laikā (+245 min.), salīdzinot ar attiecīgajām atskaitēm. 
  

• Naida runa: 2024. gada 1. pusē mēs novērojām pieaugumu ar Naida runas saistītajā ziņotajā saturā, izpildes darbību kopskaitā un izskatīšanas laikā. Tika konstatēts lietotnē sniegto ziņojumu pieaugums 61% apmērā, izpildes darbību kopskaita pieaugums 127% apmērā un unikālo izmainīto kontu kopskaita pieaugums 125% apmērā. Tas notika, pateicoties uzlabojumiem mūsu mehānismos ziņošanai par tērzēšanu (kā aprakstīts iepriekš), un to pastiprināja ģeopolitiskā vide, jo īpaši Izraēlas un Hamas konflikta turpinājums. 

Šajā pārskata periodā mēs novērojām izpildes darbību kopskaita pieaugumu ~65% apmērā un unikālo izmainīto kontu kopskaita pieaugumu ~60% apmērā saistībā ar pārkāpumu ziņojumiem par iespējamu Surogātpastu vai Ļaunprātīgu izmantošanu, atspoguļojot uzlabojumus mūsu proaktīvās noteikšanas un izpildes darbību rīkos. Mēs novērojām līdzīgas novirzes izpildes darbību kopskaitā saistībā ar satura pārkāpumu ziņojumiem attiecībā uz paškaitējumu un pašnāvību (~80% samazinājums), atspoguļojot mūsu atjaunināto uz cietušo vērsto pieeju, saskaņā ar kuru mūsu uzticības un drošības komandas attiecīgos gadījumos sūtīs atbilstošajiem lietotājiem pašpalīdzības resursus, nevis veiks izpildes darbības pret šiem lietotājiem. Šo pieeju atbalstīja mūsu Drošības konsultatīvās padomes dalībnieki, tostarp pediatrijas profesors un medicīnas doktors, kurš specializējas interaktīvos multivides un interneta traucējumos.

Mēs izvietojam automatizētus rīkus, lai proaktīvi noteiktu un dažos gadījumos arī novērstu mūsu Kopienas noteikumu pārkāpumus. Šie rīki ietver jaucēju savietošanas rīkus (tostarp PhotoDNA un Google Bērnu seksuālas izmantošanas attēlu (CSAI) savietošanu), ļaunprātīgas valodas noteikšanas rīkus (kas nosaka pārkāpumus un veic darbības, pamatojoties uz identificētu un regulāri atjauninātu ļaunprātīgu atslēgvārdu un emocijzīmju sarakstu) un multimodālu mākslīgo intelektu/mašīnmācīšanās tehnoloģiju. 

2024. gada 1. pusē mēs veicām tālāk izklāstītās izpildes darbības pēc mūsu Kopienas noteikumu pārkāpumu proaktīvas noteikšanas ar automatizētu rīku palīdzību:

Jebkura mūsu kopienas locekļa, īpaši nepilngadīgo, seksuāla izmantošana ir nelikumīga, pretīga un to aizliedz mūsu Kopienas noteikumi. Bērnu seksuālas izmantošanas un Vardarbības pret bērniem (CSEA) novēršana, atklāšana un izskaušana mūsu platformā ir augstākā Snap prioritāte, un mēs nepārtraukti uzlabojam savas spējas apkarot šādus un citus noziegumus.

Mēs izmantojam aktīvus tehnoloģiju noteikšanas rīkus, piemēram, PhotoDNA spēcīgu jaucēju savietošanu un Google Bērnu seksuālas izmantošanas attēlu (CSAI) savietošanu, lai attiecīgi identificētu zināmus nelegālus attēlus un video, kuros attēlota bērnu seksuāla izmantošana un vardarbība pret bērniem. Turklāt dažos gadījumos mēs izmantojam uzvedības signālus, lai apkarotu citas iespējami nelikumīgas CSEA darbības. Par saturu saistībā ar CSEA mēs ziņojam ASV Nacionālajam pazudušu un Ekspluatētu bērnu centram (NCMEC), kā to prasa likums. Savukārt NCMEC tad pēc nepieciešamības koordinē darbību ar pašmāju un starptautiskām tiesībaizsardzības iestādēm.

2024. gada pirmajā pusē mēs veicām tālāk norādītās darbības, nosakot CSEA Snapchat platformā (proaktīvi vai saņemot ziņojumu par pārkāpumu).

*Ņemiet vērā, ka katrā iesniegumā NCMEC var būt iekļautas vairākas satura vienības. Kopējais NCMEC iesniegto atsevišķo multivides vienību skaits ir vienāds ar satura piespiedu mainīšanas gadījumu kopskaitu.

Mums patiešām rūp Snapchat lietotāju garīgā veselība un labbūtība, un tas kalpo par pamatu mūsu lēmumiem veidot platformu Snapchat citādi. Mēs uzskatām, ka platformai Snapchat, kas paredzēta saziņai starp īstiem draugiem, var būt unikāla loma, nodrošinot draugiem iespējas palīdzēt vienam otram grūtos brīžos. Šī iemesla dēļ mēs esam izstrādājuši resursus un atbalsta līdzekļus grūtībās nonākušiem Snapchat lietotājiem. 

Mūsu meklēšanas rīkā Here For You ir atrodami resursi no vietējiem partneriem–ekspertiem, ja tiek meklētas noteiktas tēmas saistībā ar garīgo veselību, trauksmi, depresiju, stresu, pašnāvnieciskām domām, skumjām un iebiedēšanu. Mēs esam arī izstrādājuši lapu, kas veltīta seksuāla rakstura izspiešanai ar finansiālu mērķi un citiem seksuāla rakstura riskiem un kaitējumiem, ar mērķi atbalstīt tos, kuri ir saskārušies ar šādām problēmām. Mūsu globālais drošības resursu saraksts ir publiski pieejams visiem Snapchat lietotājiem mūsu Privātuma, Drošības un Politiku centrā. 

Ja mūsu Uzticības un Drošības komandas uzzina par grūtībās nonākušu Snapchat lietotāju, tās var nosūtīt paškaitējuma novēršanas un atbalsta resursus un vajadzības gadījumā informēt neatliekamās palīdzības darbiniekus. Koplietojamie resursi ir pieejami mūsu globālajā drošības resursu sarakstā, un tie ir publiski pieejami visiem Snapchat lietotājiem.

Tālāk ir sniegta informācija par apelācijām, ko saņēmām no lietotājiem, kuri lūdz pārskatīt mūsu lēmumu par viņu konta slēgšanu:

*Kā izklāstīts iepriekš esošajā sadaļā Analīze, ar bērnu seksuālu izmantošanu saistīta satura vai darbību izplatīšanas apturēšana ir galvenā prioritāte. Snap velta nozīmīgus resursus šim mērķim un īsteno absolūtas neiecietības politiku attiecībā uz šādu rīcību. Mēs esam paplašinājuši savas globālo piegādātāju komandas, lai pielāgotos jaunajām politikām un pārkāpumu ziņošanas līdzekļiem Snapchat platformā. Pateicoties tam, 2023. gada 2. pusē un 2024. gada 1. pusē mēs samazinājām CSEA pārsūdzību izskatīšanas laiku no 152 dienām līdz 15 dienām. Mēs nepārtraukti cenšamies uzlabot mūsu procesus, tostarp attiecībā uz pārsūdzību izskatīšanas laikiem.

Šajā sadaļā ir sniegts pārskats par mūsu Uzticības un Drošības komandu darbībām, lai īstenotu mūsu Kopienas noteikumus gan proaktīvi, gan reaģējot uz lietotnē sniegtajiem ziņojumiem par pārkāpumiem atlasītos ģeogrāfiskajos reģionos. Mūsu Kopienas noteikumi attiecas uz visu Snapchat esošo saturu un visiem Snapchat lietotājiem visā pasaulē neatkarīgi no atrašanās vietas.

Informācija par atsevišķām valstīm, tostarp visām ES dalībvalstīm, ir pieejama lejupielādei, izmantojot pievienoto CSV failu.

Uzņēmums Snap ir apņēmies nodrošināt, lai visas reklāmas pilnībā atbilstu mūsu reklamēšanās politikai. Mēs ticam atbildīgai un cieņpilnai pieejai reklāmai, radot drošu un baudāmu pieredzi visiem mūsu lietotājiem. Mums ir jāveic visu reklāmu pārskatīšana un apstiprināšana. Turklāt mēs paturam tiesības noņemt reklāmas, tostarp, pamatojoties uz lietotāju atsauksmēm, kuras uztveram ļoti nopietni. 

Tālāk ir sniegta informācija par mūsu moderāciju attiecībā uz maksas reklāmām, par kurām tiek ziņots pēc to publicēšanas Snapchat platformā. Ņemiet vērā, ka Snapchat platformā esošas reklāmas var tikt noņemtas dažādu iemeslu dēļ, kā izklāstīts Snap reklamēšanās politikā, tostarp maldinošs saturs, pieaugušajiem paredzēts saturs, vardarbīgs vai kaitējošs saturs, naida runa un intelektuālā īpašuma autortiesību pārkāpums. Turklāt Snapchat Reklāmu galeriju tagad varat atrast šīs pārredzamības atskaites navigācijas joslā.