2024. gada 5. decembris
2024. gada 5. decembris
Mēs publicējam šo pārredzamības atskaiti divas reizes gadā, lai sniegtu ieskatu par Snapchat centieniem drošības jomā. Mēs esam apņēmušies turpināt to darīt, kā arī nepārtraukti cenšamies padarīt šīs atskaites visaptverošākas un informatīvākas daudzajām ieinteresētajām pusēm, kurām patiesi rūp mūsu satura moderācija, tiesībaizsardzības prakse un Snapchat kopienas drošība un labbūtība.
Šī Pārredzamības atskaite attiecas uz 2024. gada pirmo pusi (1. janvāris – 30. jūnijs). Tāpat kā mūsu iepriekšējās atskaitēs mēs kopīgojam datus par lietotnē ietvertā satura globālo apjomu un konta līmeņa pārskatiem, ko mūsu Uzticamības un Drošības komandas ir saņēmušas un piemērojušas noteiktas Kopienas noteikumu pārkāpumu kategorijās; kā mēs atbildējām uz tiesībaizsardzības iestāžu un valdību pieprasījumiem; kā arī informāciju par to, kā esam reaģējuši uz autortiesību un preču zīmju autorstiesību pārkāpumu paziņojumiem. Mēs arī sniedzam valstīm specifiskus ieskatus šīs lapas apakšdaļā esošajos failos.
Pastāvīgi cenšoties uzlabot mūsu pārredzamības atskaites, mēs arī ieviešam jaunus datus, izceļot mūsu proaktīvos centienus noteikt plašāku mūsu Kopienas noteikumu pārkāpumu klāstu un novērst tos. Mēs esam iekļāvuši šos datus atskaitē gan gobālā, gan valsts līmenī, un turpināsim šādi rīkoties arī turpmāk. Mēs arī esam izlabojuši ar apzīmējumu saistītu kļūdu mūsu iepriekšējās atskaitēs, kur iepriekš izmantojām frāzi “Satura piespiedu mainīšanas gadījumu kopskaits”, aizstājot to ar frāzi “Izpildes darbību kopskaits”, lai atspoguļotu faktu, ka attiecīgajās kolonnās sniegtie dati ietver gan satura līmeņa, gan kontu līmeņa izpildes darbības.
Papildinformāciju par mūsu politikām potenciālo tiešsaistes kaitējumu apkarošanai un plāniem turpināt attīstīt mūsu ziņošanas prakses, lūdzu, skatiet mūsu jaunākajā Drošības un Ietekmes emuārā saistībā ar šo Pārredzamības atskaiti. Lai atrastu papildu resursus par drošību un privātumu Snapchat platformā , skatiet cilni Par pārredzamības atskaitēm šīs lapas apakšdaļā.
Lūdzu, ņemiet vērā, ka jaunākā šīs Pārredzamības atskaites versija ir atrodama angļu valodā.
Pārskats par mūsu Uzticības un Drošības komandu darbībām Kopienas noteikumu īstenošanai
Mūsu Uzticības un Drošības komandas īsteno Kopienas noteikumus gan proaktīvi (ar automatizētu rīku palīdzību), gan reaktīvi (reaģējot uz ziņojumiem par pārkāpumiem), kā tālāk aprakstīts šī pārskata sadaļās. Šajā pārskata ciklā (2024. gada 1. puse) mūsu Uzticības un Drošības komandas veica tālāk norādītās izpildes darbības:
Total Enforcements
Total Unique Accounts Enforced
10,032,110
5,698,212
Tālāk ir redzams Kopienas noteikumu pārkāpumu sadalījums pēc to veida, tostarp vidējais izpildes ilgums — posms no brīža, kad konstatējām pārkāpumu (proaktīvi vai saņemot ziņojumu par pārkāpumu), līdz brīdim, kad veicām galīgo darbību ar attiecīgo saturu vai kontu:
Policy Reason
Total Enforcements
Total Unique Accounts Enforced
Median Turnaround Time (minutes) From Detection To Final Action
Sexual Content
3,860,331
2,099,512
2
Child Sexual Exploitation
961,359
577,682
23
Harassment and Bullying
2,716,966
2,019,439
7
Threats & Violence
199,920
156,578
8
Self-Harm & Suicide
15,910
14,445
10
False Information
6,539
6,176
1
Impersonation
8,798
8,575
2
Spam
357,999
248,090
1
Drugs
1,113,629
718,952
6
Weapons
211,860
136,953
1
Other Regulated Goods
247,535
177,643
8
Hate Speech
324,478
272,025
27
Terrorism & Violent Extremism
6,786
4,010
5
Pārskata periodā neatbilstoša satura skatījumu rādītājs (VVR) bija 0,01%, kas nozīmē, ka no katriem 10 000 Snapu un stāstu skatījumu Snapchat platformā, 1 saturēja saturu, kas bija pretrunā mūsu Kopienas noteikumiem.
Mūsu Uzticības un Drošības komandām ziņotie Kopienas noteikumu pārkāpumi
Laikā no 2024. gada 1. janvāra līdz 30. jūnijam, reaģējot uz lietotnē sniegtajiem ziņojumiem par mūsu Kopienas noteikumu pārkāpumiem, Snap Uzticības un Drošības komandas kopumā veica 6 223 618 izpildes darbības, tostarp 3 842 507 izpildes darbības pret unikālajiem kontiem. Mūsu Uzticības un Drošības komandu vidējais laiks šo izpildes darbību veikšanai, lai reaģētu uz šiem ziņojumiem, bija aptuveni 24 minūtes. Tālāk ir redzams sadalījums pa pārkāpumu ziņojumu kategorijām.
Total Content & Account Reports
Total Enforcements
Total Unique Accounts Enforced
19,379,848
6,346,508
4,075,838
Policy Reason
Content & Account Reports
Total Enforcements
% of the Total Reports Enforced by Snap
Total Unique Accounts Enforced
Median Turnaround Time (minutes) From Detection To Final Action
Sexual Content
5,251,375
2,042,044
32.20%
1,387,749
4
Child Sexual Exploitation
1,224,502
469,389
7.40%
393,384
133
Harassment and Bullying
6,377,555
2,702,024
42.60%
2,009,573
7
Threats & Violence
1,000,713
156,295
2.50%
129,077
8
Self-Harm & Suicide
307,660
15,149
0.20%
13,885
10
False Information
536,886
6,454
0.10%
6,095
1
Impersonation
678,717
8,790
0.10%
8,569
2
Spam
1,770,216
180,849
2.80%
140,267
1
Drugs
418,431
244,451
3.90%
159,452
23
Weapons
240,767
6,473
0.10%
5,252
1
Other Regulated Goods
606,882
199,255
3.10%
143,560
8
Hate Speech
768,705
314,134
4.90%
263,923
27
Terrorism & Violent Extremism
197,439
1,201
<0.1%
1,093
4
Salīdzinot ar iepriekšējiem sešiem mēnešiem, mūsu kopējie pārkāpumu ziņojumu apmēri 2024. gada 1. pusē saglabājās diezgan stabili. Šajā ciklā mēs novērojām izpildes darbību kopskaita un unikālo kontu mainīšanas gadījumu kopskaita pieaugumu par aptuveni 16%.
Pēdējo 12 mēnešu laikā Snap ieviesa jaunus lietotājiem paredzētus mehānismus ziņošanai par pārkāpumiem, kā rezultātā šajā pārskata periodā (2024. gada 1. pusē) mainījās pārkāpumu ziņojumu un izpildes darbību apmērs, kā arī palielinājās izskatīšanas laiki. Uzlabojumi:
Ziņošana par grupas tērzēšanu: 2023. gada 13. oktobrī mēs ieviesām Ziņošanu par grupas tērzēšanu, kas ļauj lietotājiem ziņot par pārkāpumiem, kuri notiek vairāku personu tērzēšanas sarunā. Šīs izmaiņas ietekmēja metriku pa pārkāpumu ziņošanas kategorijām (jo dažiem potenciālajiem kaitējumiem ir lielāka iespēja notikt tērzēšanas kontekstā) un palielināja pārkāpumu ziņojumu izmantojamību.
Uzlabojumi ziņošanā par noteikumus pārkāpjošiem kontiem: mēs attīstījām arī Kontu pārkāpumu ziņošanas līdzekli, lai nodrošinātu iespēju tiem lietotājiem, kuri ziņo, iesniegt tērzēšanas pierādījumu, ziņojot par kontu, aiz kura “slēpjas” potenciālais ļaundaris. Šīs izmaiņas, kas nodrošina mums iespēju iegūt lielākus pierādījumus un kontekstu ziņojumu novērtēšanai, tika ieviestas 2024. gada 29. februārī.
Lai pārskatītu pārkāpumu ziņojumus saistībā ar Tērzēšanu, jo īpaši saistībā ar Grupas tērzēšanu, ir jāveic sarežģīts un laikietilpīgs process, kas ievērojami paildzina izskatīšanas laikus.
Abas iepriekš aprakstītās izmaiņas, kā arī plašākas ekosistēmas izmaiņas īpaši ietekmēja ziņošanu par iespējamu Bērnu seksuālu izmantošanu un Vardarbību pret bērniem (CSEA), Uzmākšanos un Iebiedēšanu un Naida runu. Uzlabojumi:
CSEA: 2024. gada 1. pusē mēs novērojām ar CSEA saistītu pārkāpumu ziņojumu uz izpildes darbību pieaugumu. Mēs konstatējām 64% pieaugumu no lietotājiem saņemto pārkāpumu ziņojumu kopskaitā, 82% pieaugumu izpildes darbību kopskaitā un 108% pieaugumu unikālo izmainīto kontu kopskaitā. Šos pieaugumus lielā mērā nodrošina funkcionalitāšu ieviešana, kas ļauj ziņot par Grupas tērzēšanu un Kontiem. Ņemot vērā šī moderācijas procesa sensitīvo raksturu, potenciālo ar CSEA saistīto pārkāpumu izskatīšana tiek uzticēta īpašai augsti apmācītu aģentu komandai. Papildu pārkāpumu ziņojumu pieplūdums un mūsu komandu adaptācija jaunajiem procesiem ir palielinājusi izskatīšanas laikus. Lai risinātu šo problēmu, mēs esam būtiski paplašinājuši savas globālo piegādātāju komandas, lai samazinātu izskatīšanas laikus un veiktu precīzas darbības ar ziņojumiem par iespējamiem pārkāpumiem saistībā ar CSEA. Mēs sagaidām, ka 2024. gada 2. puses Pārredzamības atskaite atspoguļos šo centienu augļus ar būtiski uzlabotu izskatīšanas laiku.
Uzmākšanās un Iebiedēšana: pamatojoties uz atskaitēm, esam ievērojuši, ka Uzmākšanās un Iebiedēšana nesamērīgā apjomā notiek tērzēšanā, jo īpaši grupas tērzēšanā. Uzlabojumi, ko ieviesām ziņošanai par pārkāpumiem saistībā ar Grupas tērzēšanu un Kontiem, palīdz mums veikt visaptverošākas darbības, novērtējot pārkāpumu ziņojumus šajā kategorijā. Turklāt, sākot ar šo periodu, mēs lūdzam lietotājiem ievadīt komentāru, iesniedzot pārkāpuma ziņojumu saistībā ar uzmākšanos un iebiedēšanu. Mēs pārskatām šo komentāru, lai noteiktu katra pārkāpuma ziņojuma kontekstu. Kopumā šo izmaiņu rezultātā notika ievērojams palielinājums izpildes darbību kopskaitā (+91%), unikālo izmainīto kontu kopskaitā (+82%) un izskatīšanas laikā (+245 min.), salīdzinot ar attiecīgajām atskaitēm.
Naida runa: 2024. gada 1. pusē mēs novērojām pieaugumu ar Naida runas saistītajā ziņotajā saturā, izpildes darbību kopskaitā un izskatīšanas laikā. Tika konstatēts lietotnē sniegto ziņojumu pieaugums 61% apmērā, izpildes darbību kopskaita pieaugums 127% apmērā un unikālo izmainīto kontu kopskaita pieaugums 125% apmērā. Tas notika, pateicoties uzlabojumiem mūsu mehānismos ziņošanai par tērzēšanu (kā aprakstīts iepriekš), un to pastiprināja ģeopolitiskā vide, jo īpaši Izraēlas un Hamas konflikta turpinājums.
Šajā pārskata periodā mēs novērojām izpildes darbību kopskaita pieaugumu ~65% apmērā un unikālo izmainīto kontu kopskaita pieaugumu ~60% apmērā saistībā ar pārkāpumu ziņojumiem par iespējamu Surogātpastu vai Ļaunprātīgu izmantošanu, atspoguļojot uzlabojumus mūsu proaktīvās noteikšanas un izpildes darbību rīkos. Mēs novērojām līdzīgas novirzes izpildes darbību kopskaitā saistībā ar satura pārkāpumu ziņojumiem attiecībā uz paškaitējumu un pašnāvību (~80% samazinājums), atspoguļojot mūsu atjaunināto uz cietušo vērsto pieeju, saskaņā ar kuru mūsu uzticības un drošības komandas attiecīgos gadījumos sūtīs atbilstošajiem lietotājiem pašpalīdzības resursus, nevis veiks izpildes darbības pret šiem lietotājiem. Šo pieeju atbalstīja mūsu Drošības konsultatīvās padomes dalībnieki, tostarp pediatrijas profesors un medicīnas doktors, kurš specializējas interaktīvos multivides un interneta traucējumos.
Mūsu centieni proaktīvi noteikt un novērst mūsu Kopienas noteikumu pārkāpumus
Mēs izvietojam automatizētus rīkus, lai proaktīvi noteiktu un dažos gadījumos arī novērstu mūsu Kopienas noteikumu pārkāpumus. Šie rīki ietver jaucēju savietošanas rīkus (tostarp PhotoDNA un Google Bērnu seksuālas izmantošanas attēlu (CSAI) savietošanu), ļaunprātīgas valodas noteikšanas rīkus (kas nosaka pārkāpumus un veic darbības, pamatojoties uz identificētu un regulāri atjauninātu ļaunprātīgu atslēgvārdu un emocijzīmju sarakstu) un multimodālu mākslīgo intelektu/mašīnmācīšanās tehnoloģiju.
2024. gada 1. pusē mēs veicām tālāk izklāstītās izpildes darbības pēc mūsu Kopienas noteikumu pārkāpumu proaktīvas noteikšanas ar automatizētu rīku palīdzību:
Total Enforcements
Total Unique Accounts Enforced
3,685,602
1,845,125
Policy Reason
Total Enforcements
Total Unique Accounts Enforced
Median Turnaround Time (minutes) From Detection To Final Action
Sexual Content
1,818,287
828,590
<1
Child Sexual Exploitation
491,970
188,877
1
Harassment and Bullying
14,942
11,234
8
Threats & Violence
43,625
29,599
9
Self-Harm & Suicide
761
624
9
False Information
85
81
10
Impersonation
8
6
19
Spam
177,150
110,551
<1
Drugs
869,178
590,658
5
Weapons
205,387
133,079
<1
Other Regulated Goods
48,280
37,028
9
Hate Speech
10,344
8,683
10
Terrorism & Violent Extremism
5,585
2,951
21
Jebkura mūsu kopienas locekļa, īpaši nepilngadīgo, seksuāla izmantošana ir nelikumīga, pretīga un to aizliedz mūsu Kopienas noteikumi. Bērnu seksuālas izmantošanas un Vardarbības pret bērniem (CSEA) novēršana, atklāšana un izskaušana mūsu platformā ir augstākā Snap prioritāte, un mēs nepārtraukti uzlabojam savas spējas apkarot šādus un citus noziegumus.
Mēs izmantojam aktīvus tehnoloģiju noteikšanas rīkus, piemēram, PhotoDNA spēcīgu jaucēju savietošanu un Google Bērnu seksuālas izmantošanas attēlu (CSAI) savietošanu, lai attiecīgi identificētu zināmus nelegālus attēlus un video, kuros attēlota bērnu seksuāla izmantošana un vardarbība pret bērniem. Turklāt dažos gadījumos mēs izmantojam uzvedības signālus, lai apkarotu citas iespējami nelikumīgas CSEA darbības. Par saturu saistībā ar CSEA mēs ziņojam ASV Nacionālajam pazudušu un Ekspluatētu bērnu centram (NCMEC), kā to prasa likums. Savukārt NCMEC tad pēc nepieciešamības koordinē darbību ar pašmāju un starptautiskām tiesībaizsardzības iestādēm.
2024. gada pirmajā pusē mēs veicām tālāk norādītās darbības, nosakot CSEA Snapchat platformā (proaktīvi vai saņemot ziņojumu par pārkāpumu).
Total Content Enforced
Total Accounts Disabled
Total Submissions to NCMEC*
1,228,929
242,306
417,842
*Note that each submission to NCMEC can contain multiple pieces of content. The total individual pieces of media submitted to NCMEC is equal to our total content enforced.
Mūsu centieni nodrošināt resursus un atbalstu grūtībās nonākušiem Snapchat lietotājiem
Mums patiešām rūp Snapchat lietotāju garīgā veselība un labbūtība, un tas kalpo par pamatu mūsu lēmumiem veidot platformu Snapchat citādi. Mēs uzskatām, ka platformai Snapchat, kas paredzēta saziņai starp īstiem draugiem, var būt unikāla loma, nodrošinot draugiem iespējas palīdzēt vienam otram grūtos brīžos. Šī iemesla dēļ mēs esam izstrādājuši resursus un atbalsta līdzekļus grūtībās nonākušiem Snapchat lietotājiem.
Mūsu meklēšanas rīkā Here For You ir atrodami resursi no vietējiem partneriem–ekspertiem, ja tiek meklētas noteiktas tēmas saistībā ar garīgo veselību, trauksmi, depresiju, stresu, pašnāvnieciskām domām, skumjām un iebiedēšanu. Mēs esam arī izstrādājuši lapu, kas veltīta seksuāla rakstura izspiešanai ar finansiālu mērķi un citiem seksuāla rakstura riskiem un kaitējumiem, ar mērķi atbalstīt tos, kuri ir saskārušies ar šādām problēmām. Mūsu globālais drošības resursu saraksts ir publiski pieejams visiem Snapchat lietotājiem mūsu Privātuma, Drošības un Politiku centrā.
Ja mūsu Uzticības un Drošības komandas uzzina par grūtībās nonākušu Snapchat lietotāju, tās var nosūtīt paškaitējuma novēršanas un atbalsta resursus un vajadzības gadījumā informēt neatliekamās palīdzības darbiniekus. Koplietojamie resursi ir pieejami mūsu globālajā drošības resursu sarakstā, un tie ir publiski pieejami visiem Snapchat lietotājiem.
Total Times Suicide Resources Shared
64,094
Apelācijas
Tālāk ir sniegta informācija par apelācijām, ko saņēmām no lietotājiem, kuri lūdz pārskatīt mūsu lēmumu par viņu konta slēgšanu:
Policy Reason
Total Appeals
Total Reinstatements
Total Decisions Upheld
Median Turnaround Time (days) to Process Appeals
TOTAL
493,782
35,243
458,539
5
Sexual Content
162,363
6,257
156,106
4
Child Sexual Exploitation
102,585
15,318
87,267
6
Harassment and Bullying
53,200
442
52,758
7
Threats & Violence
4,238
83
4,155
5
Self-Harm & Suicide
31
1
30
5
False Information
3
0
3
<1
Impersonation
847
33
814
7
Spam
19,533
5,090
14,443
9
Drugs
133,478
7,598
125,880
4
Weapons
4,678
136
4,542
6
Other Regulated Goods
9,153
168
8,985
6
Hate Speech
3,541
114
3,427
7
Terrorism & Violent Extremism
132
3
129
9
Reģionu un Valstu pārskats
Šajā sadaļā ir sniegts pārskats par mūsu Uzticības un Drošības komandu darbībām, lai īstenotu mūsu Kopienas noteikumus gan proaktīvi, gan reaģējot uz lietotnē sniegtajiem ziņojumiem par pārkāpumiem atlasītos ģeogrāfiskajos reģionos. Mūsu Kopienas noteikumi attiecas uz visu Snapchat esošo saturu un visiem Snapchat lietotājiem visā pasaulē neatkarīgi no atrašanās vietas.
Informācija par atsevišķām valstīm, tostarp visām ES dalībvalstīm, ir pieejama lejupielādei, izmantojot pievienoto CSV failu.
Region
Total Enforcements
Total Unique Accounts Enforced
North America
3,828,389
2,117,048
Europe
2,807,070
1,735,054
Rest of World
3,396,651
1,846,110
Total
10,032,110
5,698,212
Region
Content & Account Reports
Total Enforcements
Total Unique Accounts Enforced
North America
5,916,815
2,229,465
1,391,304
Europe
5,781,317
2,085,109
1,378,883
Rest of World
7,681,716
2,031,934
1,319,934
Total
19,379,848
6,346,508
4,090,121
Total Enforcements
Total Unique Accounts Enforced
1,598,924
837,012
721,961
417,218
1,364,717
613,969
3,685,602
1,868,199
Reklāmu moderācija
Uzņēmums Snap ir apņēmies nodrošināt, lai visas reklāmas pilnībā atbilstu mūsu reklamēšanās politikai. Mēs ticam atbildīgai un cieņpilnai pieejai reklāmai, radot drošu un baudāmu pieredzi visiem mūsu lietotājiem. Mums ir jāveic visu reklāmu pārskatīšana un apstiprināšana. Turklāt mēs paturam tiesības noņemt reklāmas, tostarp, pamatojoties uz lietotāju atsauksmēm, kuras uztveram ļoti nopietni.
Tālāk ir sniegta informācija par mūsu moderāciju attiecībā uz maksas reklāmām, par kurām tiek ziņots pēc to publicēšanas Snapchat platformā. Ņemiet vērā, ka Snapchat platformā esošas reklāmas var tikt noņemtas dažādu iemeslu dēļ, kā izklāstīts Snap reklamēšanās politikā, tostarp maldinošs saturs, pieaugušajiem paredzēts saturs, vardarbīgs vai kaitējošs saturs, naida runa un intelektuālā īpašuma autortiesību pārkāpums. Turklāt Snapchat Reklāmu galeriju tagad varat atrast šīs pārredzamības atskaites navigācijas joslā.
Total Ads Reported
Total Ads Removed
43,098
17,833
