5. detsember 2024
5. detsember 2024
Me avaldame selle läbipaistvuse aruande kaks korda aastas, et anda ülevaade Snapi ohutusmeetmetest. Me oleme nendele meetmetele pühendunud ja püüame pidevalt aruandeid muuta põhjalikumaks ja informatiivsemaks paljudele sidusrühmadele, kes hoolivad sügavalt meie sisu modereerimisest, õiguskaitsetavadest ning Snapchati kogukonna turvalisusest ja heaolust.
Käesolev läbipaistvuse aruanne hõlmab 2024. aasta esimest poolt (1. jaanuar - 30. juuni). Nagu meie eelmiste aruannete puhul, jagame andmeid rakendusesisese sisu ja kontotasandil teatamiste ülemaailme mahu kohta, mille meie usaldus- ja ohutusmeeskonnad on saanud ja jõustanud konkreetsete kogukonna suuniste rikkumiste kategooriate lõikes; kuidas me reageerisime õiguskaitseorganite ja valitsuste taotlustele; ja kuidas me reageerisime teadetele autoriõiguste ja kaubamärgi rikkumistest. Me esitame selle lehe allosas lingitud failides ka riigipõhise ülevaate.
Osana meie jätkuvast pühendumusest läbipaistvuse aruannete pidevale täiustamisele tutvustame lisaks uusi andmeid, mis rõhutavad meie ennetavaid jõupingutusi kogukonna suuniste rikkumiste avastamiseks ja suuniste jõustamiseks. Me oleme käesolevasse aruandesse lisanud need andmed nii globaalsel tasandil kui ka riiklikel tasanditel ning teeme seda ka edaspidi. Samuti oleme parandanud meie eelmistes aruannetes esinenud märgistusvea: kui me varem ütlesime "Jõustatud sisu kokku", siis nüüd ütleme "Jõustamisi kokku", kajastamaks tõsiasja, et asjakohastest veergudes esitatud andmed hõlmavad jõustamisi nii sisu kui ka konto tasandil.
Lisateavet meie potentsiaalsete veebikahjude vastu võitlevate poliitikate ja aruandlustavade arendamiskavade kohta leiate meie hiljutisest ohutuse ja mõju blogist, mis käsitleb käesolevat läbipaistvuse aruannet. Lisaressursse turvalisuse ja privaatsuse kohta Snapchatis leiate meie läbipaistvuse aruannetele loodud vahekaardilt lehekülje allosas.
Palun pange tähele, et selle läbipaistvuse aruande kõige ajakohasem versioon on saadaval EN-US keeles.
Ülevaade meie usaldus- ja ohutusmeeskondade tegevusest meie kogukonna suuniste jõustamiseks
Meie usaldus- ja ohutusmeeskonnad jõustavad meie kogukonna suuniseid nii ennetavalt (läbi automatiseeritud tööriistade) kui ka reaktiivselt (vastusena teadetele), nagu käesoleva aruande järgmistes jaotistes täpsemalt kirjeldatakse. Selles aruandlustsüklis (2024. aasta esimene poolaasta) võtsid meie usaldus- ja ohutusmeeskonnad järgmisi jõustamismeetmeid:
Total Enforcements
Total Unique Accounts Enforced
10,032,110
5,698,212
Allpool on jaotus asjaomaste kogukonna suuniste rikkumiste tüüpide kaupa, sealhulgas keskmine läbitöötamisaeg alates rikkumise tuvastamisest (kas ennetavalt või pärast teate saamist) kuni lõplike meetmete võtmiseni asjakohase sisu või konto suhtes:
Policy Reason
Total Enforcements
Total Unique Accounts Enforced
Median Turnaround Time (minutes) From Detection To Final Action
Sexual Content
3,860,331
2,099,512
2
Child Sexual Exploitation
961,359
577,682
23
Harassment and Bullying
2,716,966
2,019,439
7
Threats & Violence
199,920
156,578
8
Self-Harm & Suicide
15,910
14,445
10
False Information
6,539
6,176
1
Impersonation
8,798
8,575
2
Spam
357,999
248,090
1
Drugs
1,113,629
718,952
6
Weapons
211,860
136,953
1
Other Regulated Goods
247,535
177,643
8
Hate Speech
324,478
272,025
27
Terrorism & Violent Extremism
6,786
4,010
5
Aruandeperioodi jooksul oli rikkuvate vaatamiste määr (VVR) 0,01 protsenti, mis tähendab, et igast 10 000 Snapchati Snapi ja loo vaatamisest 1 sisaldas sisu, mis rikkus meie kogukonna suuniseid.
Meie usaldus- ja ohutusmeeskondadele teatatud kogukonna suuniste rikkumised
Ajavahemikus 1. jaanuar kuni 30. juuni 2024 võtsid Snapi usaldus- ja ohutusmeeskonnad vastusena rakendusesisestele teadetele meie kogukonna suuniste rikkumiste kohta kokku 6 223 618 jõustamismeedet üle maailma, sealhulgas 3 842 507 unikaalse konto kohta. Meie usaldus- ja ohutusmeeskondade keskmine läbitöötamisaeg, mille jooksul nad jõustamismeetmeid võtsid, oli ~24 minutit. Allpool on esitatud jaotus aruandluskategooriate kaupa.
Total Content & Account Reports
Total Enforcements
Total Unique Accounts Enforced
19,379,848
6,346,508
4,075,838
Policy Reason
Content & Account Reports
Total Enforcements
% of the Total Reports Enforced by Snap
Total Unique Accounts Enforced
Median Turnaround Time (minutes) From Detection To Final Action
Sexual Content
5,251,375
2,042,044
32.20%
1,387,749
4
Child Sexual Exploitation
1,224,502
469,389
7.40%
393,384
133
Harassment and Bullying
6,377,555
2,702,024
42.60%
2,009,573
7
Threats & Violence
1,000,713
156,295
2.50%
129,077
8
Self-Harm & Suicide
307,660
15,149
0.20%
13,885
10
False Information
536,886
6,454
0.10%
6,095
1
Impersonation
678,717
8,790
0.10%
8,569
2
Spam
1,770,216
180,849
2.80%
140,267
1
Drugs
418,431
244,451
3.90%
159,452
23
Weapons
240,767
6,473
0.10%
5,252
1
Other Regulated Goods
606,882
199,255
3.10%
143,560
8
Hate Speech
768,705
314,134
4.90%
263,923
27
Terrorism & Violent Extremism
197,439
1,201
<0.1%
1,093
4
Meie 2024. aasta esimese poole üldine teatamiste maht jäi eelmise kuue kuuga võrreldes üsna stabiilseks. Me nägime selles tsüklis jõustamiste koguarvu ja jõustatud unikaalsete kontode koguarvu kasvamist ligi 16% võrra.
Snap tutvustas kasutajatele viimase 12 kuu jooksul uusi teatamismehhanisme, mis põhjustasid teatamiste ja jõustamiste mahtude muutust ning selle aruandlusperioodi (2024. aasta esimene pool) läbitöötamisaegade pikenemist. Täpsemalt:
Rühmavestlusest teatamine: Me võtsime 2023. aasta 13. oktoobril kasutusele rühmavestlusest teatamise, mis võimaldab kasutajatel teatada kuritarvitamisest mitme inimese vahelises vestluses. See muudatus mõjutas meie näitajate ülesehitust kõikides teatamiskategooriates (kuna mõned potentsiaalsed kahjud esinevad tõenäolisemalt vestluse kontekstis) ja suurendas teatamise toimivust.
Kontost teatamise täiustamine: Me arendasime ka oma kontost teatamise funktsiooni, et anda teatavatele kasutajatele võimalus esitada tõestust vestlusest, kui nad teatavad kontost, mille haldaja võib olla pahatahtlik isik. See muudatus, mis annab meile kontodest teatamiste hindamiseks rohkem asitõendeid ja konteksti, jõustus 2024. aasta 29. veebruaril.
Teated vestlustest, eriti rühmavestlustest on ülevaatamiseks ühed kõige keerukamad ja aeganõudvamad ning see pikendas läbitöötamiseaegu üleüldiselt.
Kaks eespool kirjeldatud muudatust ja nihked laiemas ökosüsteemis mõjutasid eriti just kahtlustatavast laste seksuaalsest ekspluateerimisest ja kuritarvitamisest (CSEA), ahistamisest, kiusamisest ja vihakõnest teatamist. Täpsemalt:
CSEA:Me täheldasime 2024. aasta esimesel poolel CSEA-ga seotud teatamiste ja jõustamiste arvu suurenemist. Täpsemalt nägime me, et kasutajate rakendusesisesed teatamiste arv kasvas 64% võrra, jõustamiste koguarv 82% ja jõustatud unikaalsete kontode arv 108% võrra. Need kasvud on suuresti tingitud rühmavestlustest ja kontodest teatamise funktsioonide kasutuselevõtust. Kuna see modereerimisjärjekord on loomu poolest tundlik, määratakse kõrgelt koolitatud esindajatest koosnev meeskond üle vaatama teateid potentsiaalsetest CSEA-ga seotud rikkumistest. Täiendavate teatamiste sissevool koos meie meeskondade uute koolitustega kohanemisega on toonud kaasa läbitöötamisaegade pikenemise. Oleme edaspidiseks märkimisväärselt suurendanud oma ülemaailmseid müüjate meeskondi, et lühendada läbitöötamisaegu ja täpselt jõustada potentsiaalseid CSEA-ga seotud teateid. Me eeldame, et meie 2024. aasta teise poole läbipaistvuse aruanne näitab selle jõupingutuse vilju ja parandab läbitöötamisaegu oluliselt.
Ahistamine ja kiusamine: Me oleme teatamiste põhjal täheldanud, et ahistamist ja kiusamist esineb vestlustes, eriti rühmavestlustes ebaloomulikult palju. Meie rühmavestlustest ja kontost teatamise funktsioonide täiustused aitavad meil selle teatamiskategooria teateid hinnates põhjalikumaid meetmeid võtta. Lisaks nõuame sellest perioodist alates, et kasutajad sisestaksid ahistamisest või kiusamisest teatades kommentaari. Me vaatame selle kommentaari iga teate kontekstis vaatlemiseks üle. Nende muudatuste tulemusena suurenes oluliselt jõustamiste koguarv (+91%), jõustatud unikaalsete kontode koguarv (+82%) ja vastavate teadete läbitöötamisaeg (+245 minutit).
Vihakõne: Me täheldasime 2024. esimesel poolel vihakõne puhul teatatud sisu, jõustamiste koguarvu ja läbitöötamisaja suurenemist. Täpsemalt nägime, et rakendusesiseste teatamiste arv kasvas 61% võrra, jõustamiste koguarv 127% võrra ja jõustatud unikaalsete kontode koguarv 125% võrra. See oli osaliselt tingitud meie vestlusest teatamise mehhanismide täiustamisest (nagu eelnevalt mainitud) ja seda süvendas veelgi geopoliitiline keskkond, eriti Iisraeli ja Hamasi vahelise konflikti jätkumine.
Me nägime sel aruandlusperioodil, et kahtlustatava rämpsposti ja kuritarvitamise teadete vastusena vähenes jõustamiste koguarv ~65% ja unikaalsete kontode koguarv ~60%, mis näitab, et meie ennetava tuvastamise ja jõustamise tööriistad on paranenud. Me nägime sarnast vähenemist jõustamiste koguarvus, mis tulenes enesevigastamise ja suitsiidiga seotud sisust teatamisest (~80% langus), mis peegeldab meie uuendatud ohvrikeskset lähenemist, mille kohaselt meie usaldus- ja ohutusmeeskonnad saadavad asjakohastel juhtudel vastavatele kasutajatele pigem eneseabiressursse kui võtavad nende kasutajate suhtes jõustamismeetmeid. Taolisest lähenemisest teatasid meie ohutusalase nõuandekogu liikmed, kaasa arvatud pediaatriaprofessor ja meditsiinidoktor, kelle eriala on interaktiivne meedia ja interneti sõltuvushäired.
Meie jõupingutused meie kogukonna suuniste rikkumiste tuvastamiseks ja suuniste jõustamiseks
Me kasutame automatiseeritud tööriistu, et meie kogukonna suuniste rikkumisi ennetavalt tuvastada ja mõnel juhul suuniseid jõustada. Nende tööriistade hulka kuuluvad räsivõrdlemise tööriistad (sealhulgas PhotoDNA ja Google'i laste seksuaalse kuritarvitamise piltide (CSAI) sobitus), kuritarvitava keelekasutuse tuvastamise tööriistad (mis tuvastavad ja lükkavad sisu tagasi tuvastatud ja korrapäraselt ajakohastatud kuritarvitavate märksõnade ja emotikonide loendi alusel) ning multimodaalse tehisintellekti/masinõppe tehnoloogia.
Me võtsime 2024. aasta esimeses pooles kasutusele järgmised jõustamismeetmed pärast automatiseeritud tööriistade abil meie kogukonna suuniste rikkumiste ennetavat tuvastamist:
Total Enforcements
Total Unique Accounts Enforced
3,685,602
1,845,125
Policy Reason
Total Enforcements
Total Unique Accounts Enforced
Median Turnaround Time (minutes) From Detection To Final Action
Sexual Content
1,818,287
828,590
<1
Child Sexual Exploitation
491,970
188,877
1
Harassment and Bullying
14,942
11,234
8
Threats & Violence
43,625
29,599
9
Self-Harm & Suicide
761
624
9
False Information
85
81
10
Impersonation
8
6
19
Spam
177,150
110,551
<1
Drugs
869,178
590,658
5
Weapons
205,387
133,079
<1
Other Regulated Goods
48,280
37,028
9
Hate Speech
10,344
8,683
10
Terrorism & Violent Extremism
5,585
2,951
21
Meie kogukonna liikmete, eriti alaealiste seksuaalne ekspluateerimine on ebaseaduslik, kohutav ja meie kogukonna suunistega keelatud. Lapse seksuaalse ärakasutamise ja kuritarvitamise (CSEA) ennetamine, avastamine ja likvideerimine meie platvormil on Snapi jaoks esmatähtis ning me arendame pidevalt oma võimalusi nende ja teiste kuritegude vastu võitlemiseks.
Me kasutame aktiivseid tehnoloogilisi tuvastusvahendeid, nagu näiteks PhotoDNA robustne räsisobitus ja Google'i laste seksuaalse kuritarvitamise piltide (CSAI) sobitus, et tuvastada CSEA teadaolevaid ebaseaduslikke pilte ja videoid. Mõnel juhul kasutame lisaks sellele käitumuslikke signaale, et rakendada jõustamismeetmeid muu potentsiaalselt ebaseadusliku CSEA tegevuse vastu. Me teatame CSEA-ga seotud sisust USA riiklikule kadunud ja ekspluateeritud laste keskusele (NCMEC), nagu seadus nõuab. Seejärel kooskõlastab omakorda NCMEC vastavalt vajadusele siseriiklike või rahvusvaheliste õiguskaitseorganitega.
Me võtsime 2024. aasta esimeses pooles Snapchatis CSEA avastamisel järgmisi meetmeid (kas ennetavalt või pärast teate saamist):
Total Content Enforced
Total Accounts Disabled
Total Submissions to NCMEC*
1,228,929
242,306
417,842
*Note that each submission to NCMEC can contain multiple pieces of content. The total individual pieces of media submitted to NCMEC is equal to our total content enforced.
Meie jõupingutused abi vajavatele Snapchatteritele ressursside ja toe pakkumiseks
Me hoolime sügavalt Snapchati kasutajate vaimsest tervisest ja heaolust, mis on jätkuvalt aluseks meie otsustele ehitada Snapchat teistmoodi üles. Me usume, et Snapchat kui platvorm, mis on mõeldud tõeliste sõprade vaheliseks suhtluseks, võib mängida ainulaadset rolli sõprade abistamisel rasketel aegadel. Me oleme sel põhjusel loonud ressursid ja toe abi vajavatele Snapchatteritele.
Meie Here For You otsingutööriist näitab kohalike asjatundlike partnerite ressursse, kui kasutajad otsivad teatud teemasid, mis on seotud vaimse tervise, ärevuse, depressiooni, stressi, suitsiidimõtete, leina või kiusamisega. Oleme lisaks loonud lehe, mis on pühendatud rahalisele seksuaalsele väljapressimisele ja muudele seksuaalsetele riskidele ja kahjudele, püüdes hädasolijaid toetada. Meie ülemaailmne ohutusressursside nimekiri on avalikult saadaval kõikidele Snapchatteritele meie privaatsus-, ohutus- ja poliitikakeskuses.
Kui meie usaldus- ja ohutusmeeskonnad saavad teada, et Snapchatter on hädas, saavad nad edastada enesevigastuse ennetamise ja toetamise ressursid ning vajaduse korral teavitada hädaabitöötajaid. Ressursid, mida me jagame, on saadaval meie ülemaailmses ohutusressursside nimekirjas ja need on avalikult kättesaadavad kõigile Snapchatteritele.
Total Times Suicide Resources Shared
64,094
Kaebused
Allpool on esitatud teave kaebuste kohta, mille saime kasutajatelt, kes taotlesid ülevaadet meie otsusest nende konto lukustamise kohta:
Policy Reason
Total Appeals
Total Reinstatements
Total Decisions Upheld
Median Turnaround Time (days) to Process Appeals
TOTAL
493,782
35,243
458,539
5
Sexual Content
162,363
6,257
156,106
4
Child Sexual Exploitation
102,585
15,318
87,267
6
Harassment and Bullying
53,200
442
52,758
7
Threats & Violence
4,238
83
4,155
5
Self-Harm & Suicide
31
1
30
5
False Information
3
0
3
<1
Impersonation
847
33
814
7
Spam
19,533
5,090
14,443
9
Drugs
133,478
7,598
125,880
4
Weapons
4,678
136
4,542
6
Other Regulated Goods
9,153
168
8,985
6
Hate Speech
3,541
114
3,427
7
Terrorism & Violent Extremism
132
3
129
9
Piirkondade ja riikide ülevaade
Selles jaotises antakse ülevaade meie usaldus- ja ohutusmeeskondade tegevusest meie kogukonna suuniste jõustamiseks erinevates geograafilistes piirkondades, nii ennetavalt kui ta vastusena rakendusesisestele teadetele meie kogukonna suuniste rikkumiste kohta. Meie kogukonna suunised kehtivad kogu Snapchati sisule ja kõikidele Snapchati kasutajatele üle maailma olenemata asukohast.
Teave üksikute riikide, sealhulgas kõigi ELi liikmesriikide kohta on allalaaditav lisatud CSV-faili kaudu.
Region
Total Enforcements
Total Unique Accounts Enforced
North America
3,828,389
2,117,048
Europe
2,807,070
1,735,054
Rest of World
3,396,651
1,846,110
Total
10,032,110
5,698,212
Region
Content & Account Reports
Total Enforcements
Total Unique Accounts Enforced
North America
5,916,815
2,229,465
1,391,304
Europe
5,781,317
2,085,109
1,378,883
Rest of World
7,681,716
2,031,934
1,319,934
Total
19,379,848
6,346,508
4,090,121
Total Enforcements
Total Unique Accounts Enforced
1,598,924
837,012
721,961
417,218
1,364,717
613,969
3,685,602
1,868,199
Reklaamide modereerimine
Snap on võtnud endale kohustuse tagada, et kõik reklaamid oleksid täielikult kooskõlas meie reklaamipoliitikaga. Me usume vastutustundlikku ja lugupidavasse lähenemisse reklaamides, luues kõigile meie kasutajatele turvalise ja meeldiva kogemuse. Kõik reklaamid kuuluvad meie poolt läbivaatamisele ja heakskiitmisele. Lisaks jätame endale õiguse eemaldada reklaame, sealhulgas vastusena kasutajate tagasisidele, mida me võtame tõsiselt.
Allpool oleme lisanud ülevaate modereerimisest meie tasuliste reklaamide puhul, millest meile teatatakse pärast nende avaldamist Snapchatis. Pange tähele, et Snapchati reklaame võib eemaldada erinevatel põhjustel, nagu on kirjeldatud Snapi reklaamipoliitikas, sealhulgas eksitava sisu, täiskasvanutele mõeldud sisu, vägivaldse või häiriva sisu, vihakõne ja intellektuaalomandi rikkumise tõttu. Lisaks leiate nüüd Snapchati reklaamide galerii selle läbipaistvusaruande navigatsiooniribalt.
Total Ads Reported
Total Ads Removed
43,098
17,833
