05. prosinca 2024.
05. prosinca 2024.
Ovo izvješće o transparentnosti objavljujemo dvaput godišnje kako bismo pružili uvid u Snapove sigurnosne napore. Predani smo tim naporima i neprekidno nastojimo ova izvješća učiniti sveobuhvatnijima i informativnijima za mnoge dionike kojima je jako stalo do našeg moderiranja sadržaja, praksi provedbe zakona te sigurnosti i dobrobiti Snapchatove zajednice.
Ovo izvješće o transparentnosti pokriva prvu polovicu 2024. (1. siječnja – 30. lipnja). Kao i s našim prethodnim izvještajima, dijelimo podatke o globalnoj količini sadržaja unutar aplikacije i izvještaje na razini računa koje su naši Timovi za povjerenje i sigurnost primili i provodili u određenim kategorijama kršenja Smjernica za zajednicu; kako smo odgovorili na zahtjeve tijela za provođenje zakona i vlada; i kako smo odgovorili na obavijesti o kršenju autorskih prava i zaštitnih znakova. Također pružamo uvide za pojedine zemlje u datotekama s poveznicama na dnu ove stranice.
Kao dio naše stalne predanosti stalnom poboljšanju naših izvješća o transparentnosti, također uvodimo nove podatke koji ističu naše proaktivne napore u otkrivanju i provođenju pridržavanja protiv šireg spektra kršenja naših Smjernica za zajednicu. U ovo smo izvješće uključili ove podatke i na globalnoj razini i na razini zemlje, i nastavit ćemo to činiti i ubuduće. Također smo ispravili grešku u označavanju u našim prethodnim izvještajima: gdje smo prethodno govorili o „Ukupnom provođenju sadržaja“, sada govorimo o „Ukupnom provođenju pridržavanja“ kako bismo odražavali činjenicu da podatci navedeni u relevantnim stupcima uključuju i razinu sadržaja i na razini računa provedbe pridržavanja.
Za više informacija o našim pravilima za borbu protiv potencijalnih internetskih šteta i o planovima za nastavak razvoja naših praksi izvješćivanja, molimo pročitajte naš nedavni blog o Sigurnosti i utjecaju o ovom Izvješću o transparentnosti. Da biste pronašli dodatne resurse o sigurnosti i privatnosti na Snapchatu, vidite našu karticuO izvješćivanju o transparentnosti na dnu stranice.
Imajte na umu da se najnovija verzija ovog izvješća o transparentnosti može pronaći na jeziku EN-US.
Pregled radnji naših Timova za povjerenje i sigurnost za provedbu pridržavanja naših Smjernica za zajednicu
Naši Timovi za povjerenje i sigurnost provode naše Smjernice za zajednicu i proaktivno (upotrebom automatiziranih alata) i reaktivno (kao odgovor na prijave), kao što je podrobnije objašnjeno u sljedećim odsjecima ovog izvještaja. U ovom ciklusu izvještavanja (H1 2024.), naši Timovi za povjerenje i sigurnost poduzeli su sljedeće mjere:
Total Enforcements
Total Unique Accounts Enforced
10,032,110
5,698,212
U nastavku se nalazi raščlamba prema vrsti dotičnih kršenja Smjernica za zajednicu, uključujući srednje vrijeme obrade između vremena kada smo otkrili kršenje (bilo proaktivno ili po primitku prijave) i vremena kada smo poduzeli konačnu radnju na relevantnom sadržaju ili računu:
Policy Reason
Total Enforcements
Total Unique Accounts Enforced
Median Turnaround Time (minutes) From Detection To Final Action
Sexual Content
3,860,331
2,099,512
2
Child Sexual Exploitation
961,359
577,682
23
Harassment and Bullying
2,716,966
2,019,439
7
Threats & Violence
199,920
156,578
8
Self-Harm & Suicide
15,910
14,445
10
False Information
6,539
6,176
1
Impersonation
8,798
8,575
2
Spam
357,999
248,090
1
Drugs
1,113,629
718,952
6
Weapons
211,860
136,953
1
Other Regulated Goods
247,535
177,643
8
Hate Speech
324,478
272,025
27
Terrorism & Violent Extremism
6,786
4,010
5
Tijekom razdoblja izvješćivanja, vidjeli smo Stopu kršenja pregleda (VVR) od 0,01 posto, što znači da je od svakih 10.000 pregleda Snapa i Storyja na Snapchatu, 1 sadržavao sadržaj za koji je utvrđeno da krši naše Smjernice za zajednicu.
Kršenja Smjernica za zajednicu prijavljena našim Timovima za povjerenje i sigurnost
Od 1. siječnja do 30. lipnja 2024., kao odgovor na prijave unutar aplikacije o kršenju naših Smjernica za zajednicu, Snapovi Timovi za povjerenje i sigurnost poduzeli su ukupno 6.223.618 mjera provedbe pridržavanja na globalnoj razini, uključujući mjere protiv 3.842.507 jedinstvenih računa. Srednje vrijeme potrebno za naše Timove za povjerenje i sigurnost da poduzmu mjere kao odgovor na te prijave bilo je ~24 minute. Raščlamba po kategorijama izvještavanja navedena je u nastavku.
Total Content & Account Reports
Total Enforcements
Total Unique Accounts Enforced
19,379,848
6,346,508
4,075,838
Policy Reason
Content & Account Reports
Total Enforcements
% of the Total Reports Enforced by Snap
Total Unique Accounts Enforced
Median Turnaround Time (minutes) From Detection To Final Action
Sexual Content
5,251,375
2,042,044
32.20%
1,387,749
4
Child Sexual Exploitation
1,224,502
469,389
7.40%
393,384
133
Harassment and Bullying
6,377,555
2,702,024
42.60%
2,009,573
7
Threats & Violence
1,000,713
156,295
2.50%
129,077
8
Self-Harm & Suicide
307,660
15,149
0.20%
13,885
10
False Information
536,886
6,454
0.10%
6,095
1
Impersonation
678,717
8,790
0.10%
8,569
2
Spam
1,770,216
180,849
2.80%
140,267
1
Drugs
418,431
244,451
3.90%
159,452
23
Weapons
240,767
6,473
0.10%
5,252
1
Other Regulated Goods
606,882
199,255
3.10%
143,560
8
Hate Speech
768,705
314,134
4.90%
263,923
27
Terrorism & Violent Extremism
197,439
1,201
<0.1%
1,093
4
Naši ukupni obujmi izvještaja ostali su prilično stabilni u H1 2024. u usporedbi s prethodnih šest mjeseci. U ovom smo ciklusu primijetili porast ukupnih ovrha i ukupnih ovrha jedinstvenih računa za približno 16 %.
Tijekom posljednjih 12 mjeseci Snap je uveo nove mehanizme izvještavanja za korisnike, koji uzimaju u obzir promjene u našim prijavljenim i nametnutim količinama i povećanja vremena obrade u ovom izvještajnom razdoblju (H1 2024.). Posebice:
Izvještavanje o grupnom razgovoru: uveli smo izvještavanje o grupnom razgovoru 13. listopada 2023., što korisnicima omogućuje prijavu zlostavljanja u razgovoru s više osoba. Ova je promjena utjecala na sastav naših mjernih podataka u kategorijama izvještavanja (jer je vjerojatnije da će se neke potencijalne štete dogoditi u kontekstu razgovora) i povećala mogućnost poduzimanja radnji u izvještajima.
Izvještavanja o poboljšanju računa:: također smo razvili našu značajku izvještavanja o računu kako bismo korisnicima koji izvještavaju dali mogućnost podnošenja dokaza za razgovor kada prijavljuju račun za koji se sumnja da njime upravlja loša osoba. Ova promjena, koja nam pruža više dokaza i konteksta za procjenu izvještaja o računu, pokrenuta je 29. veljače 2024.
Izvještaji o razgovoru, a posebice Izvještaji o grupnom razgovoru, jedna su od najsloženijih i najdugotrajnijih za pregled, što je posvuda produžilo vrijeme obrade.
Na prijavu sumnje na Seksualno iskorištavanje i zlostavljanje djece (CSEA, maltretiranje i zlostavljanje te govor mržnje posebno su utjecale dvije gore opisane promjene i promjene u širem ekosustavu. Posebice:
CSEA: primijetili smo porast prijava i mjera povezanih s CSEA-om u H1 2024. Točnije rečeno, vidjeli smo povećanje od 64 % u ukupnim prijavama korisnika u aplikaciji, povećanje od 82 % u ukupnim provedbama pridržavanja i povećanje od 108 % u ukupnom broju jedinstvenih računa u kojima je provedeno pridržavanje. Ta su povećanja uvelike potaknuta uvođenjem funkcija Izvještavanja o Grupnom razgovoru i o računu. S obzirom na osjetljivu prirodu ovog reda čekanja za moderiranje, odabrani tim visoko obučenih agenata dodijeljen je za pregled izvještaja o potencijalnim kršenjima vezanim za CSEA. Priljev dodatnih izvještaja u kombinaciji s našim timovima koji se prilagođavaju novim treninzima rezultirao je povećanjem vremena obrade. Nastavivši dalje, znatno smo povećali veličinu naših globalnih timova dobavljača kako bismo skratili vrijeme obrade i točno proveli izvještaje o potencijalnom CSEA-u. Očekujemo da će naši Izvještaji o transparentnosti za H2 2024. odražavati plodove ovog truda uz znatno poboljšano vrijeme obrade.
Maltretiranje i zlostavljanje: na temelju izvještaja, primijetili smo da se maltretiranje i zlostavljanje nerazmjerno pojavljuje u razgovorima, a posebice u grupnim razgovorima. Poboljšanja koja smo uveli u Izvještavanje o grupnom razgovoru i Izvještavanje o računu pomažu nam u poduzimanju sveobuhvatnijih radnji pri procjeni izvještaja u ovoj kategoriji izvještavanja. Osim toga, od ovog razdoblja, od korisnika zahtijevamo da unesu komentar pri podnošenju prijave maltretiranja i zlostavljanja. Pregledavamo ovaj komentar kako bismo dali kontekstuirali svaki izvještaj. Zajedno, ove su promjene dovele do materijalnih povećanja u ukupnim ovrhama (+91 %), ukupnim jedinstvenim nametnutim računima (+82 %) i vremenu obrade (+245 minuta) za odgovarajuće izvještaje.
Govor mržnje: u H1 2024. primijetili smo povećanje prijavljenog sadržaja, ukupnih mjera i vremena obrade za Govor mržnje. Točnije rečeno, vidjeli smo povećanje od 61 % u izvještajima unutar aplikacije, povećanje od 127 % u ukupnim provedbama pridržavanja i povećanje od 125 % u ukupnom broju jedinstvenih računa u kojima je provedeno pridržavanje. To je djelomice bilo zbog poboljšanja u našim mehanizmima za izvještavanje o razgovoru (kao što je prethodno objašnjeno), a dodatno je pogoršano geopolitičkim okruženjem, posebice nastavkom sukoba između Izraela i Hamasa.
U ovom izvještajnom razdoblju primijetili smo ~65 % smanjenje ukupnih mjera i ~60 % smanjenje ukupnih jedinstvenih računa u kojima je provedeno pridržavanje kao odgovor na izvještaje o sumnji na neželjenu poštu i zloupotrebu, što odražava poboljšanja u našim alatima za proaktivno otkrivanje i provedbu pridržavanja. Vidjeli smo slične padove u ukupnim mjerama kao odgovor na izvještaje o sadržaju koji se odnosi na Samoozljeđivanje i samoubojstvo (~80 % smanjenja), što odražava naš posuvremenjeni pristup usmjeren na žrtve, prema kojem će naši Timovi za povjerenje i sigurnost, u prikladnim slučajevima, poslati relevantne korisničke resurse za samopomoć, umjesto da poduzimaju mjere prisile protiv tih korisnika. O ovom pristupu informirali su se članovi našeg Savjetodavnog odbora za sigurnost, uključujući profesora pedijatra i liječnika koji se specijalizirao za interaktivne medije i internetske poremećaje.
Naši napori da proaktivno otkrijemo i provedemo pridržavanje protiv kršenja naših Smjernica za zajednicu
Naši napori da proaktivno otkrijemo i provedemo pridržavanje protiv kršenja naših Smjernica za zajednicu Ovi alati uključuju alate za uspoređivanje hash vrijednosti (uključujući PhotoDNA i Googleovo podudaranje slika seksualnog zlostavljanja djece (CSAI) ), alate za otkrivanje uvredljivog jezika (koji otkrivaju i provode pridržavanje na temelju identificiranog i redovito posuvremenjivanog popisa uvredljivih ključnih riječi i emojija) i višemodalne umjetna inteligencija / tehnologija učenja preko stroja.
U H1 2024. poduzeli smo sljedeće mjere provedbe pridržavanja nakon proaktivnog otkrivanja, upotrebom automatiziranih alata, kršenja naših Smjernica za zajednicu:
Total Enforcements
Total Unique Accounts Enforced
3,685,602
1,845,125
Policy Reason
Total Enforcements
Total Unique Accounts Enforced
Median Turnaround Time (minutes) From Detection To Final Action
Sexual Content
1,818,287
828,590
<1
Child Sexual Exploitation
491,970
188,877
1
Harassment and Bullying
14,942
11,234
8
Threats & Violence
43,625
29,599
9
Self-Harm & Suicide
761
624
9
False Information
85
81
10
Impersonation
8
6
19
Spam
177,150
110,551
<1
Drugs
869,178
590,658
5
Weapons
205,387
133,079
<1
Other Regulated Goods
48,280
37,028
9
Hate Speech
10,344
8,683
10
Terrorism & Violent Extremism
5,585
2,951
21
Seksualno iskorištavanje bilo kojeg člana naše zajednice, osobito maloljetnika, nezakonito je, odvratno i zabranjeno našim Smjernicama za zajednicu. Sprječavanje, otkrivanje i iskorjenjivanje Seksualnog iskorištavanja i zlostavljanja djece (CSEA) na našoj platformi glavni je prioritet za Snap, a mi neprestano razvijamo svoje sposobnosti za borbu protiv ovih i drugih zločina.
Kada naši Timovi za povjerenje i sigurnost saznaju da je Snapchatter u nevolji, mogu proslijediti resurse za sprječavanje samoozljeđivanja i podršku te obavijestiti osoblje za hitne slučajeve kada je to potrebno. Osim toga, u nekim slučajevima koristimo se signalima ponašanja kako bismo spriječili druge potencijalno nezakonite aktivnosti CSEA-a. Sadržaj vezan za CSEA prijavljujemo američkom Nacionalnom centru za nestalu i zlostavljanu djecu (NCMEC), kako je propisano zakonom. NCMEC potom koordinira s domaćim ili međunarodnim tijelima za provedbu zakona.
U prvoj polovici 2024., poduzeli smo sljedeće radnje nakon otkrivanja CSEA-a na Snapchatu (bilo proaktivno ili nakon primitka prijave):
Total Content Enforced
Total Accounts Disabled
Total Submissions to NCMEC*
1,228,929
242,306
417,842
*Note that each submission to NCMEC can contain multiple pieces of content. The total individual pieces of media submitted to NCMEC is equal to our total content enforced.
Naši napori da pružimo resurse i podršku korisnicima Snapchata u potrebi
Duboko nam je stalo do mentalnog zdravlja i dobrobiti Snapchattera, što nastavlja utjecati na naše odluke da drukčije gradimo Snapchat. Kao platforma namijenjena komunikaciji između i među pravim prijateljima, vjerujemo da Snapchat može odigrati jedinstvenu ulogu u osnaživanju prijatelja tako da si mogu pomagati u teškim vremenima. Zbog toga smo razvili resurse i podršku za Snapchattere u potrebi.
Naš Here for you alat za pretraživanje prikazuje resurse stručnih lokalnih partnera kada korisnici pretražuju određene teme vezane za mentalno zdravlje, anksioznost, tjeskobu, stres, suicidalne misli, tugu i zlostavljanje. Također smo razvili stranicu posvećenu financijskom seksualnom iznuđivanju i drugim seksualnim rizicima i štetama, u nastojanju da podržimo one koji su u nevolji. Naš globalni popis sigurnosnih izvora javno je dostupan svim Snapchatterima, u našem Središtu za privatnost, sigurnost i politiku.
Kada naši Timovi za povjerenje i sigurnost saznaju da je Snapchatter u nevolji, mogu proslijediti resurse za sprječavanje samoozljeđivanja i podršku te obavijestiti osoblje za hitne slučajeve kada je to potrebno. Resursi koje dijelimo dostupni su na našem globalnom popisu sigurnosnih resursa i javno su dostupni svim Snapchatterima.
Total Times Suicide Resources Shared
64,094
Žalbe
U nastavku donosimo informacije o žalbama koje smo primili od korisnika koji traže reviziju naše odluke da zaključamo njihov račun:
Policy Reason
Total Appeals
Total Reinstatements
Total Decisions Upheld
Median Turnaround Time (days) to Process Appeals
TOTAL
493,782
35,243
458,539
5
Sexual Content
162,363
6,257
156,106
4
Child Sexual Exploitation
102,585
15,318
87,267
6
Harassment and Bullying
53,200
442
52,758
7
Threats & Violence
4,238
83
4,155
5
Self-Harm & Suicide
31
1
30
5
False Information
3
0
3
<1
Impersonation
847
33
814
7
Spam
19,533
5,090
14,443
9
Drugs
133,478
7,598
125,880
4
Weapons
4,678
136
4,542
6
Other Regulated Goods
9,153
168
8,985
6
Hate Speech
3,541
114
3,427
7
Terrorism & Violent Extremism
132
3
129
9
Pregled područja i države
Ovaj odsjek pruža pregled radnji naših Timova za povjerenje i sigurnost za provedbu pridržavanja naših Smjernica za zajednicu, proaktivno i kao odgovor na prijave kršenja unutar aplikacije, u uzorku zemljopisnih regija. Naše Smjernice za zajednicu primjenjuju se na sav sadržaj na Snapchatu—i na sve Snapchattere—diljem svijeta, bez obzira na lokaciju.
Informacije za pojedine zemlje, uključujući sve države članice EU-a, dostupne su za preuzimanje putem priložene CSV datoteke.
Region
Total Enforcements
Total Unique Accounts Enforced
North America
3,828,389
2,117,048
Europe
2,807,070
1,735,054
Rest of World
3,396,651
1,846,110
Total
10,032,110
5,698,212
Region
Content & Account Reports
Total Enforcements
Total Unique Accounts Enforced
North America
5,916,815
2,229,465
1,391,304
Europe
5,781,317
2,085,109
1,378,883
Rest of World
7,681,716
2,031,934
1,319,934
Total
19,379,848
6,346,508
4,090,121
Total Enforcements
Total Unique Accounts Enforced
1,598,924
837,012
721,961
417,218
1,364,717
613,969
3,685,602
1,868,199
Moderacija oglasa
Snap je predan tome da svi oglasi budu u potpunosti u skladu s našim pravilnicima za oglašavanje. Vjerujemo u odgovoran pristup oglašavanju pun poštovanja kojim se stvara sigurno i ugodno iskustvo za sve naše korisnike. Svi oglasi su podložni našem pregledu i odobrenju. Osim toga, pridržavamo pravo uklanjanja oglasa, uključujući odgovaranje na povratne informacije korisnika, koje shvaćamo ozbiljno.
U nastavku smo uključili uvid u naše moderiranje plaćenih oglasa koji su nam prijavljeni nakon objave na Snapchatu. Imajte na umu da se oglasi na Snapchatu mogu ukloniti iz raznih razloga navedenih u pravilima o oglašavanju Snapa, uključujući obmanjujući sadržaj, sadržaj za odrasle, nasilni ili uznemirujući sadržaj, govor mržnje i povredu intelektualnog vlasništva. Dodatno tomu, sada možete pronaći Galeriju Snapchatovih oglasa u navigacijskoj traci ovog izvješća o transparentnosti.
Total Ads Reported
Total Ads Removed
43,098
17,833


