Snap Values
Izvješće o transparentnosti
1. siječnja 2024. - 30. lipnja 2024.

Objavljeno:

05. prosinca 2024.

Ažurirano:

05. prosinca 2024.

Ovo izvješće o transparentnosti objavljujemo dvaput godišnje kako bismo pružili uvid u Snapove sigurnosne napore. Predani smo tim naporima i neprekidno nastojimo ova izvješća učiniti sveobuhvatnijima i informativnijima za mnoge dionike kojima je jako stalo do našeg moderiranja sadržaja, praksi provedbe zakona te sigurnosti i dobrobiti Snapchatove zajednice.

Ovo izvješće o transparentnosti pokriva prvu polovicu 2024. (1. siječnja – 30. lipnja). Kao i s našim prethodnim izvještajima, dijelimo podatke o globalnoj količini sadržaja unutar aplikacije i izvještaje na razini računa koje su naši Timovi za povjerenje i sigurnost primili i provodili u određenim kategorijama kršenja Smjernica za zajednicu; kako smo odgovorili na zahtjeve tijela za provođenje zakona i vlada; i kako smo odgovorili na obavijesti o kršenju autorskih prava i zaštitnih znakova. Također pružamo uvide za pojedine zemlje u datotekama s poveznicama na dnu ove stranice.

Kao dio naše stalne predanosti stalnom poboljšanju naših izvješća o transparentnosti, također uvodimo nove podatke koji ističu naše proaktivne napore u otkrivanju i provođenju pridržavanja protiv šireg spektra kršenja naših Smjernica za zajednicu. U ovo smo izvješće uključili ove podatke i na globalnoj razini i na razini zemlje, i nastavit ćemo to činiti i ubuduće. Također smo ispravili grešku u označavanju u našim prethodnim izvještajima: gdje smo prethodno govorili o „Ukupnom provođenju sadržaja“, sada govorimo o „Ukupnom provođenju pridržavanja“ kako bismo odražavali činjenicu da podatci navedeni u relevantnim stupcima uključuju i razinu sadržaja i na razini računa provedbe pridržavanja.

Za više informacija o našim pravilima za borbu protiv potencijalnih internetskih šteta i o planovima za nastavak razvoja naših praksi izvješćivanja, molimo pročitajte naš nedavni blog o Sigurnosti i utjecaju o ovom Izvješću o transparentnosti. Da biste pronašli dodatne resurse o sigurnosti i privatnosti na Snapchatu, vidite našu karticuO izvješćivanju o transparentnosti na dnu stranice.

Imajte na umu da se najnovija verzija ovog izvješća o transparentnosti može pronaći na jeziku EN-US.

Pregled radnji naših Timova za povjerenje i sigurnost za provedbu pridržavanja naših Smjernica za zajednicu

Naši Timovi za povjerenje i sigurnost provode naše Smjernice za zajednicu i proaktivno (upotrebom automatiziranih alata) i reaktivno (kao odgovor na prijave), kao što je podrobnije objašnjeno u sljedećim odsjecima ovog izvještaja. U ovom ciklusu izvještavanja (H1 2024.), naši Timovi za povjerenje i sigurnost poduzeli su sljedeće mjere:

Total Enforcements

Total Unique Accounts Enforced

10,032,110

5,698,212

U nastavku se nalazi raščlamba prema vrsti dotičnih kršenja Smjernica za zajednicu, uključujući srednje vrijeme obrade između vremena kada smo otkrili kršenje (bilo proaktivno ili po primitku prijave) i vremena kada smo poduzeli konačnu radnju na relevantnom sadržaju ili računu:

Policy Reason

Total Enforcements

Total Unique Accounts Enforced

Median Turnaround Time (minutes) From Detection To Final Action

Sexual Content

3,860,331

2,099,512

2

Child Sexual Exploitation

961,359

577,682

23

Harassment and Bullying

2,716,966

2,019,439

7

Threats & Violence

199,920

156,578

8

Self-Harm & Suicide

15,910

14,445

10

False Information

6,539

6,176

1

Impersonation

8,798

8,575

2

Spam

357,999

248,090

1

Drugs

1,113,629

718,952

6

Weapons

211,860

136,953

1

Other Regulated Goods

247,535

177,643

8

Hate Speech

324,478

272,025

27

Terrorism & Violent Extremism

6,786

4,010

5

Tijekom razdoblja izvješćivanja, vidjeli smo Stopu kršenja pregleda (VVR) od 0,01 posto, što znači da je od svakih 10.000 pregleda Snapa i Storyja na Snapchatu, 1 sadržavao sadržaj za koji je utvrđeno da krši naše Smjernice za zajednicu.

Kršenja Smjernica za zajednicu prijavljena našim Timovima za povjerenje i sigurnost

Od 1. siječnja do 30. lipnja 2024., kao odgovor na prijave unutar aplikacije o kršenju naših Smjernica za zajednicu, Snapovi Timovi za povjerenje i sigurnost poduzeli su ukupno 6.223.618 mjera provedbe pridržavanja na globalnoj razini, uključujući mjere protiv 3.842.507 jedinstvenih računa. Srednje vrijeme potrebno za naše Timove za povjerenje i sigurnost da poduzmu mjere kao odgovor na te prijave bilo je ~24 minute. Raščlamba po kategorijama izvještavanja navedena je u nastavku.

Total Content & Account Reports

Total Enforcements

Total Unique Accounts Enforced

19,379,848

6,346,508

4,075,838

Policy Reason

Content & Account Reports

Total Enforcements

% of the Total Reports Enforced by Snap

Total Unique Accounts Enforced

Median Turnaround Time (minutes) From Detection To Final Action

Sexual Content

5,251,375

2,042,044

32.20%

1,387,749

4

Child Sexual Exploitation

1,224,502

469,389

7.40%

393,384

133

Harassment and Bullying

6,377,555

2,702,024

42.60%

2,009,573

7

Threats & Violence

1,000,713

156,295

2.50%

129,077

8

Self-Harm & Suicide

307,660

15,149

0.20%

13,885

10

False Information

536,886

6,454

0.10%

6,095

1

Impersonation

678,717

8,790

0.10%

8,569

2

Spam

1,770,216

180,849

2.80%

140,267

1

Drugs

418,431

244,451

3.90%

159,452

23

Weapons

240,767

6,473

0.10%

5,252

1

Other Regulated Goods

606,882

199,255

3.10%

143,560

8

Hate Speech

768,705

314,134

4.90%

263,923

27

Terrorism & Violent Extremism

197,439

1,201

<0.1%

1,093

4

Naši ukupni obujmi izvještaja ostali su prilično stabilni u H1 2024. u usporedbi s prethodnih šest mjeseci. U ovom smo ciklusu primijetili porast ukupnih ovrha i ukupnih ovrha jedinstvenih računa za približno 16 %.

Tijekom posljednjih 12 mjeseci Snap je uveo nove mehanizme izvještavanja za korisnike, koji uzimaju u obzir promjene u našim prijavljenim i nametnutim količinama i povećanja vremena obrade u ovom izvještajnom razdoblju (H1 2024.). Posebice:

  • Izvještavanje o grupnom razgovoru: uveli smo izvještavanje o grupnom razgovoru 13. listopada 2023., što korisnicima omogućuje prijavu zlostavljanja u razgovoru s više osoba. Ova je promjena utjecala na sastav naših mjernih podataka u kategorijama izvještavanja (jer je vjerojatnije da će se neke potencijalne štete dogoditi u kontekstu razgovora) i povećala mogućnost poduzimanja radnji u izvještajima.

  • Izvještavanja o poboljšanju računa:: također smo razvili našu značajku izvještavanja o računu kako bismo korisnicima koji izvještavaju dali mogućnost podnošenja dokaza za razgovor kada prijavljuju račun za koji se sumnja da njime upravlja loša osoba. Ova promjena, koja nam pruža više dokaza i konteksta za procjenu izvještaja o računu, pokrenuta je 29. veljače 2024.


Izvještaji o razgovoru, a posebice Izvještaji o grupnom razgovoru, jedna su od najsloženijih i najdugotrajnijih za pregled, što je posvuda produžilo vrijeme obrade.

Na prijavu sumnje na Seksualno iskorištavanje i zlostavljanje djece (CSEA, maltretiranje i zlostavljanje te govor mržnje posebno su utjecale dvije gore opisane promjene i promjene u širem ekosustavu. Posebice:

  • CSEA: primijetili smo porast prijava i mjera povezanih s CSEA-om u H1 2024. Točnije rečeno, vidjeli smo povećanje od 64 % u ukupnim prijavama korisnika u aplikaciji, povećanje od 82 % u ukupnim provedbama pridržavanja i povećanje od 108 % u ukupnom broju jedinstvenih računa u kojima je provedeno pridržavanje. Ta su povećanja uvelike potaknuta uvođenjem funkcija Izvještavanja o Grupnom razgovoru i o računu. S obzirom na osjetljivu prirodu ovog reda čekanja za moderiranje, odabrani tim visoko obučenih agenata dodijeljen je za pregled izvještaja o potencijalnim kršenjima vezanim za CSEA. Priljev dodatnih izvještaja u kombinaciji s našim timovima koji se prilagođavaju novim treninzima rezultirao je povećanjem vremena obrade. Nastavivši dalje, znatno smo povećali veličinu naših globalnih timova dobavljača kako bismo skratili vrijeme obrade i točno proveli izvještaje o potencijalnom CSEA-u. Očekujemo da će naši Izvještaji o transparentnosti za H2 2024. odražavati plodove ovog truda uz znatno poboljšano vrijeme obrade. 

  • Maltretiranje i zlostavljanje: na temelju izvještaja, primijetili smo da se maltretiranje i zlostavljanje nerazmjerno pojavljuje u razgovorima, a posebice u grupnim razgovorima. Poboljšanja koja smo uveli u Izvještavanje o grupnom razgovoru i Izvještavanje o računu pomažu nam u poduzimanju sveobuhvatnijih radnji pri procjeni izvještaja u ovoj kategoriji izvještavanja. Osim toga, od ovog razdoblja, od korisnika zahtijevamo da unesu komentar pri podnošenju prijave maltretiranja i zlostavljanja. Pregledavamo ovaj komentar kako bismo dali kontekstuirali svaki izvještaj. Zajedno, ove su promjene dovele do materijalnih povećanja u ukupnim ovrhama (+91 %), ukupnim jedinstvenim nametnutim računima (+82 %) i vremenu obrade (+245 minuta) za odgovarajuće izvještaje. 

  • Govor mržnje: u H1 2024. primijetili smo povećanje prijavljenog sadržaja, ukupnih mjera i vremena obrade za Govor mržnje. Točnije rečeno, vidjeli smo povećanje od 61 % u izvještajima unutar aplikacije, povećanje od 127 % u ukupnim provedbama pridržavanja i povećanje od 125 % u ukupnom broju jedinstvenih računa u kojima je provedeno pridržavanje. To je djelomice bilo zbog poboljšanja u našim mehanizmima za izvještavanje o razgovoru (kao što je prethodno objašnjeno), a dodatno je pogoršano geopolitičkim okruženjem, posebice nastavkom sukoba između Izraela i Hamasa.

U ovom izvještajnom razdoblju primijetili smo ~65 % smanjenje ukupnih mjera i ~60 % smanjenje ukupnih jedinstvenih računa u kojima je provedeno pridržavanje kao odgovor na izvještaje o sumnji na neželjenu poštu i zloupotrebu, što odražava poboljšanja u našim alatima za proaktivno otkrivanje i provedbu pridržavanja. Vidjeli smo slične padove u ukupnim mjerama kao odgovor na izvještaje o sadržaju koji se odnosi na Samoozljeđivanje i samoubojstvo (~80 % smanjenja), što odražava naš posuvremenjeni pristup usmjeren na žrtve, prema kojem će naši Timovi za povjerenje i sigurnost, u prikladnim slučajevima, poslati relevantne korisničke resurse za samopomoć, umjesto da poduzimaju mjere prisile protiv tih korisnika. O ovom pristupu informirali su se članovi našeg Savjetodavnog odbora za sigurnost, uključujući profesora pedijatra i liječnika koji se specijalizirao za interaktivne medije i internetske poremećaje.

Naši napori da proaktivno otkrijemo i provedemo pridržavanje protiv kršenja naših Smjernica za zajednicu

Proaktivno otkrivanje i provedba naših Smjernica za zajednicu


Naši napori da proaktivno otkrijemo i provedemo pridržavanje protiv kršenja naših Smjernica za zajednicu Ovi alati uključuju alate za uspoređivanje hash vrijednosti (uključujući PhotoDNA i Googleovo podudaranje slika seksualnog zlostavljanja djece (CSAI) ), alate za otkrivanje uvredljivog jezika (koji otkrivaju i provode pridržavanje na temelju identificiranog i redovito posuvremenjivanog popisa uvredljivih ključnih riječi i emojija) i višemodalne umjetna inteligencija / tehnologija učenja preko stroja.

U H1 2024. poduzeli smo sljedeće mjere provedbe pridržavanja nakon proaktivnog otkrivanja, upotrebom automatiziranih alata, kršenja naših Smjernica za zajednicu:

Total Enforcements

Total Unique Accounts Enforced

3,685,602

1,845,125

Policy Reason

Total Enforcements

Total Unique Accounts Enforced

Median Turnaround Time (minutes) From Detection To Final Action

Sexual Content

1,818,287

828,590

<1

Child Sexual Exploitation

491,970

188,877

1

Harassment and Bullying

14,942

11,234

8

Threats & Violence

43,625

29,599

9

Self-Harm & Suicide

761

624

9

False Information

85

81

10

Impersonation

8

6

19

Spam

177,150

110,551

<1

Drugs

869,178

590,658

5

Weapons

205,387

133,079

<1

Other Regulated Goods

48,280

37,028

9

Hate Speech

10,344

8,683

10

Terrorism & Violent Extremism

5,585

2,951

21

Borba protiv seksualnog iskorištavanja i zlostavljanja djece 

Seksualno iskorištavanje bilo kojeg člana naše zajednice, osobito maloljetnika, nezakonito je, odvratno i zabranjeno našim Smjernicama za zajednicu. Sprječavanje, otkrivanje i iskorjenjivanje Seksualnog iskorištavanja i zlostavljanja djece (CSEA) na našoj platformi glavni je prioritet za Snap, a mi neprestano razvijamo svoje sposobnosti za borbu protiv ovih i drugih zločina.

Kada naši Timovi za povjerenje i sigurnost saznaju da je Snapchatter u nevolji, mogu proslijediti resurse za sprječavanje samoozljeđivanja i podršku te obavijestiti osoblje za hitne slučajeve kada je to potrebno. Osim toga, u nekim slučajevima koristimo se signalima ponašanja kako bismo spriječili druge potencijalno nezakonite aktivnosti CSEA-a. Sadržaj vezan za CSEA prijavljujemo američkom Nacionalnom centru za nestalu i zlostavljanu djecu (NCMEC), kako je propisano zakonom. NCMEC potom koordinira s domaćim ili međunarodnim tijelima za provedbu zakona.

U prvoj polovici 2024., poduzeli smo sljedeće radnje nakon otkrivanja CSEA-a na Snapchatu (bilo proaktivno ili nakon primitka prijave):

Total Content Enforced

Total Accounts Disabled

Total Submissions to NCMEC*

1,228,929

242,306

417,842

*Note that each submission to NCMEC can contain multiple pieces of content. The total individual pieces of media submitted to NCMEC is equal to our total content enforced.

Naši napori da pružimo resurse i podršku korisnicima Snapchata u potrebi

Duboko nam je stalo do mentalnog zdravlja i dobrobiti Snapchattera, što nastavlja utjecati na naše odluke da drukčije gradimo Snapchat. Kao platforma namijenjena komunikaciji između i među pravim prijateljima, vjerujemo da Snapchat može odigrati jedinstvenu ulogu u osnaživanju prijatelja tako da si mogu pomagati u teškim vremenima. Zbog toga smo razvili resurse i podršku za Snapchattere u potrebi.

Naš Here for you alat za pretraživanje prikazuje resurse stručnih lokalnih partnera kada korisnici pretražuju određene teme vezane za mentalno zdravlje, anksioznost, tjeskobu, stres, suicidalne misli, tugu i zlostavljanje. Također smo razvili stranicu posvećenu financijskom seksualnom iznuđivanju i drugim seksualnim rizicima i štetama, u nastojanju da podržimo one koji su u nevolji. Naš globalni popis sigurnosnih izvora javno je dostupan svim Snapchatterima, u našem Središtu za privatnost, sigurnost i politiku. 

Kada naši Timovi za povjerenje i sigurnost saznaju da je Snapchatter u nevolji, mogu proslijediti resurse za sprječavanje samoozljeđivanja i podršku te obavijestiti osoblje za hitne slučajeve kada je to potrebno. Resursi koje dijelimo dostupni su na našem globalnom popisu sigurnosnih resursa i javno su dostupni svim Snapchatterima.

Total Times Suicide Resources Shared

64,094

Žalbe

U nastavku donosimo informacije o žalbama koje smo primili od korisnika koji traže reviziju naše odluke da zaključamo njihov račun:

Policy Reason

Total Appeals

Total Reinstatements

Total Decisions Upheld

Median Turnaround Time (days) to Process Appeals

TOTAL

493,782

35,243

458,539

5

Sexual Content

162,363

6,257

156,106

4

Child Sexual Exploitation

102,585

15,318

87,267

6

Harassment and Bullying

53,200

442

52,758

7

Threats & Violence

4,238

83

4,155

5

Self-Harm & Suicide

31

1

30

5

False Information

3

0

3

<1

Impersonation

847

33

814

7

Spam

19,533

5,090

14,443

9

Drugs

133,478

7,598

125,880

4

Weapons

4,678

136

4,542

6

Other Regulated Goods

9,153

168

8,985

6

Hate Speech

3,541

114

3,427

7

Terrorism & Violent Extremism

132

3

129

9

Pregled područja i države

Ovaj odsjek pruža pregled radnji naših Timova za povjerenje i sigurnost za provedbu pridržavanja naših Smjernica za zajednicu, proaktivno i kao odgovor na prijave kršenja unutar aplikacije, u uzorku zemljopisnih regija. Naše Smjernice za zajednicu primjenjuju se na sav sadržaj na Snapchatu—i na sve Snapchattere—diljem svijeta, bez obzira na lokaciju.

Informacije za pojedine zemlje, uključujući sve države članice EU-a, dostupne su za preuzimanje putem priložene CSV datoteke.

Pregled radnji naših Timova za povjerenje i sigurnost za provedbu naših Smjernica za zajednicu

Region

Total Enforcements

Total Unique Accounts Enforced

North America

3,828,389

2,117,048

Europe

2,807,070

1,735,054

Rest of World

3,396,651

1,846,110

Total

10,032,110

5,698,212

Kršenja Smjernica za zajednicu prijavljena našim Timovima za povjerenje i sigurnost

Region

Content & Account Reports

Total Enforcements

Total Unique Accounts Enforced

North America

5,916,815

2,229,465

1,391,304

Europe

5,781,317

2,085,109

1,378,883

Rest of World

7,681,716

2,031,934

1,319,934

Total

19,379,848

6,346,508

4,090,121

Proaktivno otkrivanje i provedba naših Smjernica za zajednicu

Total Enforcements

Total Unique Accounts Enforced

1,598,924

837,012

721,961

417,218

1,364,717

613,969

3,685,602

1,868,199

Moderacija oglasa

Snap je predan tome da svi oglasi budu u potpunosti u skladu s našim pravilnicima za oglašavanje. Vjerujemo u odgovoran pristup oglašavanju pun poštovanja kojim se stvara sigurno i ugodno iskustvo za sve naše korisnike. Svi oglasi su podložni našem pregledu i odobrenju. Osim toga, pridržavamo pravo uklanjanja oglasa, uključujući odgovaranje na povratne informacije korisnika, koje shvaćamo ozbiljno.


U nastavku smo uključili uvid u naše moderiranje plaćenih oglasa koji su nam prijavljeni nakon objave na Snapchatu. Imajte na umu da se oglasi na Snapchatu mogu ukloniti iz raznih razloga navedenih u pravilima o oglašavanju Snapa, uključujući obmanjujući sadržaj, sadržaj za odrasle, nasilni ili uznemirujući sadržaj, govor mržnje i povredu intelektualnog vlasništva. Dodatno tomu, sada možete pronaći Galeriju Snapchatovih oglasa u navigacijskoj traci ovog izvješća o transparentnosti.

Total Ads Reported

Total Ads Removed

43,098

17,833