05. prosinca 2024.

05. prosinca 2024.

Ovo izvješće o transparentnosti objavljujemo dvaput godišnje kako bismo pružili uvid u Snapove sigurnosne napore. Predani smo tim naporima i neprekidno nastojimo ova izvješća učiniti sveobuhvatnijima i informativnijima za mnoge dionike kojima je jako stalo do našeg moderiranja sadržaja, praksi provedbe zakona te sigurnosti i dobrobiti Snapchatove zajednice.

Ovo izvješće o transparentnosti pokriva prvu polovicu 2024. (1. siječnja – 30. lipnja). Kao i s našim prethodnim izvještajima, dijelimo podatke o globalnoj količini sadržaja unutar aplikacije i izvještaje na razini računa koje su naši Timovi za povjerenje i sigurnost primili i provodili u određenim kategorijama kršenja Smjernica za zajednicu; kako smo odgovorili na zahtjeve tijela za provođenje zakona i vlada; i kako smo odgovorili na obavijesti o kršenju autorskih prava i zaštitnih znakova. Također pružamo uvide za pojedine zemlje u datotekama s poveznicama na dnu ove stranice.

Kao dio naše stalne predanosti stalnom poboljšanju naših izvješća o transparentnosti, također uvodimo nove podatke koji ističu naše proaktivne napore u otkrivanju i provođenju pridržavanja protiv šireg spektra kršenja naših Smjernica za zajednicu. U ovo smo izvješće uključili ove podatke i na globalnoj razini i na razini zemlje, i nastavit ćemo to činiti i ubuduće. Također smo ispravili grešku u označavanju u našim prethodnim izvještajima: gdje smo prethodno govorili o „Ukupnom provođenju sadržaja“, sada govorimo o „Ukupnom provođenju pridržavanja“ kako bismo odražavali činjenicu da podatci navedeni u relevantnim stupcima uključuju i razinu sadržaja i na razini računa provedbe pridržavanja.

Za više informacija o našim pravilima za borbu protiv potencijalnih internetskih šteta i o planovima za nastavak razvoja naših praksi izvješćivanja, molimo pročitajte naš nedavni blog o Sigurnosti i utjecaju o ovom Izvješću o transparentnosti. Da biste pronašli dodatne resurse o sigurnosti i privatnosti na Snapchatu, vidite našu karticuO izvješćivanju o transparentnosti na dnu stranice.

Imajte na umu da se najnovija verzija ovog izvješća o transparentnosti može pronaći na jeziku EN-US.

Naši Timovi za povjerenje i sigurnost provode naše Smjernice za zajednicu i proaktivno (upotrebom automatiziranih alata) i reaktivno (kao odgovor na prijave), kao što je podrobnije objašnjeno u sljedećim odsjecima ovog izvještaja. U ovom ciklusu izvještavanja (H1 2024.), naši Timovi za povjerenje i sigurnost poduzeli su sljedeće mjere:

U nastavku se nalazi raščlamba prema vrsti dotičnih kršenja Smjernica za zajednicu, uključujući srednje vrijeme obrade između vremena kada smo otkrili kršenje (bilo proaktivno ili po primitku prijave) i vremena kada smo poduzeli konačnu radnju na relevantnom sadržaju ili računu:

Tijekom razdoblja izvješćivanja, vidjeli smo Stopu kršenja pregleda (VVR) od 0,01 posto, što znači da je od svakih 10.000 pregleda Snapa i Storyja na Snapchatu, 1 sadržavao sadržaj za koji je utvrđeno da krši naše Smjernice za zajednicu.

Od 1. siječnja do 30. lipnja 2024., kao odgovor na prijave unutar aplikacije o kršenju naših Smjernica za zajednicu, Snapovi Timovi za povjerenje i sigurnost poduzeli su ukupno 6.223.618 mjera provedbe pridržavanja na globalnoj razini, uključujući mjere protiv 3.842.507 jedinstvenih računa. Srednje vrijeme potrebno za naše Timove za povjerenje i sigurnost da poduzmu mjere kao odgovor na te prijave bilo je ~24 minute. Raščlamba po kategorijama izvještavanja navedena je u nastavku.

Naši ukupni obujmi izvještaja ostali su prilično stabilni u H1 2024. u usporedbi s prethodnih šest mjeseci. U ovom smo ciklusu primijetili porast ukupnih ovrha i ukupnih ovrha jedinstvenih računa za približno 16 %.

Tijekom posljednjih 12 mjeseci Snap je uveo nove mehanizme izvještavanja za korisnike, koji uzimaju u obzir promjene u našim prijavljenim i nametnutim količinama i povećanja vremena obrade u ovom izvještajnom razdoblju (H1 2024.). Posebice:

• Izvještavanje o grupnom razgovoru: uveli smo izvještavanje o grupnom razgovoru 13. listopada 2023., što korisnicima omogućuje prijavu zlostavljanja u razgovoru s više osoba. Ova je promjena utjecala na sastav naših mjernih podataka u kategorijama izvještavanja (jer je vjerojatnije da će se neke potencijalne štete dogoditi u kontekstu razgovora) i povećala mogućnost poduzimanja radnji u izvještajima.

• Izvještavanja o poboljšanju računa:: također smo razvili našu značajku izvještavanja o računu kako bismo korisnicima koji izvještavaju dali mogućnost podnošenja dokaza za razgovor kada prijavljuju račun za koji se sumnja da njime upravlja loša osoba. Ova promjena, koja nam pruža više dokaza i konteksta za procjenu izvještaja o računu, pokrenuta je 29. veljače 2024.

Izvještaji o razgovoru, a posebice Izvještaji o grupnom razgovoru, jedna su od najsloženijih i najdugotrajnijih za pregled, što je posvuda produžilo vrijeme obrade.

Na prijavu sumnje na Seksualno iskorištavanje i zlostavljanje djece (CSEA, maltretiranje i zlostavljanje te govor mržnje posebno su utjecale dvije gore opisane promjene i promjene u širem ekosustavu. Posebice:

• CSEA: primijetili smo porast prijava i mjera povezanih s CSEA-om u H1 2024. Točnije rečeno, vidjeli smo povećanje od 64 % u ukupnim prijavama korisnika u aplikaciji, povećanje od 82 % u ukupnim provedbama pridržavanja i povećanje od 108 % u ukupnom broju jedinstvenih računa u kojima je provedeno pridržavanje. Ta su povećanja uvelike potaknuta uvođenjem funkcija Izvještavanja o Grupnom razgovoru i o računu. S obzirom na osjetljivu prirodu ovog reda čekanja za moderiranje, odabrani tim visoko obučenih agenata dodijeljen je za pregled izvještaja o potencijalnim kršenjima vezanim za CSEA. Priljev dodatnih izvještaja u kombinaciji s našim timovima koji se prilagođavaju novim treninzima rezultirao je povećanjem vremena obrade. Nastavivši dalje, znatno smo povećali veličinu naših globalnih timova dobavljača kako bismo skratili vrijeme obrade i točno proveli izvještaje o potencijalnom CSEA-u. Očekujemo da će naši Izvještaji o transparentnosti za H2 2024. odražavati plodove ovog truda uz znatno poboljšano vrijeme obrade. 
  

• Maltretiranje i zlostavljanje: na temelju izvještaja, primijetili smo da se maltretiranje i zlostavljanje nerazmjerno pojavljuje u razgovorima, a posebice u grupnim razgovorima. Poboljšanja koja smo uveli u Izvještavanje o grupnom razgovoru i Izvještavanje o računu pomažu nam u poduzimanju sveobuhvatnijih radnji pri procjeni izvještaja u ovoj kategoriji izvještavanja. Osim toga, od ovog razdoblja, od korisnika zahtijevamo da unesu komentar pri podnošenju prijave maltretiranja i zlostavljanja. Pregledavamo ovaj komentar kako bismo dali kontekstuirali svaki izvještaj. Zajedno, ove su promjene dovele do materijalnih povećanja u ukupnim ovrhama (+91 %), ukupnim jedinstvenim nametnutim računima (+82 %) i vremenu obrade (+245 minuta) za odgovarajuće izvještaje. 
  

• Govor mržnje: u H1 2024. primijetili smo povećanje prijavljenog sadržaja, ukupnih mjera i vremena obrade za Govor mržnje. Točnije rečeno, vidjeli smo povećanje od 61 % u izvještajima unutar aplikacije, povećanje od 127 % u ukupnim provedbama pridržavanja i povećanje od 125 % u ukupnom broju jedinstvenih računa u kojima je provedeno pridržavanje. To je djelomice bilo zbog poboljšanja u našim mehanizmima za izvještavanje o razgovoru (kao što je prethodno objašnjeno), a dodatno je pogoršano geopolitičkim okruženjem, posebice nastavkom sukoba između Izraela i Hamasa.

U ovom izvještajnom razdoblju primijetili smo ~65 % smanjenje ukupnih mjera i ~60 % smanjenje ukupnih jedinstvenih računa u kojima je provedeno pridržavanje kao odgovor na izvještaje o sumnji na neželjenu poštu i zloupotrebu, što odražava poboljšanja u našim alatima za proaktivno otkrivanje i provedbu pridržavanja. Vidjeli smo slične padove u ukupnim mjerama kao odgovor na izvještaje o sadržaju koji se odnosi na Samoozljeđivanje i samoubojstvo (~80 % smanjenja), što odražava naš posuvremenjeni pristup usmjeren na žrtve, prema kojem će naši Timovi za povjerenje i sigurnost, u prikladnim slučajevima, poslati relevantne korisničke resurse za samopomoć, umjesto da poduzimaju mjere prisile protiv tih korisnika. O ovom pristupu informirali su se članovi našeg Savjetodavnog odbora za sigurnost, uključujući profesora pedijatra i liječnika koji se specijalizirao za interaktivne medije i internetske poremećaje.

Naši napori da proaktivno otkrijemo i provedemo pridržavanje protiv kršenja naših Smjernica za zajednicu Ovi alati uključuju alate za uspoređivanje hash vrijednosti (uključujući PhotoDNA i Googleovo podudaranje slika seksualnog zlostavljanja djece (CSAI) ), alate za otkrivanje uvredljivog jezika (koji otkrivaju i provode pridržavanje na temelju identificiranog i redovito posuvremenjivanog popisa uvredljivih ključnih riječi i emojija) i višemodalne umjetna inteligencija / tehnologija učenja preko stroja.

U H1 2024. poduzeli smo sljedeće mjere provedbe pridržavanja nakon proaktivnog otkrivanja, upotrebom automatiziranih alata, kršenja naših Smjernica za zajednicu:

Seksualno iskorištavanje bilo kojeg člana naše zajednice, osobito maloljetnika, nezakonito je, odvratno i zabranjeno našim Smjernicama za zajednicu. Sprječavanje, otkrivanje i iskorjenjivanje Seksualnog iskorištavanja i zlostavljanja djece (CSEA) na našoj platformi glavni je prioritet za Snap, a mi neprestano razvijamo svoje sposobnosti za borbu protiv ovih i drugih zločina.

Kada naši Timovi za povjerenje i sigurnost saznaju da je Snapchatter u nevolji, mogu proslijediti resurse za sprječavanje samoozljeđivanja i podršku te obavijestiti osoblje za hitne slučajeve kada je to potrebno. Osim toga, u nekim slučajevima koristimo se signalima ponašanja kako bismo spriječili druge potencijalno nezakonite aktivnosti CSEA-a. Sadržaj vezan za CSEA prijavljujemo američkom Nacionalnom centru za nestalu i zlostavljanu djecu (NCMEC), kako je propisano zakonom. NCMEC potom koordinira s domaćim ili međunarodnim tijelima za provedbu zakona.

U prvoj polovici 2024., poduzeli smo sljedeće radnje nakon otkrivanja CSEA-a na Snapchatu (bilo proaktivno ili nakon primitka prijave):

Duboko nam je stalo do mentalnog zdravlja i dobrobiti Snapchattera, što nastavlja utjecati na naše odluke da drukčije gradimo Snapchat. Kao platforma namijenjena komunikaciji između i među pravim prijateljima, vjerujemo da Snapchat može odigrati jedinstvenu ulogu u osnaživanju prijatelja tako da si mogu pomagati u teškim vremenima. Zbog toga smo razvili resurse i podršku za Snapchattere u potrebi.

Naš Here for you alat za pretraživanje prikazuje resurse stručnih lokalnih partnera kada korisnici pretražuju određene teme vezane za mentalno zdravlje, anksioznost, tjeskobu, stres, suicidalne misli, tugu i zlostavljanje. Također smo razvili stranicu posvećenu financijskom seksualnom iznuđivanju i drugim seksualnim rizicima i štetama, u nastojanju da podržimo one koji su u nevolji. Naš globalni popis sigurnosnih izvora javno je dostupan svim Snapchatterima, u našem Središtu za privatnost, sigurnost i politiku. 

Kada naši Timovi za povjerenje i sigurnost saznaju da je Snapchatter u nevolji, mogu proslijediti resurse za sprječavanje samoozljeđivanja i podršku te obavijestiti osoblje za hitne slučajeve kada je to potrebno. Resursi koje dijelimo dostupni su na našem globalnom popisu sigurnosnih resursa i javno su dostupni svim Snapchatterima.

U nastavku donosimo informacije o žalbama koje smo primili od korisnika koji traže reviziju naše odluke da zaključamo njihov račun:

Ovaj odsjek pruža pregled radnji naših Timova za povjerenje i sigurnost za provedbu pridržavanja naših Smjernica za zajednicu, proaktivno i kao odgovor na prijave kršenja unutar aplikacije, u uzorku zemljopisnih regija. Naše Smjernice za zajednicu primjenjuju se na sav sadržaj na Snapchatu—i na sve Snapchattere—diljem svijeta, bez obzira na lokaciju.

Informacije za pojedine zemlje, uključujući sve države članice EU-a, dostupne su za preuzimanje putem priložene CSV datoteke.

Snap je predan tome da svi oglasi budu u potpunosti u skladu s našim pravilnicima za oglašavanje. Vjerujemo u odgovoran pristup oglašavanju pun poštovanja kojim se stvara sigurno i ugodno iskustvo za sve naše korisnike. Svi oglasi su podložni našem pregledu i odobrenju. Osim toga, pridržavamo pravo uklanjanja oglasa, uključujući odgovaranje na povratne informacije korisnika, koje shvaćamo ozbiljno.

U nastavku smo uključili uvid u naše moderiranje plaćenih oglasa koji su nam prijavljeni nakon objave na Snapchatu. Imajte na umu da se oglasi na Snapchatu mogu ukloniti iz raznih razloga navedenih u pravilima o oglašavanju Snapa, uključujući obmanjujući sadržaj, sadržaj za odrasle, nasilni ili uznemirujući sadržaj, govor mržnje i povredu intelektualnog vlasništva. Dodatno tomu, sada možete pronaći Galeriju Snapchatovih oglasa u navigacijskoj traci ovog izvješća o transparentnosti.