5. december 2024

5. december 2024

To poročilo o preglednosti objavljamo dvakrat letno, da bi zagotovili vpogled v prizadevanja podjetja Snap na področju varnosti. Zavezani smo temu, da si nenehno prizadevamo, da bi ta poročila naredili bolj celovita in informativna za številne zainteresirane strani, ki jim ni vseeno za našo moderirano vsebino, prakse kazenskega pregona ter varnost in dobro počutje skupnosti aplikacije Snapchat. 

Poročilo o preglednosti zajema prvo polovico leta 2024 (od 1. januarja do 30. junija). Tako kot prejšnja poročila tudi tokratno poročilo vsebuje podatke o globalnem volumnu v aplikaciji in prejetih prijavah s strani varnostnih ekip, na podlagi katerih smo izvršili ukrepe zaradi kršenja določenih kategorij pravil, opredeljenih v naših smernicah skupnosti ter informacije o tem, kako smo se odzvali na zahteve organov pregona in vlad; in kako smo se odzvali na obvestila o kršitvah avtorskih pravic in blagovnih znamk. Prav tako zagotavljamo vpoglede, specifične za posamezne države, v datotekah, povezanih na dnu te strani.

Kot del naše nenehne zavezanosti k izboljšanju naših poročil o preglednosti, uvajamo tudi nove podatke, ki izpostavljajo naša proaktivna prizadevanja za odkrivanje in uveljavljanje proti širšemu spektru kršitev naših smernic skupnosti. V to poročilo smo vključili podatke tako na svetovni ravni kot na državni ravni in bomo to storili tudi v prihodnje. Prav tako smo popravili napako v označevanju v naših prejšnjih poročilih: kjer smo prej uporabljali izraz „Skupno izvrševanje vsebine“, zdaj uporabljamo izraz „Skupno izvrševanje“, ki odraža dejstvo, da podatki v ustreznih stolpcih vključujejo tako izvrševanje na ravni vsebine kot tudi na ravni računov.

Za več informacij o naših pravilnikih za boj proti morebitnim spletnim škodam in načrtih za nadaljnji razvoj naših praks poročanja preberite naš nedavni Spletni dnevnik o varnosti in vplivu o tem poročilu o preglednosti. Dodatne vire o varnosti in zasebnosti v aplikaciji Snapchat najdete v zavihku Poročila o preglednosti na dnu strani.

Upoštevajte, da je najnovejša različica tega poročila o preglednosti tista, ki je objavljena v ameriški različici jezika (en-US).

Naše varnostne ekipe uveljavljajo Smernice skupnosti tako proaktivno (s pomočjo avtomatiziranih orodij) kot reaktivno (kot odziv na prijave), kar je podrobneje opisano v naslednjih razdelkih tega poročila. V tem ciklu poročanja (prva polovica leta 2024) so naše varnostne ekipe sprejele naslednje ukrepe uveljavljanja: 

Spodaj je razčlenitev po vrstah kršitev Smernic skupnosti, vključno z povprečnim časom obdelave od trenutka, ko smo zaznali kršitev (bodisi proaktivno bodisi ob prejemu prijave), do trenutka, ko smo sprejeli končni ukrep glede ustrezne vsebine ali računa:

V času obdobja poročanja smo zabeležili stopnjo ogledov vsebin s kršitvami (VVR) z 0,01%, kar pomeni, da je na vsakih 10.000 ogledov Snapov in zgodb v aplikaciji Snapchat, ena vsebovala vsebino, ki krši naše Smernice skupnosti.

Od 1. januarja do 30. junija 2024 so varnostne ekipe družbe Snap kot odziv na prijave kršitev naših Smernic skupnosti izvedle skupno 6.223.618 ukrepov po vsem svetu, vključno z ukrepi proti 3.842.507 edinstvenim računom. Povprečni čas preobrata, v katerem so naše varnostne ekipe sprejele izvršilne ukrepe kot odgovor na ta poročila, je bil približno 24 minut. Spodaj je prikazana razčlenitev po kategorijah poročanja. 

Naš skupni obseg poročanja je v prvi polovici leta 2024 ostal dokaj stabilen v primerjavi s prejšnjimi šestimi meseci. V tem ciklu smo opazili povečanje skupnih uveljavitev in vseh uveljavljenih edinstvenih računov za približno 16%.

V zadnjih 12 mesecih je družba Snap uvedla nove mehanizme za prijavljanje uporabnikov, kar je vplivalo na spremembe v obsegu prijavljenih in uveljavljenih ukrepov ter na podaljšanje časa obdelave v tem poročevalnem obdobju (prva polovica 2024). Natančneje:

• Prijavljanje skupinskih klepetov: 13. oktobra 2023 smo uvedli prijavljanje skupinskih klepetov, ki uporabnikom omogoča prijavo zlorabe v klepetu z več osebami. Ta sprememba je vplivala na sestavo naših meritev v različnih kategorijah prijav (ker so nekatere morebitne škode bolj verjetne v kontekstu klepeta) in povečala utemeljenost prijav za ukrepanje. 

• Izboljšave pri prijavi računov: Prav tako smo nadgradili funkcijo za prijavljanje računov, da uporabnikom omogočimo možnost predložitve dokazov iz klepeta ob prijavi računa, za katerega sumijo, da ga upravlja zlonamerna oseba. Ta sprememba, ki nam zagotavlja več dokazov in konteksta za ocenjevanje prijav računov, je bila uvedena 29. februarja 2024. 

Prijave klepetov, še posebej prijave skupinskega klepeta, so med najbolj časovno zahtevnimi za pregled, kar je povzročilo podaljšanje časa obdelave v vseh kategorijah. 

Na prijavo domnevnega spolnega izkoriščanja in zlorabe otrok (CSEA), nadlegovanja in ustrahovanja ter sovražnega govora sta zlasti vplivali zgoraj opisani spremembi in premiki v širšem ekosistemu. Natančneje:

• V prvi polovici leta 2024 smo opazili porast prijav in uveljavljanja, povezanih s CSEA. Natančneje, zaznali smo 64-odstotno povečanje skupnega števila prijav v aplikaciji s strani uporabnikov, 82-odstotno povečanje skupnega števila ukrepov ter 108-odstotno povečanje števila edinstvenih računov, proti katerim so bili sprejeti ukrepi. Ta povečanja so v veliki meri posledica uvedbe funkcij skupinskega klepeta in prijav računov. Glede na občutljivo naravo te čakalne vrste za moderiranje je izbrana ekipa visoko usposobljenih agentov dodeljena za pregled prijav o morebitnih kršitvah, povezanih s CSEA. Povečan prihod dodatnih prijav v kombinaciji z našimi ekipami, ki se prilagajajo novim usposabljanjem, je povzročil podaljšanje časa obdelave. V prihodnje smo znatno povečali število naših globalnih zunanjih ekip, da bi skrajšali čas obdelave in natančno uveljavili ukrepe pri prijavah potencialnega spolnega izkoriščanja in zlorabe otrok (CSEA). Pričakujemo, da bo naše Poročilo o preglednosti za drugo polovico leta 2024 odražalo sadove tega truda z bistveno izboljšanim časom obdelave. 
  

• Nadlegovanje in ustrahovanje: Na podlagi poročil smo opazili, da se nadlegovanje in ustrahovanje nesorazmerno pojavlja v klepetih, zlasti v skupinskih klepetih. Izboljšave, ki smo jih uvedli v prijavi skupinskih klepetov in prijavi računov, nam pomagajo sprejeti celovitejše ukrepe pri ocenjevanju prijav v tej kategoriji prijav. Dodatno, od tega obdobja zahtevamo, da uporabniki vnesejo komentar, ko oddajo prijavo o nadlegovanju in ustrahovanju. Ta komentar pregledamo, da bi kontekstualizirali vsako prijavo. Skupaj so te spremembe povzročile pomembno povečanje skupnega števila ukrepov (+91%), števila edinstvenih računov, proti katerim so bili sprejeti ukrepi (+82%) ter podaljšanje časa obdelave (+245 minut) za ustrezne prijave. 
  

• Sovražni govor: v prvi polovici leta 2024 smo opazili povečanje prijavljene vsebine, skupnih uveljavljanj in časa obdelave za sovražni govor. Natančneje, zaznali smo 61-odstotno povečanje prijav v aplikaciji, 127-odstotno povečanje skupnega števila ukrepov in 125-odstotno povečanje števila edinstvenih računov, proti katerim so bili sprejeti ukrepi. To je bilo deloma posledica izboljšav v naših mehanizmih za prijavo klepetov (kot smo že omenili), dodatno pa ga je poslabšalo geopolitično okolje, zlasti nadaljevanje konflikta med Izraelom in Hamasom. 

V tem obdobju prijav smo opazili približno 65-odstotno zmanjšanje vseh uveljavitev in približno 60-odstotno zmanjšanje skupnih edinstvenih računov, uveljavljenih kot odgovor na prijave o domnevni neželeni pošti in zlorabi, kar odraža izboljšave v naših orodjih za proaktivno odkrivanje in uveljavljanje. Zaznali smo podobne upade v skupnem številu ukrepov v odzivu na prijave vsebin, povezanih s samopoškodbami in samomori (~80% zmanjšanje), kar odraža naš posodobljen pristop, osredotočen na žrtve, po katerem naše varnostne ekipe v primerih, ko je to primerno, ustreznim uporabnikom pošljejo vire za samopomoč, namesto da bi sprejeli ukrep proti tem uporabnikom. O tem pristopu so bili seznanjeni člani naše Plošče z varnostnimi nasveti, vključno s pediatričnim profesorjem in zdravnikom, ki je specializiran za interaktivne medije in internetne motnje.

Uvajamo avtomatizirana orodja za proaktivno odkrivanje in v nekaterih primerih uveljavljanje kršitev naših Smernic skupnosti. Ta orodja vključujejo orodja za primerjanje digitalnih prstnih odtisov (vključno s PhotoDNA in Google Child Sexual Abuse Imagery (CSAI) Match), orodja za zaznavanje žaljivega jezika (ki zaznavajo in ukrepajo na podlagi identificiranega in redno posodobljenega seznama žaljivih ključnih besed in emojijev) ter multimodalno tehnologijo umetne inteligence in strojnega učenja. 

V prvi polovici leta 2024 smo po proaktivnem odkrivanju kršitev naših smernic skupnosti z uporabo avtomatiziranih orodij sprejeli naslednje izvršilne ukrepe:

Spolno izkoriščanje kateregakoli člana naše skupnosti, zlasti mladoletnikov, je nezakonito, neprimerno in prepovedano v skladu z našimi Smernicami skupnosti. Družba Snap postavlja preprečevanje objavljanja, odkrivanje in odstranjevanje podob spolnega izkoriščanja in zlorabe otrok s platforme za svojo prednostno nalogo. Nenehno tudi razvijamo zmogljivosti za boj proti tem in drugim kaznivim dejanjem.

Uporabljamo aktivna orodja za odkrivanje tehnologije, kot sta orodje PhotoDNA in Googlovo orodje za ujemanje podob spolne zlorabe otrok (CSAI Match), ki prepoznava znane nezakonite podobe in videoposnetke spolne zlorabe otrok (CSEA). Prav tako v nekaterih primerih uporabljamo vedenjske signale za uveljavljanje drugih potencialno nezakonitih dejavnosti CSEA. Vsebino, povezano s CSEA, prijavimo ameriškemu Nacionalnemu centru za pogrešane in izkoriščane otroke (NCMEC), kot to zahteva zakon. Center NCMEC se nato po potrebi usklajuje z nacionalnimi in mednarodnimi organi kazenskega pregona.

V prvi polovici leta 2024 smo ob odkrivanju CSEA v aplikaciji Snapchat (proaktivno ali po prejemu prijave) izvedli naslednje ukrepe:

Skrb za duševno zdravje in dobro počutje uporabnikov aplikacije Snapchat močno vpliva na naše odločitve pri drugačnem razvoju aplikacije Snapchat. Kot platforma, zasnovana za komunikacijo med pravimi prijatelji, verjamemo, da lahko aplikacija Snapchat odigra edinstveno vlogo pri opolnomočenju prijateljev, da si med seboj pomagajo v težkih trenutkih. Zato smo razvili vire in podporo za uporabnike Snapchata v stiski. 

Naše iskalno orodje Here For You prikazuje vire strokovnih lokalnih partnerjev, ko uporabniki iščejo določene teme, povezane z duševnim zdravjem, anksioznostjo, depresijo, stresom, samomorilnimi mislimi, žalostjo in ustrahovanjem. Pripravili smo tudi stran, posvečeno finančnemu spolnemu izsiljevanju in drugim spolnim tveganjem ter škodam, da podpremo ljudi, ki so v stiski. Naš globalni seznam varnostnih virov je javno dostopen vsem uporabnikom aplikacije Snapchat v našem Središču za zasebnost, varnost in pravilnike. 

Ko naše ekipe za zaupanje in varnosti zaznajo, da je uporabnik aplikacije Snapchat v stiski, lahko posredujejo vire za preprečevanje samopoškodovanja in podporo ter obvestijo reševalne službe, če se to izkaže za potrebno. Viri, ki jih delimo z uporabniki, so na voljo na našem globalnem seznamu virov na temo varnosti, ki so javno dostopni vsem uporabnikom aplikacije Snapchat.

Spodaj zagotavljamo informacije o prijavah, ki smo jih prejeli od uporabnikov, ki so zahtevali pregled naše odločitve o blokiranju njihovega računa:

Ta razdelek ponuja pregled ukrepov naših varnostnih ekip pri uveljavljanju Smernic skupnosti, tako proaktivno kot tudi odziv na prijave kršitev v aplikaciji, na vzorcu geografskih regij. Naše smernice skupnosti veljajo za vse vsebine v aplikaciji Snapchat in za vse uporabnike aplikacije po vsem svetu, ne glede na lokacijo.

Podatki za posamezne države, vključno z vsemi državami članicami Evropske unije, so dostopni za prenos v priloženi datoteki CSV.

Družba Snap si prizadeva za zagotovitev, da so vsi oglasi popolnoma v skladu z našimi pravilniki oglaševanja. Verjamemo v odgovoren in spoštljiv pristop k oglaševanju, saj s tem ustvarjamo varno in prijetno izkušnjo za vse uporabnike. Vse oglase pregledamo pred odobritvijo. Poleg tega si pridržujemo pravico do odstranitve oglasov, tudi kot odgovor na povratne informacije uporabnikov, ki jih jemljemo resno. 

V nadaljevanju smo vključili vpogled v naše moderiranje plačanih oglasov, ki so bili prijavljeni po njihovi objavi v aplikaciji Snapchat. Upoštevajte, da lahko oglase v aplikaciji Snapchat odstranimo iz različnih razlogov, kot je opisano v pravilnikih oglaševanja podjetja Snap. Razlogi med drugim vključujejo zavajajoče vsebine, vsebine za odrasle, nasilne ali moteče vsebine, sovražni govor in kršitve, ki zadevajo intelektualno lastnino. Poleg tega lahko zdaj v navigacijskem stolpcu tega poročila o preglednosti najdete galerijo oglasov v aplikaciji Snapchat.