5 decembrie, 2024

5 decembrie, 2024

Publicăm acest raport de transparență de două ori pe an pentru a oferi o perspectivă asupra eforturilor privind siguranța ale Snap. Ne angajăm să depunem aceste eforturi și ne străduim continuu să facem aceste rapoarte mai cuprinzătoare și mai informative pentru mulți cei interesați care țin foarte mult la moderarea conținutului nostru, practicile de aplicare a legii și siguranța și bunăstarea comunității Snapchat 

Acest Raport de Transparență vizează prima jumătate a anului 2024 (1 ianuarie - 30 iunie). Ca și în cazul rapoartelor noastre anterioare, partajăm date despre volumul global al rapoartelor de conținut și conturi la nivel de aplicație pe care echipele noastre de Încredere și Siguranță le-au primit și le-au aplicat în diferite categorii de încălcări ale Regulilor Comunității; cum am răspuns la solicitările autorităților de aplicare a legii și ale guvernelor; și cum am răspuns la sesizările de încălcare a drepturilor de autor și a mărcilor comerciale. De asemenea, oferim informații specifice fiecărei țări în fișierele legate de partea de jos a acestei pagini.

Ca parte a angajamentului nostru continuu de a ne îmbunătăți rapoartele de transparență, introducem de asemenea noi date care să evidențieze eforturile noastre proactive de a detecta și a sancționa împotriva unei game mai largi de încălcări ale Regulilor Comunității noastre. Am inclus aceste date atât la nivel global, cât și la nivel de țară în cadrul acestui raport și vom continua să facem acest lucru. De asemenea, am corectat o eroare de etichetare în rapoartele noastre anterioare: unde ne-am referit anterior la „Conținut Total Sancționat”, ne referim acum la „Total Sancțiuni” pentru a reflecta faptul că datele furnizate în coloanele relevante includ atât sancțiunile la nivel de conținut, cât și la nivelul conturilor.

Pentru mai multe informații despre politicile noastre de combatere a potențialelor prejudicii online și despre planurile de continuare a evoluției practicilor noastre de raportare, vă rugăm să citiți blogul nostru recent de Siguranță și Impact despre acest Raport de Transparență. Pentru a găsi resurse suplimentare privind siguranța și confidențialitatea pe Snapchat, consultați fila Despre Raportarea Transparenței din partea de jos a paginii.

Vă rugăm să rețineți că cea mai recentă versiune a acestui Raport de Transparență poate fi găsită în fișierul EN-US.

Echipele noastre însărcinate cu încrederea și siguranța pun în aplicare orientările noastre pentru comunitate atât în mod proactiv (prin utilizarea de instrumente automate), cât și reactiv (ca răspuns la rapoarte), după cum se detaliază în secțiunile următoare ale acestui raport. În cadrul acestui ciclu de raportare (H1 2024), echipele noastre de încredere și siguranță au luat următoarele măsuri de punere în aplicare: 

Mai jos este prezentată o defalcare pe tip de încălcări ale liniilor directoare ale comunității în cauză, inclusiv timpul mediu de răspuns între momentul în care am detectat încălcarea (fie în mod proactiv, fie la primirea unui raport) și momentul în care am luat măsuri finale cu privire la conținutul sau contul relevant:

În timpul perioadei de raportare, am înregistrat o rată de Încălcare a Vizionării (VVR) de 0,01%, ceea ce înseamnă că, la fiecare 10.000 de vizualizări de Snap-uri și Povești pe Snapchat, una a avut un conținut care a încălcat Regulile Comunității noastre.

În perioada 1 ianuarie - 30 iunie 2024, ca răspuns la rapoartele de încălcare a regulilor noastre comunitare, echipele Snap însărcinate cu încrederea și siguranța au întreprins un total de 6 223 618 acțiuni de punere în aplicare la nivel global, inclusiv acțiuni împotriva a 3 842 507 conturi unice. Timpul mediu în care echipele noastre însărcinate cu încrederea și siguranța au luat măsuri de executare ca răspuns la aceste rapoarte a fost de ~24 minute. O defalcare pe categorii de raportare este furnizată mai jos.

Volumul nostru general de raportări a rămas destul de stabil în prima jumătate a anului 2024, comparativ cu ultimele șase luni. În acest ciclu, am înregistrat o creștere a sancțiunilor totale și a conturilor unice sancționate de aproximativ 16%.

În ultimele 12 luni, Snap a introdus noi mecanisme de raportare pentru utilizatori, care explică modificările volumului nostru de raportări și sancționări cât și creșterea timpilor de procesare în această perioadă de raportare (prima jumătate a anului 2024). Mai exact:

• Raportarea Chat grup Am introdus rapoarte de chat pe 13 octombrie 2023, care permite utilizatorilor să raporteze abuzuri care au loc într-o conversație cu mai multe persoane. Această schimbare a avut un impact asupra structurii metricilor noștri pe categoriile de raportare (deoarece unele potențiale daune sunt mai susceptibile să apară într-un context de chat și a sporit capacitatea de acțiune a rapoartelor. 

• Îmbunătățiri de Raportare a contului: Am îmbunătățit și funcția de Raportare a Conturilor, pentru a le oferi utilizatorilor care raportează posibilitatea de a trimite dovezi de conversație atunci când raportează un cont suspectat de a fi gestionat de o persoană rău intenționată. Această schimbare, care ne oferă dovezi și context mai detaliat pentru a evalua rapoartele de conturi, a fost aplicată pe 29 februarie 2024. 

Rapoarte de Chat și mai ales Rapoarte de Grup sunt printre cele mai complexe și care necesită timp pentru a fi revizuite, ceea ce a dus la creșterea timpului de procesare general. 

Raportarea pentru suspectarea Exploatării și Abuzului Sexual al Copiilor (EASC), Hărțuire și Intimidare și Discurs Instigator la Ură a fost deosebit de afectată de cele două schimbări descrise mai sus, precum și de schimbări din ecosistemul mai larg. Mai exact:

• EASC: Am observat o creștere a rapoartelor și a sancțiunilor EASC în prima jumătate a anului 2024. Mai exact, am înregistrat o creștere de 64% a rapoartelor totale în aplicație de către utilizatori, o creștere de 82% a numărului total de puneri în aplicare și o creștere cu 108% a conturilor unice sancționate. Aceste creșteri sunt în mare măsură determinate de introducerea funcționalităților de raportare a Grupurilor de Chat și a Conturilor. Având în vedere caracterul sensibil al acestei liste de moderare, o echipă exclusivă de agenți foarte instruiți este desemnată să revizuiască rapoarte privind eventualele încălcări ale EASC. Afluxul de rapoarte suplimentare, combinat cu adaptarea echipelor noastre la noile cursuri de formare, a dus la o creștere a timpilor de procesare. În continuare, am mărit semnificativ dimensiunea echipelor noastre globale de furnizori pentru a reduce timpii de procesare și pentru a aplica întocmai sancțiunile privind rapoartele de posibile încălcări ale EASC. Ne așteptăm ca Raport nostru de Transparență pentru a doua jumătate a anului 2024 să reflecte rezultatele acestui efort, cu o perioadă de răspuns îmbunătățită semnificativ. 
  

• Hărțuire și Intimidare: În baza rapoartelor, am observat că Hărțuirea și Intimidarea au loc în mod disproporționat în conversații și, mai ales în conversațiile de grup. Îmbunătățirile pe care le-am introdus pentru Raportarea Conversațiilor de Grup și Raportarea Conturilor ne ajută să luăm măsuri mai cuprinzătoare atunci când evaluăm rapoartele din această categorie de raportare. În plus, începând cu această perioadă, cerem utilizatorilor să introducă un comentariu atunci când depun un raport de hărțuire și intimidare. Examinăm acest comentariu pentru a contextualiza fiecare raport. Împreună, aceste schimbări au dus la creșteri semnificative ale sancțiunilor totale (+91%), ale conturilor unice sancționate (+82%) și ale timpului de procesare (+245 minute) pentru rapoartele aferente. 
  

• Discursul Instigator la Ură: În prima jumătate a anului 2024 am observat creșteri ale conținutului raportat, sancțiunilor totale și timpului de soluționare pentru Discursul Instigator la Ură. Mai exact, am înregistrat o creștere de 61% a rapoartelor din aplicație, o creștere de 127% a sancțiunilor totale și o creștere de 125% a conturilor unice sancționate. Acest lucru a fost parțial cauzat de îmbunătățirile aduse mecanismelor noastre de raportare a conversațiilor (așa cum am discutat anterior) și a fost accentuat de mediul geopolitic, în special de continuarea conflictului Israel-Hamas. 

În această perioadă de raportare, am înregistrat o scădere de ~65% a sancțiunilor totale și o scădere de ~60% a conturilor unice sancționate ca răspuns la rapoartele de Spam & Abuz, fapt care reflectă îmbunătățirile aduse instrumentelor noastre de detectare și sancționare proactivă. Am înregistrat scăderi similare în sancțiunile totale ca răspuns la rapoartele de conținut privind Auto-vătămarea și Sinucidere (~80% scade), reflectând abordarea noastră actualizată, centrată pe victimă, potrivit căreia echipele noastre de Încredere și Siguranță vor trimite, în anumite situații, resurse de autoajutorare utilizatorilor în cauză, în loc să ia măsuri de sancționare împotriva acestor utilizatori. Această abordare a fost influențată de membrii Consiliului nostru Consultativ pentru Siguranță, inclusiv de un profesor de pediatrie și totodată medic specializat în tulburări legate de spațiul media interactiv și internet.

Implementăm instrumente automate pentru a detecta în mod proactiv și, în unele cazuri, pentru a aplica sancțiuni împotriva încălcărilor Regulilor Comunității noastre. Aceste instrumente includ instrumente de potrivire a hash-matching (inclusiv PhotoDNA Google și Google Child Sexual Abuse Imagery (CSAI) Match), instrumente de detectare a limbajului abuziv (care detectează și sancționează în baza unei liste identificate și actualizate periodic de cuvinte cheie și emoji abuzive), precum și a tehnologiei de inteligență artificială multi-modală / învățare automată. 

În prima jumătate a anului 2024 am luat următoarele măsuri de sancționare după ce am detectat în mod proactiv, prin utilizarea instrumentelor automate, încălcări ale Regulilor Comunității noastre:

Exploatarea sexuală a oricărui membru al comunității noastre, în special a minorilor, este ilegală, dezgustătoare și interzisă de Regulile comunității noastre. Prevenirea, detectarea și eradicarea exploatării sexuale și a imaginilor cu abuzuri asupra copiilor (CSEA) pe platforma noastră este o prioritate de top pentru Snap și ne dezvoltăm continuu capacitățile pentru combaterea acestora și a altor tipuri de infracțiuni.

Folosim instrumente de detectare activă a tehnologiei, cum ar fi PhotoDNA robust hash-matching și Google’s Child Sexual Abuse Imagery (CSAI) Match pentru a identifica imaginile ilegale cunoscute și videoclipurile respective CSEA. În plus, în unele cazuri, folosim semnale comportamentale pentru a aplica sancțiuni împotriva altor activități potențial ilegale legate de CSEA. Raportăm conținutul legat de CSEA către Centrul Național pentru Copii Dispăruți și Exploatați din SUA (NCMEC), așa cum prevede legea. NCMEC se coordonează apoi, la rândul său, cu autoritățile de aplicare a legii naționale sau internaționale, după caz.

În prima jumătate a anului 2024 am luat următoarele măsuri la detectarea CSEA pe Snapchat (fie proactiv, fie la primirea unui raport):

Ne pasă foarte mult de sănătatea mintală și de bunăstarea Snapchatters, ceea ce continuă să ne influențeze deciziile de a construi Snapchat în mod diferit. Fiind o platformă concepută pentru comunicarea între prieteni reali, suntem de părere că Snapchat poate juca un rol unic în abilitarea prietenilor de a se ajuta reciproc în momente dificile. Acesta este motivul pentru care am dezvoltat resurse și sprijin pentru snapchatterii în dificultate.

Instrumentul nostru de căutare Aici pentru Tine afișează resurse de la partenerii locali experți atunci când utilizatorii caută anumite subiecte legate de sănătatea mintală, anxietate, depresie, stres, gânduri suicidare durere sau intimidare. Am dezvoltat, de asemenea o pagină dedicată extorsiunii financiare prin intermediul sexului și altor riscuri și prejudicii sexuale, într-un efort de a-i sprijini pe cei aflați în dificultate. Lista noastră globală de resurse de siguranță este disponibilă public pentru toți snapchatterii în Centrul nostru de confidențialitate, siguranță și politici. 

Atunci când echipele noastre însărcinate cu încrederea și siguranța află că un snapchatter se află în dificultate, acestea pot transmite resurse de prevenire și sprijin pentru autovătămare și pot înștiința personalul de intervenție de urgență, după caz. Resursele pe care le distribuim sunt disponibile pe lista noastră globală de resurse privind siguranța și sunt disponibile public pentru toți Snapchatterii.

Mai jos oferim informații despre apelurile primite de la utilizatori care au solicitat revizuirea deciziei noastre de a le bloca contul:

Această secțiune oferă o imagine de ansamblu a acțiunilor întreprinse de echipele noastre de Încredere și Siguranță pentru a pune în aplicare Regulile Comunității noastre, atât în mod proactiv, cât și ca răspuns la rapoartele de încălcare din aplicație, într-o eșantionare a regiunilor geografice. Regulile Comunității noastre se aplică întregului conținut publicat pe Snapchat—și tuturor utilizatorilor Snapchat—din întreaga lume, indiferent de locație.

Informațiile pentru fiecare țară în parte, inclusiv pentru toate statele membre ale UE, pot fi descărcate prin intermediul fișierului CSV din atașat.

Snap se angajează să se asigure că toate reclamele sunt pe deplin conforme cu politicile noastre de publicitate. Credem într-o abordare responsabilă și respectuoasă a publicității, care să creeze o experiență sigură și plăcută pentru toți utilizatorii noștri. Toate reclamele sunt supuse verificării și aprobării noastre. În plus, ne rezervăm dreptul de a șterge anunțurile, inclusiv răspunsurile la feedback-ul utilizatorilor, pe care le luăm în serios.

Mai jos am inclus informații despre moderarea noastră în cazul reclamelor plătite care ne sunt raportate în urma publicării lor pe Snapchat. Rețineți că anunțurile de pe Snapchat pot fi eliminate dintr-o varietate de motive, așa cum se arată în Politicile de publicitate ale Snap, incluzând conținutul înșelător, conținutul pentru adulți, conținutul violent sau deranjant, discursul instigator la ură și încălcarea drepturilor de proprietate intelectuală. În plus, acum puteți găsi Galeria de reclame Snapchat în bara de navigare a acestui raport de transparență.