05 Aralık 2024
05 Aralık 2024
Bu şeffaflık raporunu yılda iki kez yayınlıyoruz. Amacımız Snap'in güvenlikle ilgili çabalarının anlaşılmasını sağlamak. Bu çabaları sürdürmeye kararlıyız ve bu raporların içerik denetimine, yasaların uygulanması faaliyetlerine ve Snapchat topluluğunun güvenlik ve esenliğine büyük önem veren çok sayıda paydaş için daha geniş kapsamlı ve bilgilendirici olması için aralıksız çalışıyoruz.
Bu Şeffaflık Raporu 2024 yılının ilk yarısını kapsar (1 Ocak - 30 Haziran). Önceki raporlarımızda olduğu gibi, Güven ve Güvenlik ekiplerimize ulaşan ve belirli Topluluk İlkeleri ihlalleri kategorileri kapsamında yaptırım uygulanan uygulama içi içeriklerle ve hesaplarla ilgili bildirimlerin küresel hacmiyle ilgili verileri ve kolluk kuvvetlerinden ve hükümetlerden gelen taleplere nasıl yanıt verdiğimizle ve telif hakkı ve ticari marka ihlali ihbarnamelerine nasıl yanıt verdiğimizle ilgili bilgileri paylaşıyoruz. Ayrıca, bu sayfanın altında bağlantı verilen dosyalarda ülke bağlamında bilgiler veriyoruz.
Şeffaflık raporlarımızı sürekli iyileştirme taahhüdümüz gereğince, Topluluk İlkelerimizin kapsamı daha da genişletilmiş ihlallerinin tespitine ve yaptırım uygulanmasına yönelik proaktif çabalarımızı ortaya koyan yeni veriler de sunuyoruz. Bu verileri hem küresel düzeyde hem de ülke düzeyinde bu rapora dahil ettik ve bunu yapmaya bundan sonra da devam edeceğiz. Ayrıca, önceki raporlarımızdaki bir başlık hatasını da düzelttik: daha önce "Yaptırım Uygulanan Toplam İçerik" başlığını kullanmıştık, şimdi ise, ilgili sütunlarda sunulan verilerin hem içerik düzeyindeki hem de hesap düzeyindeki yaptırımları içermesi nedeniyle "Toplam Yaptırımlar" başlığını kullanıyoruz.
Olası çevrimiçi zararlarla mücadele politikalarımız ve raporlama uygulamalarımızı daha iyi hale getirmeyi sürdürme planlarımız hakkında daha fazla bilgi için lütfen bu Şeffaflık Raporu hakkında son yayınladığımız Güvenlik ve Hareket blogumuzu okuyun. Snapchat'te ek güvenlik ve gizlilik kaynakları bulmak için sayfanın altındaki Şeffaflık Raporlaması Hakkında etiketimize göz atın.
Bu Şeffaflık Raporunun en güncel sürümünün ABD yerel ayarında bulunabileceğini lütfen unutmayın.
Güven ve Güvenlik Ekiplerimizin Topluluk İlkelerimizi Uygulamaya Yönelik Eylemlerine Genel Bakış
Güven ve Güvenlik ekiplerimiz, bu raporun sonraki bölümlerinde daha ayrıntılı olarak açıklandığı üzere Topluluk İlkelerimizi hem proaktif olarak (otomatik araçların kullanımı yoluyla) hem de reaktif olarak (raporlara yanıt olarak) uyguluyor. Bu raporlama döneminde (2024'ün ilk yarısı) Güven ve Güvenlik ekiplerimiz aşağıdaki yaptırımları gerçekleştirdi:
Total Enforcements
Total Unique Accounts Enforced
10,032,110
5,698,212
Topluluk İlkeleri ihlallerinin ihlal türüne göre bir dökümü, ihlali (proaktif olarak veya bir bildirim alınması üzerine) tespit ettiğimiz andan, ilgili içerikle veya hesapla ilgili nihai tedbiri aldığımız ana kadar geçen ortalama süre de dahil olmak üzere, aşağıda sunulmuştur:
Policy Reason
Total Enforcements
Total Unique Accounts Enforced
Median Turnaround Time (minutes) From Detection To Final Action
Sexual Content
3,860,331
2,099,512
2
Child Sexual Exploitation
961,359
577,682
23
Harassment and Bullying
2,716,966
2,019,439
7
Threats & Violence
199,920
156,578
8
Self-Harm & Suicide
15,910
14,445
10
False Information
6,539
6,176
1
Impersonation
8,798
8,575
2
Spam
357,999
248,090
1
Drugs
1,113,629
718,952
6
Weapons
211,860
136,953
1
Other Regulated Goods
247,535
177,643
8
Hate Speech
324,478
272,025
27
Terrorism & Violent Extremism
6,786
4,010
5
Raporlama döneminde, İhlal Edici Görüntüleme Oranı'nın (VVR) yüzde 0,01 olduğunu gördük; bu, Snapchat'teki her 10.000 Snap ve Hikâye görüntülemesinden 1 tanesinin Topluluk İlkelerimizi ihlal eden içerik içerdiği anlamına geliyor.
Güven ve Güvenlik Ekiplerimize Bildirilen Topluluk İlkeleri İhlalleri
1 Ocak - 30 Haziran 2024 arasındaki dönemde, Topluluk İlkelerimizin ihlallerine dair yapılan uygulama içi bildirimlere yanıt olarak, Snap'in Güven ve Güvenlik ekipleri 3.842.507 adet bireysel hesaba karşı uygulanan yaptırımlar dahil, küresel ölçekte toplam 6.223.618 adet yaptırım tedbiri almıştır. Güven ve Güvenlik ekiplerimizin bu bildirimlere yanıt olarak yaptırım tedbiri almasının ortalama süresi yaklaşık 24 dakika olarak gerçekleşmiştir. Bildirim kategorisine göre bir döküm aşağıda verilmiştir.
Total Content & Account Reports
Total Enforcements
Total Unique Accounts Enforced
19,379,848
6,346,508
4,075,838
Policy Reason
Content & Account Reports
Total Enforcements
% of the Total Reports Enforced by Snap
Total Unique Accounts Enforced
Median Turnaround Time (minutes) From Detection To Final Action
Sexual Content
5,251,375
2,042,044
32.20%
1,387,749
4
Child Sexual Exploitation
1,224,502
469,389
7.40%
393,384
133
Harassment and Bullying
6,377,555
2,702,024
42.60%
2,009,573
7
Threats & Violence
1,000,713
156,295
2.50%
129,077
8
Self-Harm & Suicide
307,660
15,149
0.20%
13,885
10
False Information
536,886
6,454
0.10%
6,095
1
Impersonation
678,717
8,790
0.10%
8,569
2
Spam
1,770,216
180,849
2.80%
140,267
1
Drugs
418,431
244,451
3.90%
159,452
23
Weapons
240,767
6,473
0.10%
5,252
1
Other Regulated Goods
606,882
199,255
3.10%
143,560
8
Hate Speech
768,705
314,134
4.90%
263,923
27
Terrorism & Violent Extremism
197,439
1,201
<0.1%
1,093
4
Toplam raporlama hacimlerimiz 2024 yılının ilk yarısında önceki altı aya kıyasla epey istikrarlı oldu. Bu dönemde toplam yaptırımlarda ve yaptırım uygulanan toplam bireysel hesaplarda yaklaşık %16 oranında bir artış gördük.
Snap geçtiğimiz 12 ay içinde, bildirilen ve yaptırım uygulanan hacimlerdeki değişimleri ve bu raporlama dönemindeki (2024'ün ilk yarısı) dönüş sürelerindeki artışı dikkate alarak, kullanıcılar için yeni bildirim mekanizmalarını kullanıma sundu. Özellikle:
Grup Sohbeti Bildirimi: Kullanıcıların birden fazla kişinin katıldığı bir sohbette meydana gelen kötü davranışları bildirmelerini sağlayan Grup Sohbeti Bildirimi seçeneğini 13 Ekim 2023 tarihinde kullanıma sundu Bu değişiklik bildirim kategorilerindeki ölçümlerimizin yapısını etkiledi (çünkü bazı muhtemel zararların bir sohbet bağlamında gerçekleşmesi daha yüksek bir ihtimaldir) ve raporun eyleme geçirilebilirliğini artırdı.
Hesap Bildirim İyileştirmeleri: Bildirimde bulunan kullanıcılara kötü niyetli biri tarafından işletildiğinden şüphe edilen bir hesabı bildirirken sohbet kanıtı göndermeleri seçeneği sunmak için Hesap Bildirim özelliğimizde iyileştirmeler yaptık. Hesap bildirimlerini değerlendirmek için bize daha fazla kanıt ve bağlam sağlayan bu değişiklik 29 Şubat 2024 tarihinde başlatıldı.
Sohbet Bildirimleri ve özellikle Grup Sohbeti Bildirimleri en karmaşık ve incelenmesi en çok zaman alan bildirimler arasında olup, dönüş sürelerinin tüm kategorilerde artmasına neden olmuştur.
Şüpheli Çocuk Cinsel Sömürü ve İstismarı (CSEA), Taciz ve Zorbalık ve Nefret Söylemi bildirimleri yukarıda açıklanan iki değişiklikten ve daha geniş ekosistemdeki değişimlerden özellikle etkilenmiştir. Özellikle:
CSEA: 2024 yılının ilk yarısında CSEA ile ilgili bildirimlerde ve yaptırımlarda bir artış gözlemledik. Ayrıntı verecek olursak, kullanıcılar tarafından yapılan toplam uygulama içi bildirimlerde %64 oranında bir artış, toplam yaptırımlarda %82 oranında bir artış ve yaptırım uygulanan toplam bireysel hesaplarda %108 oranında bir artış gördük. Bu artışlar büyük ölçüde Grup Sohbeti ve Hesap Bildirim özelliklerinin kullanıma sunulmasından kaynaklanmıştır. Bu moderasyon hattının hassas doğası gereği, CSEA ile ilgili ihlal bildirimlerinin incelenmesi için yüksek düzeyde eğitimli görevlilerden oluşan seçkin bir ekip atanmıştır. Çok sayıda ek bildirimler alınması, ekiplerimizin yeni eğitimlere adapte olmalarıyla birleşerek, dönüş sürelerinde bir artışla sonuçlanmıştır. İleri doğru bir adım atarak, dönüş sürelerini kısaltmak ve olası CSEA bildirimleri üzerine doğru yaptırımlar uygulamak için küresel tedarikçi ekiplerimizin sayısını önemli ölçüde artırdık. 2024 yılının ikinci yarısını kapsayan Şeffaflık Raporumuzun dönüş süresinde önemli bir iyileşmeyle bu çabamızın meyvelerini yansıtacağını umuyoruz.
Taciz ve Zorbalık: Bildirimlere dayanarak, Taciz ve Zorbalık olaylarının orantısız şekilde sohbetlerde ve özellikle grup sohbetlerinde gerçekleştiğini gözlemledik. Grup Sohbeti Bildiriminde ve Hesap Bildiriminde yaptığımız iyileştirmeler, bu bildirim kategorisindeki bildirimleri değerlendirirken daha geniş kapsamlı tedbir almamıza yardımcı olacak. Ek olarak, bu dönem itibarıyla, kullanıcıların bir taciz ve zorbalık bildirimi gönderirken bir yorum girmelerini zorunlu kıldık. Bu yorumu inceleyerek her bir raporun bağlamını belirliyoruz. Bu değişiklikler bu bildirim kategorisinde toplam yaptırımlarda (+%91), yaptırım uygulanan toplam bireysel hesaplarda (+%82) ve dönüş süresinde (+245) önemli artışlara yol açtı.
Nefret Söylemi: 2024 yılının ilk yarısında, Nefret Söylemi kategorisinde bildirilen içeriklerde, toplam yaptırımlarda ve dönüş süresinde artışlar gözlemledik. Ayrıntı verecek olursak, uygulama içi bildirimlerde %61 oranında bir artış, toplam yaptırımlarda %127 oranında bir artış ve yaptırım uygulanan toplam bireysel hesaplarda %125 oranında bir artış gördük. Bunun nedeni kısmen sohbet bildirim mekanizmalarımızda yaptığımız (daha önce değindiğimiz) iyileştirmelerdi ve jeopolitik ortam, özellikle de İsrail-Hamas çatışmasının devam ediyor olması durumu daha da kötüleştirdi.
Bu raporlama döneminde, şüpheli İstenmeyen Mesaj ve Kötü Davranış bildirimlerine yanıt olarak, proaktif tespit ve yaptırım uygulama araçlarımızda yaptığımız iyileştirmeler sayesinde, toplam yaptırımlarda ~%65 oranında bir azalma ve yaptırım uygulanan toplam bireysel hesaplarda ~%60 oranında bir azalma gördük. Kendine Zarar Verme ve İntihar ile ilgili içerik bildirimlerine yanıt olarak, Güven ve Güvenlik ekiplerimizin ilgili kullanıcılara karşı bir yaptırım tedbiri almak yerine onlara gerekli durumlarda kendi kendine yardım kaynakları göndermesinin kararlaştırıldığı güncellenmiş mağdur merkezli yaklaşımımız sayesinde, toplam yaptırımlarda benzer düşüşler gördük (~%80 azalma). Bu yaklaşım, aralarında bir pediatri profesörünün ve etkileşimli medya ve internet bozuklukları alanında uzmanlaşmış bir tıp doktorunun da bulunduğu Güvenlik Danışma Kurulumuzun üyeleri tarafından yapılan bilgilendirmeyle benimsenmiştir.
Topluluk İlkelerimizin İhlallerine Karşı Proaktif Olarak Tespit Etme ve Yaptırım Uygulama Çabalarımız
Topluluk İlkelerimizin ihlallerinin proaktif olarak tespiti ve bazı durumlarda yaptırım uygulanması için otomatik araçlar kullanıyoruz. Bu araçlar arasında hash eşleştirme araçları (PhotoDNA ve Google Child Sexual Abuse Imagery (CSAI) Match [Google Çocuk Cinsel İstismarı Görselleri Eşleştirmesi), küfürlü/kaba dil tespit araçları (belirlenen ve düzenli olarak güncellenen küfürlü/kaba dil anahtar sözcükleri ve emojiler listesine göre tespit edilen ve yaptırım uygulayan araçlar) ve çoklu modalite kullanan yapay zekâ / makine öğrenmesi teknolojisi yer almaktadır.
2024 yılının ilk yarısında, Topluluk İlkelerimizin ihlallerini otomatik araçlar kullanarak proaktif olarak tespit ettikten sonra aşağıdaki yaptırım tedbirlerini aldık:
Total Enforcements
Total Unique Accounts Enforced
3,685,602
1,845,125
Policy Reason
Total Enforcements
Total Unique Accounts Enforced
Median Turnaround Time (minutes) From Detection To Final Action
Sexual Content
1,818,287
828,590
<1
Child Sexual Exploitation
491,970
188,877
1
Harassment and Bullying
14,942
11,234
8
Threats & Violence
43,625
29,599
9
Self-Harm & Suicide
761
624
9
False Information
85
81
10
Impersonation
8
6
19
Spam
177,150
110,551
<1
Drugs
869,178
590,658
5
Weapons
205,387
133,079
<1
Other Regulated Goods
48,280
37,028
9
Hate Speech
10,344
8,683
10
Terrorism & Violent Extremism
5,585
2,951
21
Başta çocuklar olmak üzere topluluğumuzun herhangi bir üyesine yönelik cinsel istismar yasa dışı ve son derece uygunsuz olup Topluluk İlkelerimiz tarafından yasaklanmıştır. Platformumuzda Çocuklara Yönelik Cinsel Sömürü ve Suistimalin (CSEA) önlenmesi, tespit edilmesi ve ortadan kaldırılması Snap için birincil önceliktir ve bu ve diğer türden suçlarla mücadele etme kabiliyetlerimizi sürekli olarak geliştiriyoruz.
Bilinen yasa dışı CSEA görsellerini ve videolarını tespit etmek için PhotoDNA dinamik hash eşleştirme ve Google'ın Çocuk Cinsel İstismar Görselleri (CSAI) Eşleştirmesi gibi aktif teknoloji tespit araçları kullanıyoruz. Ek olarak, bazı durumlarda, davranışsal sinyallerden yararlanarak diğer olası yasa dışı CSEA faaliyetlerine karşı yaptırım uyguluyoruz. CSEA ile ilgili içerikleri yasaların gerektirdiği şekilde ABD Ulusal Kayıp ve Sömürülen Çocuklar Merkezi'ne (NCMEC) bildiriyoruz. NCMEC daha sonra, gerektiğinde, yerel veya uluslararası kolluk kuvvetleriyle iş birliği yapar.
2024 yılının ilk yarısında, Snapchat'te CSEA tespit edilmesi üzerine (proaktif olarak veya bir bildirim alınması üzerine) aşağıdaki tedbirleri aldık:
Total Content Enforced
Total Accounts Disabled
Total Submissions to NCMEC*
1,228,929
242,306
417,842
*Note that each submission to NCMEC can contain multiple pieces of content. The total individual pieces of media submitted to NCMEC is equal to our total content enforced.
Yardıma İhtiyacı Olan Snapchat Kullanıcılarına Kaynak ve Destek Sağlama Çabalarımız
Snapchat kullanıcılarının zihinsel sağlığını ve esenliğini içtenlikle önemsiyoruz; Snapchat'i tasarlarken kararlarımızı bu bilinçle almaya devam ediyoruz. Gerçek arkadaşlar arasındaki iletişim için tasarlanmış bir platform olarak Snapchat'in arkadaşların zor zamanlarda birbirlerine destek olmalarına yardımcı olmada benzersiz bir rol oynayabileceğine inanıyoruz. Bu nedenle, yardıma ihtiyacı olan Snapchat kullanıcıları için kaynaklar ve destek geliştirdik.
Here For You arama aracımız, kullanıcıların zihinsel sağlık, anksiyete, depresyon, stres, intihar düşünceleri, keder ve zorbalık gibi belirli konularda arama yaptıklarında uzman yerel ortaklar tarafından sağlanan kaynakları göstermektedir. Ayrıca, sıkıntı yaşayanlara destek olmak amacıyla, cinsel içerikli şantajları ve diğer cinsel riskleri ve zararları ele alan bir sayfa geliştirdik. Küresel güvenlik kaynakları listemiz Gizlilik, Güvenlik ve Politika Merkezimizde tüm Snapchat kullanıcılarının erişimine açıktır.
Güven ve Güvenlik ekiplerimiz bir Snapchat kullanıcısının zor durumda olduğunu tespit ettiğinde, kendine zarar vermeyi önleme ve destek kaynaklarını gönderebilir ve gerekli durumlarda acil müdahale personeline ihbarda bulunabilir. Paylaştığımız kaynaklar küresel güvenlik kaynakları listemizde mevcuttur ve bunlar tüm Snapchat kullanıcılarının erişimine açıktır.
Total Times Suicide Resources Shared
64,094
İtirazlar
Aşağıda, hesaplarını kilitleme kararımızın gözden geçirilmesini talep eden kullanıcılardan aldığımız itirazlar hakkında bilgi veriyoruz:
Policy Reason
Total Appeals
Total Reinstatements
Total Decisions Upheld
Median Turnaround Time (days) to Process Appeals
TOTAL
493,782
35,243
458,539
5
Sexual Content
162,363
6,257
156,106
4
Child Sexual Exploitation
102,585
15,318
87,267
6
Harassment and Bullying
53,200
442
52,758
7
Threats & Violence
4,238
83
4,155
5
Self-Harm & Suicide
31
1
30
5
False Information
3
0
3
<1
Impersonation
847
33
814
7
Spam
19,533
5,090
14,443
9
Drugs
133,478
7,598
125,880
4
Weapons
4,678
136
4,542
6
Other Regulated Goods
9,153
168
8,985
6
Hate Speech
3,541
114
3,427
7
Terrorism & Violent Extremism
132
3
129
9
Bölgeye ve Ülkeye Genel Bakış
Bu bölümde, Güven ve Güvenlik ekiplerimizin hem proaktif olarak hem de uygulama içi ihlal bildirimlerine yanıt olarak Topluluk İlkelerimizi uygulamak için gerçekleştirdiği eylemlere coğrafi bölgelerden yapılan örneklemelerle genel bir bakış sunulmaktadır. Topluluk İlkelerimiz nerede olursanız olun tüm dünyada Snapchat’teki her içerik ve tüm Snapchat kullanıcıları için geçerlidir.
Tüm AB Üye Devletleri de dahil olmak üzere her ülkeye yönelik bilgiler ekteki CSV dosyasından indirilebilir.
Region
Total Enforcements
Total Unique Accounts Enforced
North America
3,828,389
2,117,048
Europe
2,807,070
1,735,054
Rest of World
3,396,651
1,846,110
Total
10,032,110
5,698,212
Region
Content & Account Reports
Total Enforcements
Total Unique Accounts Enforced
North America
5,916,815
2,229,465
1,391,304
Europe
5,781,317
2,085,109
1,378,883
Rest of World
7,681,716
2,031,934
1,319,934
Total
19,379,848
6,346,508
4,090,121
Total Enforcements
Total Unique Accounts Enforced
1,598,924
837,012
721,961
417,218
1,364,717
613,969
3,685,602
1,868,199
Reklam Moderasyonu
Snap, tüm reklamların reklam politikalarımızla bütünüyle uyumlu olmasını temin etmeye kararlıdır. Reklamlara sorumlu ve saygılı bir yaklaşıma inanıyoruz çünkü tüm kullanıcılarımız için güvenli ve keyifli bir deneyim yaratmayı amaçlıyoruz. Tüm reklamlar inceleme ve onayımıza tabidir. Buna ek olarak, ciddiye aldığımız kullanıcı geribildirimine yanıt olarak gerçekleşmesi dahil, reklamları kaldırma hakkını saklı tutuyoruz.
Snapchat'te yayınlanmalarından sonra bize bildirilen ücretli reklamlarla ilgili moderasyonumuz hakkındaki bilgileri aşağıda bulabilirsiniz. Snapchat'teki reklamların, aldatıcı içerik, yetişkin içerik, şiddet içeren veya rahatsız edici içerik, nefret söylemi ve fikri mülkiyet ihlali dâhil olmak üzere Snap'in Reklam Politikası'nda belirtilen çeşitli nedenlerle kaldırılabileceğini unutmayın. Ayrıca, artık Snapchat'in Reklam Galerisi'ni bu şeffaflık raporunun gezinme çubuğunda bulabilirsiniz.
Total Ads Reported
Total Ads Removed
43,098
17,833
