Snap, Snapchat topluluğunun güvenliğine büyük önem vermektedir. Amacımız, çocukların cinsel istismarı ve suistimalini (CSEA) içeren iğrenç suçlar da dahil olmak üzere dijital ekosisteme yayılan bir dizi çevrimiçi riskten ve potansiyel zarardan kullanıcıları korumaya yardımcı olmaktır. Snap, yıllardır bu yasa dışı içeriğe ve aşağılık suç davranışlarına karşı, Snapchat uygulamasında hem proaktif tespit hem de reaktif müdahale önlemleri kullanarak mücadele etmektedir. Geçtiğimiz yıl, failleri adalete teslim etmeye yardımcı olmak amacıyla ilgili politikalarımızda ve süreçlerimizde ek değişiklikler yaptık. Bu çalışma hakkında daha fazla bilgiyi burada paylaşmak istiyoruz.

CSEA nedir?

Çocukların cinsel istismarı ve suistimali, reşit olmayanlara yönelik cinsel zararı içeren bir dizi yasa dışı faaliyeti kapsar. Bunlar arasında yapay zeka tarafından oluşturulan fotoğraf ve videoların yeni tehdidi de dahil olmak üzere çocukların cinsel istismarı ve suistimali görüntülerinin (CSEAI) izlenmesi, üretilmesi ve dağıtılması; reşit olmayanların cinsel amaçlarla çevrimiçi olarak kandırılması veya tuzağa düşürülmesi yer alır; ¹cinsel şantaj; ²çocuklara yönelik seks ticareti; ve cinsel istismara ve işkenceye maruz kalan çocukların canlı yayınlanması. ³Bu iğrenç gerçeklerin var olduğunu anlamak zor. Ama ne yazık ki bu tür istismarlar her zaman var olmuştur ve dijital dünya artık daha hızlı ve daha geniş kapsamlı suç işleme biçimlerini genişleterek alternatif bir istismar aracı sunmaktadır.

"Teknoloji, çocuklara cinsel ilgi duyanların onlar hakkında fantezi kurma, onlara erişme ve onları avlama biçimlerini temelden değiştirdi," dedi Londra merkezliWeProtect Global Alliance. "New York Timesşöyle yazdı: 'Çevrimiçi çocuk cinsel istismarı krizi kırılma noktasında.' Raporların arttığını, faillerin daha küçük yaştaki kurbanların görüntülerini ve daha iğrenç suçları paylaştığını ve kolluk kuvvetlerinin yetişmekte zorlandığını belirtti. FBI'ın %7.200 arttığını bildirdiği cinsel şantaj, canlı yayın istismarı ve diğerleri gibi bu zorluğa yeni varyasyonlar eklerseniz, bu sorunun dünya çapında politika gündemlerinin en üstünde yer alması gerektiği açıktır," diye ekledi.

Teknoloji şirketlerinin yasal yükümlülükleri

ABD teknoloji şirketleri, platformlarında veya hizmetlerinde CSEA'dan haberdar olduklarında, bunu Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi'ne (NCMEC) bildirmekle yasal olarak yükümlüdür. NCMEC daha sonra bu Siber İpuçlarını inceler ve çocuk mağdurları korumak ve failleri cezalandırmak için hem yurt içi hem de uluslararası kolluk kuvvetleriyle irtibat kurar.

Geçen yıla kadar, NCMEC'e yapılan Siber İpuçlarının yıllık toplamları büyük ölçüde yıldan yıla artarak 36,2 milyonluk rekor bir rapora ulaştı ⁴2023'te, 2022'deki 32 milyonun biraz üzerindeki sayıdan ve NCMEC'in Siber İpucu Hattı'nın oluşturulduğu 1998'deki 4.560'tan yükseldi. Siber İpuçlarındaki bu rekor artış, küresel olarak cinsel şantajdaki sürekli artış ve kolluk kuvvetlerinden kendi Siber İpuçlarımızın eyleme geçirilebilirliği hakkında aldığımız geri bildirimler de dahil olmak üzere diğer faktörlere ek olarak, Snap'in Siber İpucu raporlamamızı yeniden düzenlemek için 2024'te ilk olarak NCMEC'e başvurmasına neden oldu.

Siber İpucu raporlamasını birkaç yıldır izliyorum ve bazı teknoloji şirketlerinin uygulama eğiliminin raporlamaya yöneldiğine kesinlikle inanıyorumher şeyiNCMEC'e, hatta yasal yükümlülüklerinin de ötesinde, bir şeyi kaçırmakla suçlanma korkusuylabir şeyi. ⁵Yasanın gerektirdiği şekilde rapor vermeyen şirketler ağır para cezalarıyla karşı karşıya kalabilir. Ancak bu raporlama yaklaşımı, birçok raporun düşük eyleme geçirilebilirliğiyle (Siber İpuçlarının kolluk kuvvetlerinin harekete geçmesi için yeterli bağlamdan yoksun olması veya bazı durumlarda rapor edilen davranışın onlar için bir öncelik olmaması nedeniyle) birleştiğinde, Siber İpuçlarının artmasına, çok sayıda, kapsamlı incelemeye ve kolluk kuvvetleri arasında artan hayal kırıklığına neden oldu.

Hedef: Yüksek Değerli Siber İpuçları

NCMEC ile yaptığımız yeniden düzenlemenin amacı, kendi platform politikalarımızı ve NCMEC'e raporlama için sahip olduğumuz protokolleri geliştirerek Snap'in Siber İpuçlarının eyleme geçirilebilirliğini ve değerini daha da artırmaktı. Bu ilk yeniden düzenleme 2024 yılının Mayıs ayında gerçekleşti ve politika değişikliklerimiz geçen yılın ikinci yarısında tam olarak yürürlüğe girdi.

Tek başına raporların saf sayısına çok fazla vurgu yapmaktan kaçınmamız gerekse de, politika iyileştirmelerimizi uyguladığımızdan beri, Snap, NCMEC'e yaptığımız genel raporlama hacminde önemli bir düşüş ve çevrimiçi tuzağa düşürme için yapılan bildirimlerde benzer bir düşüş gördüğümüzü paylaşmaktan memnuniyet duyar. Tüm bunlar olurken Siber İpuçlarında CSEA'yı bildirme yasal yükümlülüklerimizi yerine getirmeye devam ettik. Bununla birlikte, değişiklikler 2024'ün sonlarında uygulandığı ve değişiklikleri yansıtmak için yılın sadece birkaç tam ayı kaldığı için, daha düşük toplamlar henüz NCMEC'in yıllık raporlama hacimlerine yansımadı.

Buna paralel olarak ekibimiz, Siber İpuçlarımızdaki verileri ve etiketlemeyi iyileştirmek için çalışıyor. Bu tür açıklamalar, iddia edilen suçların ve ilgili kişilerin daha iyi tespit edilmesine yardımcı olabilir ve buna karşılık, NCMEC ve kolluk kuvvetleri tarafından raporların daha hızlı ve daha doğru bir şekilde önceliklendirilmesine olanak tanıyabilir. NCMEC'e raporlama gerekli olmasa bile, Snap, platform politikalarımızı ihlal eden görüntüleri ve davranışları ele almaya devam edecektir. Bu, ihlal eden içeriği kaldırma, hesabı devre dışı bırakma ve yeni hesapların oluşturulmasını engellemeye çalışma gibi eylemleri içerebilir.

Yeniden düzenleme kontrol noktası

Geçen ay, NCMEC ile ikinci bir yeniden düzenleme toplantısı yaptık. Bu toplantıda Snap ekibi geçen yılki dahili politika değişikliklerini özetledi, kaydettiğimiz ilerleme hakkında NCMEC'i bilgilendirdi, bazı ek işletim yönergelerini teyit etti ve önümüzdeki aylar için beklentileri belirlemeye yardımcı oldu. Ayrıca, hem NCMEC hem de kolluk kuvvetleri için raporlarımızın değerini artırmaya devam edeceğini umduğumuz, planlanan bazı politika ve raporlama eklemelerinin ön izlemesini yaptık. Doğal olarak, bu yinelemeli bir süreçtir, ancak geçen yılki ilerlemeden cesaret alıyoruz.

Geleceğe bakış

Zamanla, NCMEC ve kolluk kuvvetlerinin önceki yıllara kıyasla Snap'ten daha az sayıda Siber İpucu görmeye devam etmesini, ancak onlarıngerçektenaldığı ipuçlarının daha büyük bir yüzdesinin daha yüksek kaliteli bilgiler içermesini ve daha eyleme geçirilebilir olmasını bekliyoruz.

Güvenlik çalışmalarımızın her alanında sürekli iyileştirmeye kararlıyız. CSEA veya diğer potansiyel çevrimiçi zararlarla mücadele konusunda tüm yanıtlara sahip olduğumuzu iddia etmiyoruz; kimse iddia etmemeli çünkü kimse sahip değil. Her gün, toplumun tamamını ilgilendiren sorunlarla mücadele ediyoruz ve bir bütün olarakşirketyaklaşımını benimsiyoruz. Nihai ikili hedefimiz riski azaltmak ve zararı en aza indirmektir.

Siber İpuçlarımızla ilgili olarak, çok da uzak olmayan bir gelecek için belirgin bir hedefimiz var: İster bir eyalet Çocuklara Karşı İnternet Suçları Görev Gücü (ICAC) komutanı, ister bir federal müfettiş, ister dünyanın öbür ucundaki bir kolluk kuvveti üyesi olsun, eyalet, federal ve uluslararası yetkililerin Snap'ten gelen Siber İpuçlarını güvenle takip etmelerini istiyoruz çünkü raporlarımızın eyleme geçirilebilir, değerli ve kapsamlı olduğuna tutarlı bir şekilde güvenilebileceğini biliyorlar. Ve umudumuz, bu çabaların ilgili tutuklamalarda buna karşılık gelen bir artışa yol açmasıdır ⁶ve dünya çapında mahkumiyetler.

NCMEC, WeProtect, ABD'deki 61 ICAC Görev Gücü, dünya çapındaki kolluk kuvvetleri ve CSEA ile mücadele alanındaki tüm meslektaşlarımıza ve işbirlikçilerimize kocaman bir "teşekkürler". Ayrıca stratejilerimizi ve yaklaşımlarımızı daha da geliştirmek için geri bildirimlerinize açık ve istekli olduğumuzu belirtmek isteriz. Bu işte hepimiz birlikteyiz.

- Jacqueline Beauchere, Küresel Platform Güvenliği Başkanı