Snap olarak, kötü niyetli kişilerin platformumuzu kötüye kullanma kabiliyetini sınırlandırmak için güvenlik mekanizmalarımızı ve platform politikalarımızı sürekli olarak geliştiriyoruz. Kurallarımızı ihlal eden faaliyetleri tespit etmek ve engellemek için ileri teknolojiden yararlanıyoruz, arkadaşlık sürecinin yavaş ilerlemesi için tasarım ilkeleri uyguluyoruz, emniyet teşkilatını destekliyor, devlet yetkilileri ile iş birliği yapıyor ve başta gençler olmak üzere topluluğumuzun tüm üyelerini etkileyen en ciddi zararlarla ilgili farkındalık yaratmak ve eğitim sunmak için çalışıyoruz. 

Gençleri koruma sorumluluğumuzu çok ciddiye alıyoruz. Aşağıdakiler de dahil olmak üzere önemli çalışmalar yürütüyoruz: 

I. Snapchat'i kötü niyetli kişilerle mücadele eden bir ortam haline getirmek

Bu yılın başında, başta genç kullanıcılarımız olmak üzere topluluğumuzu daha fazla korumaya yardımcı olmak ve Snapchat'i benzersiz kılan gerçek ilişkileri güçlendirmek için yeni özellikleri duyurduk. Bu güncellemeler arasında şunlar yer alır: Şüpheli kişilerle ilgili genişletilmiş uygulama içi uyarılar, özellikle gençler için geliştirilmiş ileri arkadaşlık korumaları ve istenmeyen kişileri engellemeye yönelik geliştirilmiş özellikler. 

Çevrimiçi cinsel içerikli şantajla mücadeleye odaklanan bu değişiklikler, çocuklara yönelik her türlü cinsel istismarla ve sömürüyle mücadele etmeye yönelik süregelen yatırımlarımızı temel almaktadır. Örneğin: 

Kötü niyetli kişiler başkalarını hedef alma ve mağdur etme fırsatı bulmadan onları aktif biçimde engelleyebilmek için cinsel içerikli şantaj davranışlarını belirlemeye yönelik sinyaller kullanıyoruz. Bunun yanı sıra, PhotoDNA (bilinen yasa dışı görüntülerin kopyalarını tespit eder), CSAI Match (bilinen yasa dışı videoların kopyalarını tespit eder) ve Content Safety API (yeni, “daha önce karma işlemi yapılmamış” görüntüleri tespit etmeye yardımcı olur) dahil olmak üzere, Snapchat'te Çocuklara Yönelik Cinsel Sömürü ve İstismar Görüntülerinin (CSEAI) yayılmasını önlemek üzere tasarlanmış teknolojilerden yararlanılır ve bu teknolojiler kullanıma sunulur.

Uzun süredir kurallarımızı ihlal eden içerik ve hesapları uygulama içinden basit bir şekilde raporlama olanağı sunsak da, 2023 yılında cinsel içerikli şantajla ilgili zararlarla mücadelemizi destekleyecek iyileştirmeler yaptık. Geçen yıl, Snapchat kullanıcılarının bireysel mesajları doğrudan konuşma penceresinden raporlamalarına olanak veren uygulama içi sohbet metni raporlama özelliğini kullanıma sunduk. Ayrıca, uygulama içi raporlama araçlarımızı cinsel içerikli şantaj ile ilgili kişiye özel bir raporlama nedeni içerecek şekilde genişlettik ve Çocuklara Yönelik Cinsel Sömürü ve İstismar ile mücadele eden bir STK olan Thorn'un tavsiyesi ve rehberliği ile, bu raporlama seçeneğini çocukların ve gençlerin aşina olduğu ifadelerle sunduk (Örn. "Çıplak fotoğraflarımı sızdırdılar/sızdırmakla tehdit ediyorlar"). Buna karşılık, bu raporlar sinyale dayalı tespit ve yaptırım dahil olmak üzere, yaptırım çalışmalarımızla ilgili bilgi sağlamak için kullanılır. Trendleri, kalıpları ve cinsel içerikli şantaj yapan kişilerin tekniklerini analiz ederiz ve bir hesap belirli özellikler sergiliyorsa cinsel içerikli şantaj nedeniyle kilitlenir.

2022 yılında kullanıma sunulan ve ebeveynlerin çocuklarının Snapchat'te kimlerle arkadaş olduğunu, en son kimlerle sohbet ettiğini görebileceği ve onları endişelendirebilecek hesapları kolayca raporlayabileceği Aile Merkezimizi geliştirmeye ve buraya yeni araçlar eklemeye devam ediyoruz. Aile Merkezimizin hedefi her zaman ebeveynler/bakım verenler ile gençler arasında internette güvende olma konusunda açık ve yapıcı diyalog kurulmasını sağlamak olmuştur. 

Emniyet teşkilatı ile yakın iş birliği içinde çalışıyoruz ve topluluğumuzu güvende tutmaya yardımcı olmak için dünya genelinde 7/24 faaliyet gösteren güvenlik ve emniyet operasyon ekiplerimize yoğun bir şekilde yatırım yapıyoruz. Örneğin, Güven ve Güvenlik ekiplerimiz 2020 yılından bu yana iki kattan fazla büyürken, Emniyet Operasyonları ekibimiz bu süre içinde üç kattan fazla büyüdü. Polis memurlarının ve kurumların platformumuzda gerçekleşebilecek herhangi bir yasa dışı faaliyete karşı uygun önlemleri nasıl alacaklarını bilmelerini sağlamak için ABD'de emniyet teşkilatına yönelik yıllık zirveler düzenliyoruz. 

Ayrıca, birçok cinsel içerikli şantaj olayının kaynağı olan Nijerya'da faillere soruşturma ve dava açma kabiliyetlerini ve bilgilerini geliştirmek için doğrudan emniyet teşkilatı ile birlikte çalışıyoruz ve bu alanda daha fazla iş birliği yapmak için Nijerya hükümetiyle etkileşimimizi sürdürmeyi planlıyoruz. Ayrıca, cinsel içerikli şantaj faaliyetlerinin yaygın olduğu ABD dışındaki ülkelerde Siber Güvenlik İhbarlarının soruşturulması konusunda emniyet teşkilatına eğitim vermek için International Justice Mission, NCMEC ve sektördeki diğer aktörlerle birlikte çalıştık.

Yıllardır, “güvenilir işaretçilerden” oluşan güçlü bir grup ile etkileşim halindeyiz. Kâr amacı gütmeyen kuruluşlardan, STK'lardan ve belirli devlet kurumlarından oluşan bu grup, yüksek öncelikli kanallar aracılığıyla, istismar vakalarını, hayata yönelik yakın tehditleri ve diğer acil durumları ihtiyaç duyan Snapchat kullanıcıları adına bize bildirmektedir. Trusted Flagger Program'daki katılımcıların çoğunluğu, cinsel içerikli şantaj dahil olmak üzere çocuklara yönelik cinsel içerikli zararlarla ilgili içerik ve hesapları rapor etmektedir.  

II. Sektör uzmanları ve koalisyonlarla etkileşim 

Kendi yatırımlarımıza ek olarak, dünyanın dört bir yanındaki uzmanlarla da etkileşim kuruyoruz; çünkü hiçbir kurum veya kuruluşun bu sorunları tek başına anlamlı bir şekilde çözemeyeceğini biliyoruz. Örneğin; Snap, WeProtect Global Alliance'ın uluslararası Politika Kurulunda sektörü temsil etmesinin yanı sıra, INHOPE Danışma Konseyi üyesidir ve UK Internet Watch Foundation (IWF) Mütevelli Heyeti'nde yer almaktadır. Bu kuruluşların tümünün misyonlarının merkezinde internette Çocuklara Yönelik Cinsel Sömürü ve İstismarın ortadan kaldırılması bulunmaktadır.

Çocuklara yönelik çevrimiçi cinsel istismarla ve sömürüyle mücadeleye odaklanan küresel bir sektör ittifakı olan Tech Coalition'ın aktif üyesiyiz ve kısa bir süre önce Tech Coalition Yönetim Kurulu'nun İcra Komitesi'nde iki yıllık görevimizi tamamladık. Aynı zamanda, şirketlerin çocuk güvenliği politikalarına yönelik uygulamalarını güçlendirmeyi amaçlayan ilk platformlar arası sinyal paylaşımı programı olan Tech Coalition Lantern girişiminin kurucu üyeleriyiz. Şirketler, bu programa aktif katılım yoluyla, cinsel içerikli şantaj yapanlar da dahil olmak üzere kötü niyetli kişileri kontrol etmek için birbirlerine yardımcı olabilirler.   

Bunun yanı sıra, çocukların doğrudan cihazları üzerinden, seçilen görüntü veya videoların “karma” adı verilen dijital parmak izini oluşturmalarına olanak tanıyan Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi (NCMEC) Take It Down veri tabanından yararlanıyoruz. Snap de dahil olmak üzere katılımcı şirketler daha sonra bu karmaları Topluluk İlkelerimizi ihlal eden yinelenen görüntüleri aramak ve kaldırmak için kullanabilmektedir. Birleşik Krallık'ta da Report Remove adı verilen benzer bir programa katılıyoruz ve geçen yıl, sahip oldukları karma veri tabanından yararlanarak Snapchat'te rızaya dayalı olmayan özel görüntülerin (NCII) yayılmasını önlemeye yardımcı olmak için SWGfL'nin StopNCII işbirliğine katıldık. StopNCII, 18 yaşından büyük olan kişilerin özel görüntülerinin yayılmasını önlemeye yardımcı olur ve mağdurlara en özel fotoğrafları ve videoları üzerindeki gizlilik haklarını geri alma olanağı sunar.

Bu yıl, aynı zamanda, ABD'nin dört bir yanından gelen ve okullarında ve topluluklarında daha güvenli çevrimiçi alışkanlıkları ve uygulamaları savunan bir yıllık bir pilot programa katılmak üzere seçilen 18 gençten oluşan ilk Snap Dijital Sağlık Konseyi'ni oluşturduk. Temmuz ayında, bu grup en az bir ebeveyn veya refakatçiyle birlikte, çevrimiçi tuzaklar ve sosyal dinamikler ile ebeveyn araçları gibi konularda ilgi çekici içgörüler sağlayan tartışmalar için Santa Monica, Kaliforniya'da bulunan Snap merkezinde bir araya geldi. Bunun yanı sıra, Snap, güvenlik konularında Snap'e doğrudan rehberlik ve yönlendirme sağlayan 16 profesyonel ve üç gençlik temsilcisinden oluşan Snap Güvenlik Danışma Kuruluna da sahiptir. Her iki grup üyelerinin bir araya gelerek ek içgörüler ortaya koymaları için daha fazla fırsat yaratmayı umduğumuz 2025 yılını dört gözle bekliyoruz. 

III. Farkındalık yaratma 

Şirket içi yatırımlarımızın ve uzmanlar ve farklı sektörler ile yaptığımız çalışmaların dışında, çevrimiçi cinsel istismar ve cinsel içerikli şantaj planlarıyla mücadelede kritik bir unsur da kamuda ve Snapchat kullanıcıları arasında farkındalık yaratmaktır. 

2022 yılında, gençlerin ve genç yetişkinlerin tüm platformlardaki çevrimiçi durumlarına dair analizler sunan sektör lideri bir araştırma olan Dijital Sağlık Endeksi'ni tanıttık. Bu araştırma kapsamında, son iki yıl boyunca cinsel içerikli şantaj konusunu ayrıntılı olarak inceledik. Bu çalışma, sadece Snapchat'teki deneyimleri değil, genel olarak çevrimiçi deneyimleri de kapsadığından, yalnızca çalışmalarımız için bilgi sağlamakla kalmıyor, aynı zamanda teknoloji ekosistemindeki diğer aktörlere de analizler sunmasını umuyoruz. Bu ayın ilerleyen günlerinde, Teknoloji Koalisyonu'nun çocuklara yönelik cinsel içerikli şantaj ile ilgili yaklaşan sanal Çok Paydaşlı Forumunda, cinsel içerikli şantaja ilişkin iki yıllık ayrıntılı incelemelerimizin sonuçlarını paylaşacağız. 

Bu yılın başında, ABD İç Güvenlik Bakanlığı (DHS) tarafından başlatılan türünün ilk örneği bir kamu farkındalığı kampanyası olan Know2Protect'i destekleyen ilk kuruluş olma gururunu yaşadık. Bu kampanya, cinsel içerikli şantaj gibi suçları önleme ve bunlarla mücadele etmeye yardımcı olma konusunda gençleri, ebeveynleri, güvenilir yetişkinleri ve politika yapıcıları eğitir ve destekler. K2P eğitim kaynakları için Snapchat'te reklam alanı bağışına ek olarak, kampanya için daha fazla bilgi sağlamak üzere ABD'deki gençler ve genç yetişkinlerle ek araştırmalar yürütüyoruz. Ayrıca, interaktif bir Know2Protect testi aracılığıyla Snapchat kullanıcılarının eğitilmesine yardımcı olmak için bir artırılmış gerçeklik Snapchat Lensinin kullanıma sunulmasında da birlikte çalıştık. Birleşik Krallık'ta ise IWF'nin kamuda bu sorunlarla ilgili farkındalık yaratmaya yönelik bugüne kadarki en kapsamlı kampanyası olan Gurls Out Loud'ı destekledik. Bu kampanya, 11 - 13 yaşlarındaki kız çocuklarına çocuk tacizine yönelik çevrimiçi girişimler, cinsel içerikli mesajlaşma ve çıplak fotoğraflar gönderme konularında bilgi vermeyi amaçlamaktadır. Ayrıca, kısa bir süre eğitimcilere, cinsel içerikli şantajla nasıl mücadele edileceğine dair bilgi ve rehberlik sunan kapsamlı bir araç kiti geliştirmek için Safe and Sound Schools ile ortaklık kurarak Eğitimcinin Snapchat Rehberi'ni kullanıma sunduk. 

Yıllar süren araştırmalarımıza dayanarak, farkındalık yaratmanın ve topluluk eğitiminin çevrimiçi zararların önlenmesine yardımcı olan güçlü araçlar olduğunu biliyoruz ve doğrudan Snapchat üzerinden çocuklara ve gençlere ulaşmak için uygulama içi kaynaklar geliştirmeyi ve tanıtmayı sürdürüyoruz. Eylül 2023'te, cinsel içerikli şantaj da dahil olmak üzere cinsel içerikli riskler ve zararlara odaklanan dört yeni uygulama içi “Safety Snapshot” bölümü yayınladık. Ayrıca, cinsel içerikli mesajlaşmaya, çıplak fotoğraflar oluşturmanın ve paylaşmanın sonuçlarına, çocuk tacizine yönelik çevrimiçi girişimlere ve çocuklara yönelik seks ticaretine ilişkin bölümler de sunuyoruz. Bu kaynakların tümü, Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi'ndeki (NCMEC) uzmanlar tarafından incelenmiş ve önemli coğrafyalardaki ilgili hizmet ve yardım hatları ile iş birliği içinde oluşturulmuştur. 

Çocuklara yönelik çevrimiçi cinsel istismar ve sömürü ile mücadele etmeyi sürdürüyoruz, ancak daha yapılacak çok işimiz var. 2025 yılında, potansiyel çevrimiçi zararlarla ilgili farkındalık yaratmaya ve herkesin potansiyel bir hedef olabileceğini yinelemeye devam edeceğiz. Kötü niyetli kişilerin önünü erkenden kesmek, planlarını sekteye uğratmak ve emniyet teşkilatı için daha eyleme geçilebilir Siber Güvenlik İhbarları üretmek istiyoruz.

Bu stratejilerin bir çoğunu sahte hap satışını da içeren yasa dışı uyuşturucu faaliyetleri, şiddet tehditleri ve intihar ve kendine zarar verme içerikleri gibi diğer büyük zararlarla mücadele ederken kullandığımızın da altını çizmek isteriz. Bu alandaki çalışmalarımızın hiçbir zaman tamamen bitmeyeceğinin farkındayız, ancak Snapchat kullanıcılarının güvenliğine büyük önem veriyoruz ve bilgi alışverişinde bulunmak ve savunmamızı güçlendirmek için sektör, devlet ve emniyet teşkilatı ile iş birliği içinde çalışmayı sürdüreceğiz.