Son yıllarda yapay zeka araçlarındaki hızlı artış yaratıcılık, öğrenme ve iletişim için yeni fırsatlar yarattı ve yaratmayı sürdürecek. Bununla birlikte, teknoloji aynı zamanda mevcut çevrim içi risklere yeni dinamikler de kattı. Yeni araştırmalar, internette yapay zeka tarafından cinsel içerikli görüntülerle ve videolarla karşılaşan insan sayısı artarken bu içeriklerin bir kısmının yasa dışı olduğuna dair farkındalık yaratmanın zorluğunun devam ettiğini gösteriyor.

Snap, gençlerin ve genç yetişkinlerin tüm platform ve hizmetlerdeki tutum ve davranışlarını daha iyi anlayabilmek için sektör çapında Dijital Sağlık Endeksi olarak adlandırılan yıllık bir araştırma yürütüyor ve paylaşıyor.  (Araştırmayı Snap talep etmiş olsa da, araştırma Z Kuşağının dijital platformlardaki genel deneyimini kapsamakta olup özel olarak Snap'e odaklanmamaktadır.)  Üçüncü Yıl çalışmamızın tüm sonuçlarını Şubat 2025'teki uluslararası Güvenli İnternet Günü ile bağlantılı olarak yayınlamayı planlasak da, gençlerin, genç yetişkinlerin ve hatta ebeveynlerin üretken yapay zeka tarafından oluşturulan cinsel içeriklerle nasıl etkileşim kurduğuna dair bazı önemli bulgularımızla ilgili bir ön izleme sunmak istiyoruz. Çocuklara Yönelik Cinsel Sömürü ve İstismara küresel çapta odaklandığımız bu hafta kapsamında ve yapay zeka tarafından oluşturulan cinsel içeriklerle ilişkili zararları ortadan kaldırma odaklı Empowering Voices DC Zirvesi'ne katılımımızla bağlantılı olarak, bugün bu ön izlemeyi sunuyoruz. 

Örneğin, 6 ülkede 9.007 gencin, genç yetişkinin ve gençlerin ebeveynlerinin anketlere katıldığı çalışmamızda, ¹katılımcıların %24'ü yapay zeka tarafından oluşturulmuş cinsel nitelikli bir tür görüntü veya video gördüğünü söylemiştir. Bu tür içerikleri gördüğünü söyleyenlerden yalnızca %2'si görüntülerin 18 yaşından küçük bir bireye ait olduğunu belirtmiştir.

Bu tür içerikler gören 10 kişiden 9'unun içeriği engellemek veya silmekten (%54) güvenilir arkadaşlar veya aile bireyleri ile konuşmaya (%52) kadar değişen çeşitli aksiyonlar alması umut vericidir. Ancak, bu kişilerin yalnızca %42'si içeriği gördükleri platforma veya hizmete ya da bir çağrı/yardım hattına bildirdiğini söylemiştir. Bu veriler, genel olarak dijital güvenlik ile ilgili sorunların bildirilme oranının düşük olması ile tutarlılık göstermektedir. Daha önceki bir gönderide, gençlerin internetteki belirli sorunlu içeriklere ve davranışlara maruz kalmayı normalleştirmemesi veya bildirimde bulunmayı ispiyonculukla bir tutmaması için bildirimde bulunmaya dair negatif algılarla mücadelenin önemine dikkat çekmiştik. 

Yanıt verenlerin %40'ından fazlasının platformların/hizmetlerin reşit olmayan bireylerin cinsel içerikli görüntülerini (bu görüntüler şaka veya espri amaçlı olsa bile) bildirme yükümlülüğü hakkında net bilgilere sahip olmaması daha da endişe uyandırıcıdır. Daha fazla sayıda kişi (%70+) bir kişinin cinsel içerikli sahte görüntülerini oluşturmak için yapay zeka teknolojisi kullanmanın veya reşit olmayan bireylerin cinsel içerikli görüntülerini saklamanın, görüntülemenin veya paylaşmanın yasa dışı olduğunun bilincinde olsa da, bu bulgular genel olarak kamunun bu tür içeriklerle ilgili yasal gereklilikler konusunda bilinçlenmesini sağlamak için halen yapılması gereken önemli çalışmalar olduğunu göstermektedir.

Örneğin, ABD'de katılımcıların yaklaşık %40'ı, bir kişinin cinsel içerikli sahte görüntülerini oluşturmak için yapay zeka teknolojisini kullanmanın yasal olduğuna inandığını söylemiştir. Gayrı resmi olarak, sektördeki meslektaşlarımızdan, bu tür içeriklerin çoğalmasıyla birlikte, özellikle bazı genç kızların, yaşıtlarının uygunsuz bir şekilde oluşturup paylaştığı, yapay zeka tarafından değiştirilmiş cinsel görüntülerde kendilerine yer verilmemesi durumunda kendilerini dışlanmış hissettiği yönünde endişe verici bir eğilim olduğunu duyduk. Bu rahatsız edici bilgi, güvenilir yetişkinlerin ve gençlerin bilinçli yaşıtlarının bu tür davranışlara karşı caydırıcılık sağlamada etkin bir rol oynaması yoluyla gençleri bu çevrim içi riskle ilgili olarak eğitme ve bilinçlendirme ihtiyacını daha da fazla vurgulamaktadır.  

Snap'ın süren taahhüdü

Snap olarak, Snapchat'te ve teknoloji ekosisteminde daha güvenli, daha sağlıklı ve daha olumlu deneyimleri teşvik etmeye yardımcı olmak için kaynaklara, araçlara ve teknolojilere sürekli olarak yatırım yapıyoruz.

Bazı durumlarda, kötü niyetli kişileri proaktif olarak uzaklaştırıp yetkililere bildirebilmek için yasa dışı olabilecek faaliyetleri tespit etmeye yönelik davranışsal "sinyaller" kullanıyoruz. Ayrıca, konuşmaya dayalı bir yapay zeka sohbet robotu içeren bir hizmet olarak, Snapchat'te bu tür materyallerin üretilmesini önlemek ve diğer platformlarda üretilmiş olabilecek materyallerin paylaşımına ve dağıtımına karşı koruma sağlamak konusunda ekstra dikkat göstermek için çabalıyoruz. Reşit olmayan bireylerin yapay zeka tarafından üretildiğinden şüphelenilen cinsel içerikli görüntülerine, Çocuklara Yönelik "gerçek" Cinsel Sömürü ve İstismar Görüntüleri (CSEAI) ile aynı şekilde muamele ediyor ve farkına vardığımız içerikleri anında kaldırarak ihlalde bulunan hesabı askıya alıyoruz. Ayrıca, bu hesabı Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi'ne (NCMEC) bildiriyoruz. Bunun yanı sıra, PhotoDNA (bilinen yasa dışı görüntülerin kopyalarını tespit etmeye yönelik bir teknoloji) ve Google'ın CSAI Match'i (bilinen yasa dışı videoların kopyalarını tespit etmeye yönelik bir teknoloji) de dahil olmak üzere CSEAI'nin yayılmasını önlemek için tasarlanmış teknolojilerden yararlanıyor ve bu teknolojileri kullanıma koyuyoruz. Ayrıca, yakın bir tarihte, Google'ın Content Safety API'sini (herkese açık içeriklerdeki yeni, “daha önce karma işlemi yapılmamış” görüntüleri tespit etmeye yardımcı olur) kullanmaya başladık. Bunun yanı sıra, geçtiğimiz yıl Üretken Yapay Zeka kullanılarak üretilen, çocuklara yönelik cinsel istismar materyalleri ile ilgili 4.700 bildirimin benzersiz dijital imzalarının (veya "karmaların") nasıl kullanılacağı konusunda NCMEC ile de işbirliği yapıyoruz. 

Emniyet teşkilatlarıyla iş birliği yaparak soruşturmalarını destekliyor ve topluluğumuzu güvende tutmaya yardımcı olmak için 7/24 çalışan küresel Güven ve Güvenlik ve Emniyet Teşkilatı Operasyonları ekiplerimize yoğun bir şekilde yatırım yapıyoruz. Polis memurlarının ve kurumların platformumuzda gerçekleşebilecek herhangi bir yasa dışı faaliyete karşı uygun önlemleri nasıl alacaklarını bilmelerini sağlamak amacıyla ABD'de emniyet teşkilatına yönelik yıllık zirveler düzenliyoruz. 

Ayrıca, topluluğumuzun üyelerinin başta CSEAI olmak üzere çıplaklık ve cinsel içerikleri işaretlemesi için seçenekler de içeren uygulama içi bildirim araçlarımızı genişletmeye devam ediyoruz. Sorunlu içerikleri ve hesapları bildirmek, teknoloji şirketlerinin kötü niyetli kişileri hizmetlerinden kaldırmalarına ve potansiyel olarak başkalarına zarar vermeden önce daha fazla faaliyet göstermelerini engellemelerine yardımcı olmak için kritik öneme sahiptir. 

Daha yakın bir tarihte, Aile Merkezi araç paketimize, ebeveynlerin çocuklarının Yapay Zeka sohbet robotumuz da dahil olmak üzere Snapchat'i nasıl kullandığını daha iyi anlayabilmek için kullanabilecekleri yeni özellikler ekledik. Ayrıca, eğitimcilerin ve okul yöneticilerinin öğrencilerinin Snapchat'i ve okullara öğrenciler için güvenli ve destekleyici bir ortam oluşturma çabalarında yardımcı olmak için sunduğumuz kaynakları nasıl kullandıklarını anlamalarına yardımcı olabilecek yeni kaynakları kullanıma sunduk.

Bunun yanı sıra, kamuda ve Snapchat kullanıcılarında çevrim içi cinsel zararlara karşı farkındalık yaratmaya yönelik yollara yatırım yapmayı sürdürüyoruz. Uygulama içi “Safety Snapshot” bölümlerimiz, çevrim içi çocuk tacizine ve kaçakçılığına yönelik girişimler gibi konular dahil olmak üzere, cinsel risklere odaklanmaktadır. Ayrıca, ABD Ulusal Güvenlik Bakanlığı'nın, gençleri, ebeveynleri, güvenilir yetişkinleri ve politika yapıcıları çocuklara yönelik çevrim içi cinsel istismar konusunda eğitme ve destekleme odaklı kampanyası Know2Protect'i destekleyen ilk kuruluşuz. 

Ebeveynler, gençler, eğitimciler ve politika yapıcılar gibi her türlü paydaşla, toplumun bütününü ilgilendiren bu tür konularda birlikte çalışmayı sabırsızlıkla bekliyor ve platformlar arası araştırmalarımızdan elde edilen verilerin, insanların mevcut ve yeni çevrim içi tehditlerin ve bu risklerle mücadele etmeye yardımcı olacak kaynakların bilincinde olmasını sağlamak için yeni fikirler ve fırsatlar yaratmaya yardımcı olmasını umuyoruz. 

— Viraj Doshi, Platform Güvenliği Lideri