Gençlerin dijital dünyada gelişmesine yardımcı olmak, çevrimiçi yaşamı doğası gereği iyi ya da doğası gereği kötü olarak tasvir eden basit anlatıların ötesine geçmeyi içerir. Ayrıca, Z kuşağının gelişmesini sağlayan şeyleri anlamak için onların gerçek ve günlük deneyimlerine de odaklanmamız gerekir. Üretken yapay zekânın hızlı yükselişiyle tanımlanan yeni bir döneme girerken, güvenlik çalışmalarımızı nesnel araştırmalara dayandırma taahhüdümüz her zamankinden daha önemlidir. Bu, Snapchat'in özgünlük, bağlantı, aidiyet ve önemlilik odaklı bir iletişim hizmeti olarak kalmasını sağlamaya yardımcı olacaktır.

Bugün, Dijital Esenlik Endeksi (DWBI) çalışmamızın beşinci ve son yılından bazı yeni içgörüler paylaşıyoruz. Bu çalışmanın sonuçları özellikle yapay zeka tarafından oluşturulan içeriklerin gelişen ortamına ve bunun kişilerarası ilişkiler üzerindeki etkisine odaklanmaktadır.

Snap, son beş yıldır, Z kuşağının çevrimiçi psikolojik esenliğini takip etmek ve ölçmek için platformdan bağımsız araştırmalar yapmaktadır. Bu anketi, gençlerin dijital alışkanlıkları ve uygulamaları hakkındaki küresel kanıt tabanına katkıda bulunmak için yapmaktayız ve ortaya çıkan endişeler hakkında farkındalık yaratmaya yardımcı olmaktayız. Böylece ebeveynler, eğitimciler, teknoloji şirketleri, hükûmetler ve sivil toplum riski düşürmek, potansiyel zararı azaltmak ve tekrarlanmasını önlemek için birlikte daha etkin bir şekilde çalışabilir. DWBI, Snapchat de dahil olmak üzere tek bir platforma odaklanmaktan ziyade, daha geniş dijital ekosistemde bulunan altı ülkedeki 13-24 yaş aralığındaki kişilerin deneyimlerini incelemektedir. Avustralya, Fransa, Almanya, Hindistan, Birleşik Krallık ve ABD'den elde edilen en son bulgular, Z Kuşağı arasında deepfake görüntülerin oluşturulmasına ve dağıtılmasına dair yeni içgörüler içermektedir.

Yapay zekâ hakkındaki kamuoyu tartışmaları genellikle aşırı iyimserlik ile derin endişe arasında gidip gelmektedir. Son DWBI'daki bulgular, her iki uç görüşe dayanmaktan ziyade, altı coğrafyadaki 13-24 yaş aralığındaki gençlerin üretken yapay zekâyla nasıl etkileşime girdiğine dair kanıta dayalı bir bakış sunmaktadır. Bu bulgular, deepfake'ler içeren akran etkileşimlerinin karmaşık ve bazen endişe verici bir tablosunu ortaya koymaktadır. Örneğin:

• 13-24 yaş aralığındaki katılımcıların neredeyse üçte biri (%30), başka birinin deepfake görüntüsünü oluşturduğunu ifade etti

• Deepfake oluşturanların yarısından fazlası (%53), bu eylemin sosyal çevrelerinde "dram" veya "çatışma" ile sonuçlandığını ifade etti ve 

• Çoğunluk üretken yapay zekâ araçlarını yaratıcılık, keyif ve eğlence için kullanırken, üçte birinden fazlası (net %35) oluşturdukları deepfake'lerin kötü niyetle yapıldığını özellikle de birini kötü göstermek veya üzmek (%12), intikam almak (%12) ya da başkasını alaya almak veya taciz etmek (%11) amacıyla yapıldığını ifade etti. 

Kendilerinin cinsel içerikli bir deepfake'ine nasıl tepki verecekleri sorulduğunda, reşit olmayan gençlerin büyük çoğunluğu (net %81) biriyle, özellikle bir ebeveynle (%65) konuşacağını belirtirken, Z kuşağındaki genç yetişkinlerin onda yedisi (%70) bunu bildireceğini, başlıca başvuru yollarının ise kolluk kuvvetleri (%53) ve teknoloji platformları (%51) olacağını belirtmiştir. Reşit olmayan ergenlerin onda birinden fazlası (%18) ve 18-24 yaş grubundaki gençlerin onda ikisinden fazlası (%22), bunu sadece görmezden geleceklerini veya listelenen eylemlerden hiçbirini yapmayacaklarını belirtmiştir. Aşağıdaki tablo, önerilen eylem seçeneklerini özetlemektedir.

Bu bulgular önemli bir gerçeği vurgulamaktadır: 21. yüzyılda dijital esenlik, geleneksel güvenlik araçları ve kaynaklarından fazlasını gerektirmekte olup kapsamlı ve uygulanabilir bir yapay zeka okuryazarlığına ihtiyaç duymaktadır. Gençlerin %30'unun, akranlarının yer aldığı yapay medya oluşturduğunu belirtmesi, bu etkinliğin kişisel ilişkiler, itibar ve bir bireyin nasıl tasvir edildiği üzerindeki kontrol hissine dair etkileri olabileceğini göstermektedir.

Buna uygun olarak, politika odaklı sohbetlerin korku temelli tepkilerden uzaklaşıp günümüzdeki çevrimiçi gençlerin "tüm kişiliğini" kapsayan bir çerçeveye yönelmesi gerekir. Ele alabileceğimiz üç temel bileşen şunlardır:

1. Yapay Zeka Okuryazarlığı: Gençlerin yalnızca yapay zekayı nasıl kullanacaklarını değil, aynı zamanda başkalarının rızası olmadan onları ilgilendiren içerikler oluşturmanın etik ve sosyal sonuçlarını da anlamalarına yardımcı olmak.

2. Kişisel Kontrol: Gençlerin sınırları tanıması ve kendi dijital görünümleri üzerindeki kontrolü sürdürmeye çabalaması konusunda onları güçlendirmek ve

3. Açık İletişim: Gençleri, ebeveynleri, eğitimcileri ve diğer güvenilir yetişkinleri dijital etkileşimlerin niceliğinden ziyade niteliği hakkında açık ve düşünceli konuşmalar yapmaya teşvik etmek; bu sayede "şaka olsun diye" oluşturulan herhangi bir deepfake'in bile başkaları üzerinde kalıcı etkiler yaratabileceğini kabul etmelerini sağlamak.

Bu arada, yapay zeka araçlarını güvenli ve sorumlu bir şekilde kullanmayı nereden ve kimden öğrendikleri sorulduğunda 13 ila 24 yaş aralığındaki gençlerin onda sekizi (net %81) kendi kendilerine öğrendiklerini ifade etmiştir. 13-17 yaş grubundakilerin yaklaşık dörtte biri (%27), ebeveynlerinden öğrendiklerini belirtirken, öğretmenler hem ergenlerin (%11) hem de genç yetişkinlerin (%10) bilgi tabanının onda birini oluşturuyordu.

Bulgular, Snap'in Z Kuşağının çeşitli platformlardaki çevrimiçi psikolojik esenliğine ilişkin beş yıllık çalışmasının bir parçasıdır ve altı ülkedeki ergenlerin (13-17 yaş) ve genç yetişkinlerin (18-24 yaş) çevrimiçi ortamda ne durumda olduklarını ölçen Dijital Esenlik Endeksi'nin (DWBI) en son ve nihai bölümünü oluşturmaktadır. Ayrıca, 13-19 yaş aralığındaki gençlerin çevrimiçi deneyimleri hakkında ebeveynleriyle de anket yapıyoruz. Bu son anket 11 Mayıs - 30 Mayıs 2026 tarihleri arasında gerçekleştirilmiş olup üç yaş demografisi ve altı coğrafyadan 9.005 katılımcıyı içermektedir. Her ülke için ve altı ülkenin tümü için en son DWBI değerlerini de içeren sonuçların tamamı, Şubat ayındaki 2027 yılı Güvenli İnternet Günü'nde yayınlanacaktır. Bu konuların birçoğu hakkında devam eden küresel diyalog nedeniyle, yapay zeka ile ilgili bu bulguları erkenden yayınlamayı seçtik.

Dijital esenliği incelediğimiz beş yıllık bu dönemi sonlandırırken ve önümüzdeki birkaç yıl için araştırma odağımızı geliştirirken, ekosistem genelinde misyonumuz açık bir şekilde devam ediyor:  Gençlerin mümkün olduğunca güvenli ve özgün bir şekilde öğrenebileceği, gülebileceği ve bağlantı kurabileceği çevrimiçi alanlar oluşturmak. Deepfake'lerin artması, teknoloji geliştikçe operasyonel ve eğitim çalışmalarımızın da onunla birlikte gelişmesi gerektiğini hatırlatıyor. Okuryazarlık, dayanıklılık ve eleştirel düşünme konularına odaklanmaya devam ederek, gelecek neslin çevrimiçi ortamda sadece "idare etmesini" değil, gerçek anlamda başarılı olmasını sağlamaya yardımcı olabiliriz.

Snap, bu çabaların desteklenmesi amacıyla geçen ay tamamen yapay zekâ tarafından oluşturulan videoların artık Snapchat'in Sahne Işığı özelliğinde önerilmeye uygun olmayacağını duyurdu. Gerçekten de düşük kaliteli, tekrarlayan ve yapay zeka tarafından oluşturulan içerikler çevrimiçi alanlarda giderek daha yaygın hale gelirken Snap, Sahne Işığı'nın, insanların gerçek insanlardan özgün yaratıcılığı keşfedebileceği bir yer olarak kalmasını istiyor. Ayrıca ebeveynler ve gençler için yapay zeka tarafından üretilen materyaller hakkında kısa bir bilgi notu hazırladık. "Dur. Düşün. BU Yapay Zeka Olabilir mi?” gençler, ebeveynler ve diğer güvenilir yetişkinler arasında yapay zeka araçlarının güvenli ve sorumlu kullanımı hakkında sohbet başlatmak üzere tasarlanmıştır. Ayrıca birçok başka grup ve kuruluşla da işbirliği yapıyoruz ve ABD İç Güvenlik Bakanlığı'nın çocuklara yönelik cinsel sömürü ve istismara yönelik farkındalığı artıran Know2Protect kampanyasını destekleyen ilk kuruluş olduk. Know2Protect, deepfake'ler hakkında bir başlangıç yazısını burada yayımladı.   

Snap, kamu politikası alanında Mayıs 2025'te yürürlüğe giren ve yapay zeka tarafından üretilen içerikler de dahil olmak üzere rıza dışı mahrem görüntülerin ele alınmasına yönelik ABD federal çerçevesini oluşturan "Take It Down" Yasası'nı destekledi. Yasa, materyalin özgün ya da yapay olarak üretilmiş olmasına bakılmaksızın, rıza dışındaki mahrem görüntüleri bilerek yayınlamayı veya yayınlanmakla tehdit etmeyi federal bir suç haline getiriyor ve kapsama giren platformların bir bildirim süreci oluşturmasını ve bildirilen içerikleri 48 saat içinde kaldırmasını gerektiriyor.

Benzer endişeler, çoğu Snap'in iş ortağı olan ve iş birliği içinde olduğu çocuk güvenliği ve sivil toplum kuruluşlarını bir araya getiren 2026 yılı Güvenli İnternet Günü'nde başlatılan "No to Nudify" (Çıplaklaştırmaya Hayır) kampanyasına da yansımaktadır. WeProtect Global Alliance, INHOPE, Internet Watch Foundation, NCMEC, Child Helpline International, Offlimits ve Safe Online, yapay zekâ çıplaklaştırma araçlarının yasaklanması çağrısında bulundu. Kampanya, sözde "çıplaklaştırma" uygulamalarının aslında zararsız bir deney olmadığını; aslında sıradan fotoğraflardan rızasız cinsel içerikli görüntüler oluşturmak için kullanıldığını ve kadınları, kız çocuklarını ve çocukları etkileyen taciz, zorlama, cinsel şantaj ve istismarla giderek daha fazla ilişkilendirildiğini savunuyor.

Snap ayrıca, bu tür materyalin Snapchat'te yayılmasını sınırlandırmak için tasarlanmış sektörler arası uygulanabilir programlara da katılıyor. NCMEC'in reşit olmayanlara yönelik Take It Down programının ve SWGfL'nin 18 yaş ve üstüne yönelik StopNCII girişiminin üyesiyiz; mükerrer mahrem görüntülerin tespit edilmesine ve kurallarımızı ihlal eden içeriklerin kaldırılmasına yardımcı olmak için benzersiz dijital imzalar veya "hash"ler alıyor ve bunlardan yararlanıyoruz. Bu çabalar önemlidir, çünkü yalnızca ilk tespite değil, aynı zamanda bilinen mahrem görüntülerin ve cinsel içerikli deepfake'lerin yayılmaya başladıktan sonra yeniden dolaşıma girmelerini önlemeye de odaklanır.

– Jacqueline Beauchere, Platform Güvenliği Küresel Başkanı, Snap Inc.