ڈیجیٹل دنیا میں نوجوانوں کی مدد میں ان سادہ بیانیوں کو دیکھنا شامل ہے جو آن لائن زندگی کو یا تو موروثی طور پر اچھا یا موروثی طور پر برے طور پر پیش کرتے ہیں۔ ہمیں جنریشن Z کے مستند، روزمرہ کے تجربات پر بھی توجہ مرکوز کرنا ضروری ہے تاکہ یہ سمجھا جا سکے کہ انہیں کیا چیز ترقی کرنے کے لیے قابل بناتی ہے۔ جیسے ہم جنریٹو AI کے تیزی سے اضافے کے ذریعے ایک نئے دور میں داخل ہو رہے ہیں، اپنے سیفٹی کے کام کو معروضی تحقیق میں بنیادی طور پر قائم رکھنے کا عزم پہلے سے زیادہ اہم ہو گیا ہے – اور اس سے اس بات کو یقینی بنانے میں مدد ملے گی کہ Snapchat ایک مواصلات کی سروس برقرار رہے جو صداقت، کنکشن، تعلق، اور اہمیت پر مرکوز ہے۔

آج، ہم اپنے ڈیجیٹل ویل-بیئنگ انڈیکس (DWBI) کے مطالعے کے پانچویں اور آخری سال کی کچھ نئی انسائٹس شیئر کر رہے ہیں، جو خاص طور پر AI سے تیار کردہ مواد کے ابھرتے ہوئے منظر اور باہمی تعلقات پر اس کے اثر پر مرکوز ہیں۔

گزشتہ پانچ سالوں سے، Snap نے جنریشن Z کی آن لائن نفسیاتی فلاح و بہبود کو ٹریک اور جانچنے میں مدد کے لیے پلیٹ فارم پر مبنی تحقیق کی ہے۔ ہم یہ سروے نوجوانوں کی ڈیجیٹل عادات اور طریقوں کے بارے میں عالمی ثبوت کی بنیاد میں اضافہ کرنے کے لیے کر رہے ہیں، اور اس سے ابھرتے ہوئے خدشات کے بارے میں شعور اجاگر کرنے میں مدد ملتی ہے تاکہ والدین، ماہرین تعلیم، ٹیکنالوجی کمپنیاں، حکومتیں اور سول سوسائٹی خطرے کو کم کرنے، ممکنہ نقصان کو کم کرنے، اور دوبارہ ہونے کو روکنے کے لیے مزید مؤثر طریقے سے کام کر سکیں۔ DWBI Snapchat سمیت کسی ایک پلیٹ فارم پر توجہ مرکوز کرنے کے بجائے چھ ممالک میں 13 سے 24 سال کی عمر کے بچوں کے تجربات کا مطالعہ کرتا ہے۔ آسٹریلیا، فرانس، جرمنی، بھارت، برطانیہ اور امریکہ سے حاصل ہونے والے تازہ ترین نتائج میں جنریشن Z میں ڈیپ فیک تصاویر کی تخلیق اور تقسیم کے بارے میں نئی معلومات شامل ہیں۔

AI کے بارے میں عوامی گفتگو اکثر غیر محدود امید اور گہری تشویش کے درمیان گردش کرتی ہے۔ کسی بھی انتہا پسندی پر انحصار کرنے کے بجائے، DWBI کے تازہ ترین نتائج شواہد کی بنیاد پر یہ بتاتے ہیں کہ چھ جغرافیائی علاقوں میں 13 سے 24 سال کی عمر کے بچے جنریٹو AI کے ساتھ کس طرح مشغول ہیں۔ یہ نتائج ڈیپ فیکس سے متعلق ہم منصب کے درمیان تعاملات کی پیچیدہ اور بعض اوقات تشویشناک تصویر ظاہر کرتے ہیں۔ مثال کے طور پر:

• 13 سے 24 سال کی عمر کے تقریباً ایک تہائی (%30) جواب دہندگان نے رپورٹ کیا کہ انہوں نے کسی اور کی ڈیپ فیک تخلیق کی ہے

• ڈیپ فیک تخلیق کرنے والوں میں سے نصف سے زائد (%53) نے رپورٹ کیا کہ اس کارروائی کے نتیجے میں اپنے سماجی حلقوں میں "ڈرامے" یا "تنازعہ" کا باعث بنے، اور 

• اگرچہ اکثریت نے تخلیقی، تفریح اور انٹرٹینمنٹ
  کے لیے جنریٹو AI ٹولز استعمال کیے، لیکن ایک تہائی سے زائد (%35 نیٹ) نے کہا کہ انہوں نے جو ڈیپ فیکس تخلیق کی گئی وہ بدنیتی کے لیے بنائی گئیں، خاص طور پر: کسی کو برا دکھانے یا اسے مایوس کرنے کے لیے (%12)، انتقامی کارروائی میں (%12)، یا کسی اور کو چھیڑانے یا ہراساں کرنے کے لیے (%11)۔ 

جب ان سے پوچھا گیا کہ وہ خاص طور پر اپنی جنسی ڈیپ فیک پر کیا ردعمل ظاہر کریں گے، تو کم عمر کے نوعمر افراد کی بھاری اکثریت (%81 نیٹ) نے کہا کہ وہ کسی سے بات کریں گے، یعنی والدین (%65)، جبکہ جنریل زی کے 10 میں سے سات نوجوان بالغوں (%70) نے کہا کہ وہ اسے رپورٹ کریں گے، قانون نافذ کرنے والے اداروں (%53) اور ٹیکنالوجی کے پلیٹ فارمز (%51) کو اپنے بنیادی آؤٹ لیٹس کے طور پر رپورٹ کریں گے۔ 10 میں سے ایک سے زائد نابالغ نوعمر افراد (%18) اور 10 میں سے دو سے زائد 18 سے 24 سال کی عمر کے افراد (%22) نے کہا کہ وہ اسے صرف نظرانداز کریں گے یا درج کردہ اقدامات میں سے کوئی بھی نہیں لیں گے۔ ذیل میں چارٹ کارروائی کے لیے پیش کردہ اختیارات کا خاکہ پیش کرتا ہے۔

یہ نتائج ایک اہم حقیقت کو اجاگر کرتے ہیں: 21 ویں صدی میں ڈیجیٹل فلاح و بہبود کے لیے روایتی حفاظتی ٹولز اور ریسورسز سے زیادہ کچھ درکار ہے؛ اس کے لیے گہری، عملی AI خواندگی کی ضرورت ہے۔ جب %30 نوجوانوں نے رپورٹ کیا کہ انہوں نے اپنے ساتھیوں کو شامل کر مصنوعی میڈیا تخلیق کیا ہے، تو اس سرگرمی کے ذاتی تعلقات، ساکھ اور کسی فرد کے خود کو پیش کرنے کے طریقے پر کنٹرول کے احساس کے لیے مضمرات ہو سکتے ہیں۔

اس کے مطابق، پالیسی پر مبنی گفتگو کو خوف پر مبنی ردعمل سے دور ہو کر ایسے فریم ورک کی طرف منتقل ہونے کی ضرورت ہے جو آج آن لائن نوجوانوں کے "پورے شخص" کو شامل کرے۔ ہم تین بنیادی اجزاء پر غور کر سکتے ہیں:

1. AI خواندگی: نوجوانوں کو یہ سمجھنے میں مدد کرنا کہ نہ صرف AI کو کس طرح استعمال کرنا ہے، بلکہ ایسا مواد تخلیق کرنے کے اخلاقی اور سماجی نتائج جن میں دوسروں کی رضامندی کے بغیر شامل ہو سکتے ہیں۔

2. ذاتی کنٹرول: نوجوانوں کو حدود کو پہچاننے اور اپنی ڈیجیٹل مماثلت پر کنٹرول برقرار رکھنے کے لیے بااختیار بنانے کے لیے، اور

3. کھلے مواصلات: نوعمر افراد، والدین، اساتذہ اور دیگر قابل اعتماد بالغ افراد کی حوصلہ افزائی کے لیے کہ وہ ڈیجیٹل تعاملات کے معیار بمقابلہ مقدار کے بارے میں کھلی اور سوچ سمجھ کر گفتگو کریں، یہ تسلیم کرتے ہوئے کہ "بطور لطیفہ" تخلیق کردہ کوئی بھی ڈیپ فیک دوسروں پر دیرپا اثرات مرتب کر سکتا ہے۔

اتفاق سے، جب یہ پوچھا گیا کہ وہ AI ٹولز کو محفوظ طریقے سے اور ذمہ داری سے استعمال کرنے کے لیے کہاں اور کس سے سیکھ رہے ہیں، تو 10 سے 24 سال کی عمر کے آٹھ افراد (%81 نیٹ) نے کہا کہ وہ خود سے تعلیم حاصل کرنے والے ہیں۔ 13 سے 17 سال کی عمر کے افراد میں سے ایک چوتھائی (%27) نے کہا کہ وہ اپنے والدین سے سیکھ رہے ہیں، جبکہ نوعمر افراد (%11) اور نوجوان بالغوں (%10) دونوں کی معلوماتی بیسز میں سے ایک اساتذہ کی شمولیت ہے۔

یہ نتائج Snap کے جنریشن Z کی آن لائن نفسیاتی فلاح و بہبود کے پانچ سالہ مطالعے کا حصہ ہیں اور ہمارے ڈیجیٹل ویل-بیئنگ انڈیکس (DWBI) کی تازہ ترین اور آخری قسط کو نشان زد کرتے ہیں، جو چھ ممالک میں نوعمر افراد (13-17 سال کی عمر) اور نوجوان بالغ (18-24 سال کی عمر) کے آن لائن کام کرنے کا ایک پیمانہ ہے۔ ہم 13 سے 19 سال کی عمر کے بچوں کے والدین سے ان کے نوعمر بچوں کے آن لائن تجربات کے بارے میں بھی سروے کرتے ہیں۔ یہ تازہ ترین پول 11 مئی سے 30 مئی 2026 کے درمیان کیا گیا، اور تین عمر کے آبادیاتی علاقوں اور چھ جغرافیائی علاقوں میں 9,005 جواب دہندگان شامل تھے۔ مکمل نتائج، بشمول ہر ملک اور تمام چھ ممالک کے لیے DWBI کی تازہ ترین ریڈنگ، فروری میں محفوظ انٹرنیٹ ڈے 2027 پر جاری کیے جائیں گے۔ ان میں سے بہت سے مسائل کے بارے میں جاری عالمی مکالمے کی وجہ سے ہم نے AI سے متعلق ان نتائج کو جلد دستیاب کرنے کا انتخاب کیا۔

جیسے ہی ہم ڈیجیٹل فلاح و بہبود کے مطالعے کے اس پانچ سالہ باب کو مکمل کر رہے ہیں اور اگلے سالوں کے لیے اپنی تحقیقی توجہ کو ارتقاء دیتے ہیں، ہمارا ماحولیاتی نظام کا مشن واضح ہے: آن لائن اسپیسز کی تعمیر کریں جہاں نوجوان سیکھنے، ہنسنے اور زیادہ سے زیادہ محفوظ اور مستند طریقے سے جڑ سکیں۔ ڈیپ فیکس کا عروج ایک یاد دہانی ہے کہ جیسے جیسے ٹیکنالوجی کی ترقی ہے، ہماری آپریشنل اور تعلیمی کوششوں کو بھی اس کے ساتھ ارتقاء دینا ضروری ہے۔ خواندگی، لچک اور تنقیدی سوچ پر توجہ مرکوز کرنے کی طرف سے، ہم اس بات کو یقینی بنانے میں مدد کر سکتے ہیں کہ اگلی نسل صرف آن لائن "حاصل کرنے" ہی نہیں، بلکہ حقیقی طور پر خوشحال ہو۔

ان کوششوں کی حمایت میں، گزشتہ مہینے Snap نے اعلان کیا کہ مکمل طور پر AI سے تیار کردہ ویڈیوز Snapchat کے Spotlight فیچر پر تجویز کے لیے اہل نہیں ہوں گے۔ درحقیقت، جیسے کہ آن لائن اسپیسز میں کم معیار، دہرائے جانے والے، AI سے تیار کردہ مواد تیزی سے مقبول ہوتا جا رہا ہے، Snap چاہتا ہے کہ Spotlight ایک ایسی جگہ باقی رہے جہاں لوگ حقیقی لوگوں سے مستند تخلیقی صلاحیتوں کو دریافت کر سکیں۔ ہم نے AI سے تیار کردہ مواد کے بارے میں والدین اور نوعمر افراد کے لیے ایک مختصر فیکٹ شیٹ بھی بنائی۔ "رکو۔ سوچو۔ کیا یہ AI ہو سکتا ہے؟" یہ نوعمر افراد، والدین اور دیگر قابل اعتماد بالغ افراد کے درمیان AI ٹولز کے محفوظ اور ذمہ دارانہ استعمال کے بارے میں گفتگو کو فروغ دینے کے لیے ڈیزائن کیا گیا ہے۔ ہم متعدد دیگر گروپس اور تنظیموں کے ساتھ بھی تعاون کرتے ہیں، اور ہم سب سے پہلے امریکی محکمہ ہوم لینڈ سیکیورٹی کی Know2Protect مہم کی معاونت کرنے والے تھے، جس سے بچوں کے جنسی استحصال اور بدسلوکی کے بارے میں آگاہی پیدا ہوئی۔ Know2Protect نے یہاں ڈیپ فیکس پر ایک پرائمر شائع کی۔   

عوامی پالیسی کے دائرہ کار میں، Snap نے Take It Down ایکٹ کی حمایت کی، جو مئی 2025 میں نافذ العمل ہوگیا، اور اس سے AI سے تیار کردہ مواد سمیت غیر رضامندی سے متعلق مباشرت کی تصاویر سے نمٹنے کے لیے امریکی وفاقی فریم ورک قائم کیا۔ قانون جان بوجھ کر رضامندی کے بغیر انٹیمیٹ تصاویر شائع کرنے یا دھمکی دینے کو وفاقی جرم قرار دیتا ہے، چاہے وہ مواد مستند ہو یا مصنوعی طور پر تیار کردہ ہو، اور اس کے لیے متعلقہ پلیٹ فارمز کو رپورٹنگ کا عمل فراہم کرنے اور رپورٹ کردہ مواد کو 48 گھنٹوں کے اندر ہٹانے کی ضرورت ہے۔

محفوظ انٹرنیٹ ڈے 2026 پر شروع کی گئی "نو ٹو نیوڈیٹی" مہم میں اسی طرح کے خدشات کی عکاسی کی ہے، جس نے بچوں کی حفاظت اور سول سوسائٹی کی تنظیموں کو اکٹھا کیا، جن میں سے زیادہ تر Snap پارٹنرز اور معاونت کرنے والے ہیں۔ WeProtect گلوبل الائنس، INHOPE، انٹرنیٹ واچ فاؤنڈیشن، NCMEC، چائلڈ ہیلپ لائن انٹرنیشنل، آف لیمیٹس، اور سیف آن لائن نے AI نیوڈیفیکیشن ٹولز پر پابندی کا مطالبہ کیا۔ مہم میں یہ کہا گیا ہے کہ نام نہاد "ہراسانگی " ایپس درحقیقت کسی نقصان دہ تجربے میں شامل نہیں ہیں، بلکہ عام تصاویر سے غیر رضامندی سے جنسیت کی تصاویر تخلیق کرنے کے لیے استعمال ہوتی ہیں، اور یہ ہراسانگی، جبر، جنسی بلیک میلنگ، اور خواتین، لڑکیوں اور بچوں کو متاثر کرنے والے بدسلوکی سے منسلک ہیں۔

Snap Snapchat پر اس طرح کے مواد کے پھیلاؤ کو محدود کرنے کے لیے ڈیزائن کردہ عملی کراس انڈسٹری پروگراموں میں بھی حصہ لیتا ہے۔ ہم نابالغوں کے لیے NCMEC کے Take It Down پروگرام اور SWGfL کی StopNCII کی +18 کوششوں کے رکن ہیں، جو منفرد ڈیجیٹل دستخط، یا "ہیشز" موصول اور ان سے فائدہ اٹھانے کے لیے، دوہری انٹیمیٹ تصاویر کی شناخت اور ہمارے اصول و ضوابط کی خلاف ورزی کرنے والے مواد کو ہٹانے میں مدد کرتے ہیں۔ یہ کوششیں اس لیے اہم جانی جاتی ہیں کیونکہ وہ نہ صرف ابتدائی شناخت پر توجہ مرکوز کرتی ہیں، بلکہ ایک بار جب وہ پھیلاؤ شروع کرتی ہیں تو معلوم شدہ انٹیمیٹ امیجری اور جنسی ڈیپ فیکس کو دوبارہ گردش کرنے سے روکنے پر توجہ مرکوز کرتے ہیں۔

– جیکلین بیچیر، پلیٹ فارم سیفٹی کی عالمی سربراہ، .Snap Inc