چھ ہفتے پہلے، ہم نے My AI کا افتتاح کیا ہے، یہ ایک چیٹ بوٹ ہے جو OpenAI کی GPT ٹیکنالوجی کے ساتھ بنایا گیا ہے۔ ہم نے +Snapchat سبسکرائبرز کو My AI فراہم کرکے آہستہ آہستہ آغاز کیا اور ایک ماہ سے کچھ زیادہ عرصے میں، ہم نے بہت کچھ سیکھا ہے۔ مثال کے طور پر، ہم کچھ عام موضوعات کو جانتے ہیں جن کے بارے میں ہماری کمیونٹی نے My AI سے پوچھا ہے، ان میں فلمیں، کھیل، گیمز، پالتو جانور اور ریاضی شامل ہیں۔

ہم نے غلط استعمال کے کچھ امکانات کے بارے میں بھی سیکھا ہے، جن میں سے بہت سے ہم نے ان لوگوں سے سیکھے ہیں جو چیٹ بوٹ کو ایسے جوابات فراہم کرنے کے لیے دھوکہ دینے کی کوشش کر رہے ہیں جو ہماری ہدایات کے مطابق نہیں ہیں۔ My AI کو بہتر بنانے کے لیے ہمارے مشترکہ کام کے ایک حصے کے طور پر، ہم حفاظتی اضافے میں سے کچھ کے بارے میں ایک اپ ڈیٹ شیئر کرنا چاہتے ہیں جو ہم نے حال ہی میں ہماری سیکھنے کے نتیجے میں کیے ہیں — نئے ٹولز کے ساتھ جو ہم لاگو کرنے کا ارادہ رکھتے ہیں۔

ڈیٹا کے لیے My AI کا نقطہ نظر

رازداری ہمیشہ سے Snap کے مشن میں مرکزی حیثیت رکھتی ہے — اس سے دوستوں اور فیملی کے ساتھ بات چیت کرتے وقت لوگوں کو زیادہ پرسکون اظہار کرنے میں مدد ملتی ہے۔ Snapchat میں، ہم اپنی کمیونٹی کو اس بارے میں وضاحت اور سیاق و سباق فراہم کرنے کی کوشش کرتے ہیں کہ ہماری مصنوعات ڈیٹا کا استعمال کیسے کرتی ہیں اور ہم رازداری کے لحاظ سے ڈیزائن کے عمل کو استعمال کرتے ہوئے خصوصیات کیسے بناتے ہیں۔ مثال کے طور پر، جس طرح سے ہم Snapchat پر دوستوں کے درمیان ہونے والی گفتگو سے متعلق ڈیٹا کو ہینڈل کرتے ہیں وہ اس سے مختلف ہے کہ جس طرح سے ہم Snapchat پر مواد کو نشر کرنے سے متعلق ڈیٹا کو ہینڈل کرتے ہیں، جسے ہم ایک اعلیٰ معیار پر رکھتے ہیں اور اسے معتدل کرنے کی ضرورت ہوتی ہے کیونکہ یہ ناظرین کی بڑی تعداد تک پہنچتا ہے۔

تاہم، چونکہ My AI ایک چیٹ بوٹ ہے اور حقیقی دوست نہیں ہے، اس لیے ہم جان بوجھ کر اس سے متعلقہ ڈیٹا کے ساتھ مختلف سلوک کر رہے ہیں، کیونکہ ہم My AI کو مزید پرلطف، مفید اور محفوظ بنانے کے لیے گفتگو کی ہسٹری کو استعمال کرنے کے قابل ہیں۔ اس سے پہلے کہ سنیپ چیٹرز کو My AI استعمال کرنے کی اجازت دی جائے، ہم انہیں ایک آن بورڈنگ میسج دکھاتے ہیں جو واضح کرتا ہے کہ My AI کے ساتھ تمام پیغامات اس وقت تک برقرار رہیں گے جب تک آپ انہیں ڈیلیٹ نہیں کر دیتے۔

My AI کے ساتھ ان ابتدائی تعاملات کا جائزہ لینے کے قابل ہونے سے ہمیں یہ شناخت کرنے میں مدد ملتی ہے کہ کون سے گارڈریلز اچھی طرح سے کام کر رہی ہیں اور کن کو مضبوط بنانے کی ضرورت ہے۔ اس کا اندازہ لگانے میں مدد کے لیے، ہم My AI سے پوچھے گئے سوالات اور جوابات کے جائزے چلا رہے ہیں جن میں "غیر موافق" زبان ہے، جسے ہم کسی بھی متن کے طور پر بیان کرتے ہیں جس میں تشدد، جنسی طور پر واضح اصطلاحات، منشیات کا ناجائز استعمال، بچوں سے جنسی زیادتی، ہراساں کرنا، نفرت انگیز تقریر، تضحیک آمیز یا متعصبانہ بیانات، نسل پرستی، بدسلوکی، یا پسماندہ گروہوں کے حوالے شامل ہیں۔ Snapchat پر مواد کے یہ سبھی زمرے واضح طور پر ممنوع ہیں۔

ہمارے تازہ ترین تجزیے سے پتا چلا ہے کہ My AI کے صرف %0.01 جوابات کو غیر موافق سمجھا گیا تھا۔ سب سے عام غیر موافق My AI جوابات کی مثالوں میں سنیپ چیٹر کے سوالات کے جواب میں My AI کا نامناسب الفاظ کو دہرانا شامل ہے۔

ہم ان تعلیمات کو My AI کو بہتر بنانے کے لیے استعمال کرتے رہیں گے۔ یہ ڈیٹا My AI کے غلط استعمال کو محدود کرنے کے لیے ایک نیا سسٹم تعینات کرنے میں بھی ہماری مدد کرے گا۔ ہم اپنے موجودہ ٹول سیٹ میں Open AI کی اعتدال پسند ٹیکنالوجی کو شامل کر رہے ہیں، جو ہمیں ممکنہ طور پر نقصان دہ مواد کی شدت کا اندازہ لگانے اور سنیپ چیٹرز کی My AI تک رسائی کو عارضی طور پر محدود کرنے کی اجازت دے گی اگر وہ سروس کا غلط استعمال کرتے ہیں۔

عمر کے مطابق تجربات

ہم ایسی مصنوعات اور تجربات کو ڈیزائن کرنے کی اپنی ذمہ داری کو سنجیدگی سے لیتے ہیں جو حفاظت اور عمر کی مناسبت کو ترجیح دیتی ہیں۔ My AI شروع کرنے کے بعد سے، ہم نے سنیپ چیٹر کی عمر سے قطع نظر، نامناسب سنیپ چیٹر کی درخواستوں پر اس کے جوابات کو بہتر بنانے کے لیے بھرپور طریقے سے کام کیا ہے۔ ہم ممکنہ طور پر غیر موافق متن کے لیے My AI بات چیت کو اسکین کرنے اور کارروائی کرنے کے لیے فعال ڈیٹیکشن ٹولز کا بھی استعمال کرتے ہیں۔

ہم نے سنیپ چیٹر کی تاریخ پیدائش کا استعمال کرتے ہوئے My AI کے لیے ایک نئے عمر سگنل کو بھی نافذ کیا ہے، تاکہ یہاں تک کہ اگر کوئی سنیپ چیٹر کبھی بھی بات چیت میں My AI کو ان کی عمر نہیں بتاتا، تب بھی چیٹ بوٹ گفتگو میں مشغول ہوتے وقت ان کی عمر کو مستقل طور پر مدنظر رکھے گا۔

فیملی سینٹر میں My AI

Snapchat والدین اور دیکھ بھال کرنے والوں کو مرئیت پیش کرتا ہے کہ ان کے نوعمر کن دوستوں کے ساتھ بات چیت کر رہے ہیں، اور کتنی دیر سے، ہمارے درون ایپ فیملی سینٹر کے ذریعے۔ آنے والے ہفتوں میں، ہم والدین کو ان کے نوعمروں کے My AI کے ساتھ تعاملات کے بارے میں مزید بصیرت فراہم کریں گے۔ اس کا مطلب ہے کہ والدین یہ دیکھنے کے لیے فیملی سینٹر کا استعمال کر سکیں گے کہ آیا ان کے نوعمر بچے My AI کے ساتھ بات چیت کر رہے ہیں، اور کتنی بار۔ فیملی سینٹر کو استعمال کرنے کے لیے، والدین اور نوعمر دونوں کو آپٹ ان کرنا ہوگا — اور دلچسپی رکھنے والی فیملیز یہاں سائن اپ کرنے کے طریقہ کے بارے میں مزید جان سکتے ہیں۔

ہم سنیپ چیٹرز کی حوصلہ افزائی کرتے رہتے ہیں کہ وہ ہمارے درون ایپ رپورٹنگ ٹولز استعمال کریں اگر انہیں My AI سے کوئی پرشان کن جواب موصول ہو اور اس پروڈکٹ کے ساتھ اپنے مجموعی تجربات کے بارے میں ہمیں اپنے تاثرات جمع کروانا جاری رکھیں۔

ہم My AI کو بہتر بنانے کے لیے مسلسل کام کر رہے ہیں، اور ہم اپنی کمیونٹی کو محفوظ رکھنے میں مدد کے لیے اضافی اقدامات کا مسلسل جائزہ لیں گے۔ ہم My AI پر تمام ابتدائی تاثرات کی پذیرائی کرتے ہیں، اور ہم اپنی کمیونٹی کے لیے ایک تفریحی اور محفوظ تجربہ فراہم کرنے کے لیے پرعزم ہیں۔