الذكاء الاصطناعي على سناب شات: تحسين الشفافية والسلامة والسياسات

16 أبريل 2024

عندما وصلت عدسات Lens في عام 2015، جلبت تكنولوجيا الواقع المُعزّز السحر إلى الحياة أمام أعيننا، محدثة بذلك ثورة في ما اعتقدنا أنه ممكن. اليوم، يتفاعل أكثر من 300 مليون مُستخدم سناب شات مع تكنولوجيا الواقع المعزَز كل يوم في المتوسط، حيث توقعنا هذا النوع من التكنولوجيا في تجربتنا اليومية للكاميرا. 

الآن، تفتح التطورات الأخيرة في الذكاء الاصطناعي إمكانيات غير محدودة ومذهلة، مما يؤدي إلى إصلاح ما اعتقدنا أنه ممكن مرة أخرى.

هناك بالفعل العديد من الطرق الملهمة التي يستطيع بها مستخدمو سناب شات التعبير عن أنفسهم باستخدام الذكاء الاصطناعي، سواء كانوا يعملون على إنشاء خلفية دردشة الذكاء الاصطناعي التوليدي لتخصيص مظهر المحادثة مع صديق، أو تحويل أنفسهم بطرق مبتكرة باستخدام عدسات Lens التي تعمل بالذكاء الاصطناعي، أو التعرف على العالم من خلال المحادثات مع My AI. ونحن متحمسون جدًا تجاه إمكانيات التكنولوجيا هذه لمساعدة مجتمعنا على مواصلة إطلاق العنان لإبداعهم وخيالهم.

شفافية الذكاء الاصطناعي

نؤمن أنه يجب إبلاغ مستخدمي سناب شات بأنواع التقنيات التي يستخدمونها سواءً كان الغرض منها إنشاء صور مرئية مرحة أو التعلّم من خلال المحادثات النصية مع My AI.

نستخدم الأيقونات والرموز والملصقات السياقية داخل التطبيق لتوفير الشفافية السياقية لمستخدمي سناب شات عندما يتفاعلون مع ميزة مدعومة بتكنولوجيا الذكاء الاصطناعي. على سبيل المثال، عندما يشارك مُستخدم سناب شات صورة أحلامه التي تم إنشاؤها بواسطة الذكاء الاصطناعي، يرى المستلم بطاقة المعلومات التي تحتوي على المزيد من المعلومات. يتم تحديد ميزات أخرى، مثل أداة التمديد التي تستفيد من الذكاء الاصطناعي لجعل لقطة تظهر بشكل أكبر، كميزة الذكاء الاصطناعي مع أيقونة تألق لمستخدم سناب شات الذي ينشئ اللقطة. 

كما نحرص بشدة على فحص جميع الإعلانات السياسية من خلال عملية مراجعة بشرية صارمة، بما في ذلك الفحص الدقيق لأي استخدام مضلل للمحتوى، بما في ذلك الذكاء الاصطناعي لإنشاء صور أو محتوى خادع. 

قريبًا، سنضيف علامة مائية إلى الصور التي يتم إنشاؤها بواسطة الذكاء الاصطناعي. وستظهر على الصور التي تم إنشاؤها باستخدام أدوات الذكاء الاصطناعي التوليدي عند تصدير الصورة أو حفظها في لفة الكاميرا. قد يرى مستلمو صورة تم إنشاؤها بواسطة الذكاء الاصطناعي على سناب شات شعار شبح صغير مع أيقونة التألق المعترف بها على نطاق واسع بجانبه. ستساعد إضافة هذه العلامات المائية على إبلاغ أولئك الذين يشاهدونها بأن الصورة قد تم إنشاءها باستخدام الذكاء الاصطناعي على سناب شات. 

اختبار وبروتوكولات السلامة الموحدة

نحن نتعامل بجدية مع مسؤوليتنا لتصميم المنتجات والتجارب التي تعطي الأولوية للخصوصية والسلامة وتناسب العمر. ومثل جميع منتجاتنا، خضعت الميزات التي تعمل بالذكاء الاصطناعي دائمًا لمراجعة صارمة لضمان التزامها بمبادئ السلامة والخصوصية - وخلال تعلمنا بمرور الوقت، لقد طورنا ضمانات إضافية:

ريد تيمينغ

يُعد ريد تيمينغ في الذكاء الاصطناعي تكتيكاً شائعًا بشكل متزايد ويُستخدم لاختبار وتحديد العيوب المحتملة في نماذج الذكاء الاصطناعي والميزات التي يتم تمكينها بواسطة الذكاء الاصطناعي وتنفيذ الحلول لتحسين سلامة واتساق مخرجات الذكاء الاصطناعي. 

لقد كنا من أوائل المتبنين لطرق ريد تيمينغ الجديدة من الذكاء الاصطناعي لنماذج الصور التوليدية، ومن خلال شراكة مع HackerOne في أكثر من 2500 ساعة عمل لاختبار فعالية الضمانات الصارمة. 

تصفية السلامة ووضع العلامات المتسقة

ومع توسيع التجارب التي يتم تمكينها من الذكاء الاصطناعي التوليدي والمتاحة على سناب شات، فقد أنشأنا مبادئ الحوكمة المسؤولة وقمنا بتحسين إجراءات التخفيف من مخاطر السلامة أيضًا. 

لقد أنشأنا عملية مراجعة السلامة لاكتشاف وإزالة المطالبات التي قد تكون مثيرة للمشكلات في المراحل الأولى من تطوير تجارب عدسة الذكاء الاصطناعي التي صممها فريقنا. تمر جميع عدسات الذكاء الاصطناعي التي تولد صورة عن طريق المطالبة من خلال هذه العملية قبل وضعها في صيغتها النهائية وتصبح متاحة لمجتمعنا. 

الاختبار الشامل

نحن نريد أن يحصل مستخدمو سناب شات من جميع مناحي الحياة على وصول وتوقعات متساوية عند استخدام جميع الميزات داخل تطبيقنا، خاصةً التجارب التي تعمل بالذكاء الاصطناعي. 

ومع وضع هذا في الاعتبار، نحن ننفذ اختبارات إضافية لتقليل نتائج الذكاء الاصطناعي التي يحتمل أن تكون متحيزة. 

الالتزام المستمر بزيادة المعرفة عن الذكاء الاصطناعي

نحن نؤمن بالإمكانات الهائلة لتكنولوجيا الذكاء الاصطناعي لتحسين قدرة مجتمعنا على التعبير عن أنفسهم والتواصل مع بعضهم البعض - ونحن ملتزمون بمواصلة تحسين بروتوكولات السلامة والشفافية هذه. 

على الرغم من تصميم جميع أدوات الذكاء الاصطناعي الخاصة بنا، سواء كانت نصية أو مرئية، لتجنب إنتاج مواد غير صحيحة أو ضارة أو مضللة، فقد تحدث الأخطاء. يستطيع مستخدمو سناب شات الإبلاغ عن المحتوى، ونحن نقدر هذه الملاحظات. 

وأخيراً، وكجزء من هذا الالتزام المستمر بمساعدة مجتمعنا على فهم هذه الأدوات بشكل أفضل، لدينا الآن معلومات وموارد إضافية على موقع الدعم.

العودة إلى الأخبار