الشهادة أمام مجلس الشيوخ في الكونغرس — نهجنا إزاء السلامة والخصوصية والرفاهية

٢٦ أكتوبر ٢٠٢١

اليوم، انضمت نائبة الرئيس للسياسة العامة العالمية، جينيفر ستوت، إلى منصات تقنية أخرى للإدلاء بشهادتها أمام اللجنة الفرعية للجنة التجارة بمجلس الشيوخ المعنية بحماية المستهلك وسلامة المنتجات وأمن البيانات حول نهج شركة سناب في حماية الشباب على منصتنا.

قدمنا امتناننا لمنح الفرصة للشرح للجنة الفرعية كيف قمنا ببناء سناب شات عمداً بشكل مختلف عن منصات وسائل التواصل الاجتماعي التقليدية، وكيف نعمل على بناء السلامة والخصوصية مباشرة في تصميم منصتنا ومنتجاتنا، وحيث نحتاج إلى مواصلة التحسين لتقديم حماية أفضل لرفاهية مجتمعنا. اعتقدنا دائمًا أن لدينا مسؤولية أخلاقية لوضع مصالحهم أولاً - ونعتقد أن جميع شركات التكنولوجيا يجب أن تتحمل المسؤولية وتحمي المجتمعات التي تخدمها بنشاط.

نرحب بالجهود المستمرة للجنة الفرعية للتحقيق في هذه القضايا الهامة - ويمكنك قراءة البيان الافتتاحي الكامل لـجنيفر أدناه. يتوفر ملف PDF للشهادة الكاملة هنا.

****

شهادة نائبة رئيس السياسة العامة العالمية لشركة Snap Inc، جينيفر ستوت

مقدّمة

الرئيس بلومينثال، عضو الترتيب بلاكبورن وأعضاء اللجنة الفرعية، أشكركم على منحي الفرصة للمثول أمامكم اليوم. اسمي جينيفر ستوت، وأنا أعمل كنائبة رئيس للسياسة العامة العالمية في شركة Snap Inc.، الشركة الأم لسناب شات. إنه لشرف وامتياز لي أن أعود إلى مجلس الشيوخ بعد 23 عامًا منذ بدايتي الأولى في الخدمة العامة كموظفة في مجلس الشيوخ، هذه المرة في صفة مختلفة كثيرًا - للتحدث عن نهج Snap في مجال الخصوصية والسلامة، خاصة فيما يتعلق بأصغر أعضاء مجتمعنا. أنا أعمل في هذه الوظيفة منذ ما يقرب من خمس سنوات، بعد أن قضيت نحو عقدين في خدمة عامة، وكان أكثر من نصف هذه المدة في الكونغرس. لدي احترام كبير لهذه المؤسسة والعمل الذي تقوم به أنت وموظفوك للتأكد من أن منصات التكنولوجيا تضمن حصول شبابنا على تجارب آمنة وصحية على الإنترنت.

لفهم نهج Snap في حماية الشباب على منصتنا، فمن المفيد البدء من البداية. كان مؤسسو سناب شات جزءًا من الجيل الأول الذي نشأ مع وسائل التواصل الاجتماعي. مثل العديد من أقرانهم، رأوا أنه في حين كانت وسائل التواصل الاجتماعي قادرة على إحداث تأثير إيجابي، فإن لديها أيضًا ميزات معينة أثرت سلبًا على صداقاتهم. شجعت هذه المنصات الناس على بث أفكارهم ومشاعرهم علناً، بشكل دائم. رأى مؤسسونا كيف كان الناس يقيسون أنفسهم باستمرار ضد الآخرين من خلال "الإعجابات" والتعليقات، محاولين تقديم نسخة من أنفسهم من خلال الصور التي تم تنظيمها بشكل مثالي، وكتابة المحتوى بعناية بسبب الضغط الاجتماعي. تطورت وسائل التواصل الاجتماعي أيضًا لعرض تغذية لا نهاية لها للمحتوى غير المدقق، مما يعرض الناس إلى فيضان من المحتوى سريع الانتشار والمضلل والضار.

تم تصميم سناب شات كترياق لوسائل التواصل الاجتماعي. في الواقع، نحن نصف أنفسنا كشركة كاميرا. تم تصميم بنية سناب شات عمداً لتمكين الناس من التعبير عن مجموعة كاملة من الخبرات والعواطف مع أصدقائهم الحقيقيين، وليس فقط اللحظات الجميلة والرائعة. في السنوات التكوينية لشركتنا، كانت هناك ثلاث طرق رئيسية قام بها فريقنا بالريادة في اختراعات جديدة لمنح الأولوية للخصوصية والسلامة عبر الإنترنت.

أولاً، قررنا فتح سناب شات للكاميرا بدلاً من تغذية المحتوى. أنشأ هذا لوحة فارغة للأصدقاء للتواصل بصريا مع بعضهم البعض بطريقة أكثر غامرةً وإبداعاً من إرسال رسائل نصية.

ثانياً، قمنا بتبني مبادئ الخصوصية القوية وتقليل البيانات وفكرة قصر الأجل، مما جعل الصور تحذف افتراضيًا. سمح هذا للناس بالتعبير عن أنفسهم بصدق بنفس الطريقة التي كانوا سيفعلونها إذا كانوا يتسكعون في حديقة مع أصدقائهم. ربما تكون وسائل التواصل الاجتماعي قد قامت بتطبيع وجود سجل دائم للمحادثات عبر الإنترنت، ولكن في الحياة الحقيقية، لا يقوم الأصدقاء بفتح مسجل الشريط لتوثيق كل محادثة للاستهلاك العام أو الاحتفاظ الدائم.

ثالثاً، قمنا بالتركيز على ربط الأشخاص الذين كانوا بالفعل أصدقاء في الحياة الحقيقية من خلال مطالبتهم، افتراضيًا، أن يحدد كلا مستخدمي سناب شات بعضهما البعض كصديقين للتمكن من التواصل. لأنه في الحياة الحقيقية، تكون الصداقات متبادلة. إنه ليس شخص واحد يتابع شخصًا آخر، أو غرباء عشوائيون يدخلون حياتنا بدون إذن أو دعوة.

تطور مسؤول

منذ تلك الأيام الأولى، عملنا على مواصلة التطور بشكل مسؤول. فهمنا الآثار السلبية المحتملة لوسائل التواصل الاجتماعي، قمنا باتخاذ خيارات استباقية لضمان أن تعكس جميع منتجاتنا المستقبلية تلك القيم المبكرة.

لم نكن بحاجة إلى إعادة اختراع العجلة للقيام بذلك. تمكن فريقنا من التعلم من التاريخ عند مواجهة التحديات التي تطرحها تكنولوجيا جديدة. تطورت سناب شات مع مرور الوقت، تأثرنا بالأطر التنظيمية الحالية التي تحكم البث والاتصالات عند تطوير أجزاء تطبيقنا حيث يمكن للمستخدمين مشاركة المحتوى الذي لديه القدرة على الوصول إلى جمهور كبير. على سبيل المثال، عندما تتحدث إلى أصدقائك على الهاتف، لديك توقعات عالية للخصوصية، في حين إذا كنت مذيعاً عاماً مع إمكانية التأثير على عقول وآراء الكثيرين، فأنت تخضع لمعايير ومتطلبات تنظيمية مختلفة.

ساعدنا هذا الانقسام على تطوير قواعد للأجزاء الأكثر عمومًا لـسناب شات التي هي مستوحاة من لوائح البث. تحمي هذه القواعد الجمهور وتميزنا عن المنصات الأخرى. على سبيل المثال، اكتشف (Discover)، منصة المحتوى المغلقة لدينا حيث يحصل مستخدمو سناب شات على الأخبار والترفيه الخاصة بهم، تحتوي حصريًا على المحتوى من ناشري وسائل الإعلام المحترفين الذين يشاركون معنا، أو من الفنانين والمبدعين والرياضيين الذين اخترنا العمل معهم. يجب على جميع مزودي المحتوى هؤلاء الالتزام بإرشادات المجتمع الخاصة بنا، التي تنطبق على جميع المحتوى على منصتنا. لكن شركاء النشر لـ(Discover) يجب عليهم أيضًا الالتزام بإرشادات الناشرين الخاصة بنا، التي تشمل اشتراط التحقق من صحة المحتوى أو أن يكون دقيقًا ومحدداً بحسب العمر عند الاقتضاء. وبالنسبة للمبدعين الأفراد الذين يتم عرضهم في Discover، تستعرض فرق الإشراف البشرية قصصهم قبل السماح بالترويج لها على المنصة. في حين أننا نستخدم الخوارزميات لعرض المحتوى بناءً على الاهتمامات الفردية، فإنها تُطبّق على مجموعة محدودة ومحققة من المحتوى، وهو نهج مختلف عن المنصات الأخرى.

منصّة "الأضواء" (Spotlight)، حيث يمكن للمبدعين تقديم مقاطع فيديو إبداعية وممتعة لمشاركتها مع مجتمع سناب شات الأوسع نطاقاً، يتم مراجعة جميع المحتوى تلقائيًا بواسطة الذكاء الاصطناعي قبل حصولها على أي توزيع، ثم يتم تخضيعها للمراجعة والإشراف البشري قبل أن يمكن مشاهدتها من قبل أكثر من 25 شخصًا. يتم ذلك لضمان أننا نخفض خطر نشر المعلومات المضللة أو خطاب الكراهية أو المحتوى الآخر الذي يحتمل أن يكون ضاراً.

لا نحقق ذلك بالشكل الصحيح دائمًا في المرة الأولى، ولهذا السبب نقوم بإعادة تصميم أجزاء سناب شات عندما لا ترقى إلى قيمنا. هذا ما حدث في عام 2017 عندما اكتشفنا أن أحد منتجاتنا، القصص (Stories)، كان يجعل مستخدمي سناب شات يشعرون بأنهم اضطروا إلى التنافس مع المشاهير والمؤثرين لجذب الانتباه لأن المحتوى من المشاهير والأصدقاء تم دمجه في واجهة مستخدم واحدة. نتيجة لتلك الملاحظة، قررنا فصل المحتوى "الاجتماعي" الذي أنشأه الأصدقاء عن محتوى "وسائل الإعلام" الذي أنشأه المشاهير للمساعدة في تقليل المقارنة الاجتماعية على منصتنا. أثرت إعادة التصميم هذه سلبا على نمو مستخدمنا في المدى القصير، ولكن كان الشيء الصحيح الذي يجب القيام به لمجتمعنا.

حماية الشباب في سناب شات

مهمتنا - تمكين الناس من التعبير عن أنفسهم، والعيش في الوقت الحالي، والتعرف على العالم، والاستمتاع معًا - أبلغت عن بنية سناب شات الأساسية. قد مكننا التمسك بهذه المهمة من إنشاء منصة تعكس الطبيعة البشرية وتعزز الصداقات الحقيقية. لا يزال يؤثر هذا على عمليات ومبادئ التصميم وسياساتنا وممارساتنا، والموارد والأدوات التي نقدمها لمجتمعنا. وهو يدعم جهودنا المستمرة لتحسين كيفية تعاملنا مع المخاطر والتحديات الكامنة المرتبطة بخدمة مجتمع كبير على الإنترنت.

كان جزءاً كبيراً من الوفاء بمهمتنا هو البناء والحفاظ على الثقة مع مجتمعنا وشركائنا، بالإضافة إلى الآباء والمشرعين وخبراء السلامة. تم بناء هذه العلاقات من خلال القرارات المتعمدة والمتسقة التي اتخذناها لوضع الخصوصية والسلامة في قلب عملية تصميم منتجاتنا.

على سبيل المثال، اعتمدنا مبادئ التصميم المسؤولة التي تراعي خصوصية وسلامة المنتجات والميزات الجديدة من بداية عملية التطوير. وقمنا بجعل هذه المبادئ حقيقةً من خلال عمليات صارمة. تخضع كل ميزة جديدة في سناب شات لمراجعة محددة للخصوصية والسلامة، يتم إجراءها من قبل فرق تمتد عبر Snap - بما في ذلك المصممون وعلماء البيانات والمهندسون ومدراء المنتجات ومستشارو المنتجات وقادة السياسات ومهندسو الخصوصية - قبل فترة طويلة من رؤيتها لضوء النهار.

في حين أن أكثر من ٪80 من مجتمعنا في الولايات المتحدة هو 18 أو أكثر من العمر، فقد أمضينا قدراً هائلاً من الوقت والموارد لحماية المراهقين. لقد اتخذنا خيارات مدروسة ومتعمدة لتطبيق سياسات إضافية للخصوصية والسلامة ومبادئ التصميم للمساعدة في الحفاظ على سلامة المراهقين. ويشمل ذلك:

  • مراعاة الحساسيات والاعتبارات الفريدة للقصر عند تصميم المنتجات. لهذا السبب نجعل عمداً من الصعب على الغرباء العثور على القصر عن طريق حظر الملفات العامة للأشخاص دون سن الثامنة عشرة ونقوم بنشر ميزة للحد من اكتشاف القصر في "إضافة سريعة" (Quick Add) (اقتراحات الأصدقاء). ولماذا قمنا بنشر أدوات تحديد العمر منذ فترة طويلة لمنع القصر من مشاهدة المحتوى والإعلانات التي تنظمها فئات العمر.

  • تمكين مستخدمي سناب شات من خلال توفير عناصر تحكم متسقة وسهلة الاستخدام مثل إيقاف مشاركة الموقع افتراضيًا وتقديم سهولية الإبلاغ المبسطة داخل التطبيق للمستخدمين للإبلاغ عن المحتوى أو السلوكيات المتعلقة إلى فرق الثقة والسلامة لدينا. بمجرد الإبلاغ عن ذلك، يتم اتخاذ الإجراء على معظم المحتوى في أقل من ساعتين لتقليل احتمال حدوث الضرر إلى أدنى حد.

  • العمل على تطوير الأدوات التي من شأنها إعطاء الآباء المزيد من الرقابة دون التضحية بالخصوصية - بما في ذلك الخطط الرامية إلى تزويد الآباء بالقدرة على رؤية أصدقاء المراهقين وإدارة إعدادات الخصوصية والموقع لهم ومعرفة من يتحدثون معهم.

  • الاستثمار في البرامج والمبادرات التعليمية التي تدعم سلامة مجتمعنا وصحته العقلية - مثل تحقق من صديق (Friend Check Up) وهنا من أجلك (Here for You). يطالب تحقق من صديق (Friend Check Up) من مستخدمي سناب شات بالتحقق من أصدقائهم والتأكد من أن القائمة تتكون من الأشخاص الذين يعرفونهم ولا يزالون يريدون الاتصال بهم. يقدم "هنا من أجلك" (Here for You) الدعم للمستخدمين الذين قد يعانون من أزمات صحية عقلية أو عاطفية من خلال توفير الأدوات والموارد من الخبراء.

  • منع استخدام القصر. نحن لا نبذل أي جهد - وليس لدينا خطط - للتسويق للأطفال، ولا يسمح للأفراد دون سن 13 بإنشاء حسابات سناب شات. عند التسجيل لحساب، يُطلب من الأفراد تقديم تاريخ ميلادهم، وتفشل عملية التسجيل إذا قام مستخدم بإدخال عمر أقل من 13 عامًا. قمنا أيضًا بتنفيذ ضمان جديد يمنع مستخدمي سناب شات بين 13 إلى 17 عامًا مع الحسابات الحالية من تحديث تاريخ ميلادهم إلى سن 18 أو أعلى. على وجه التحديد، إذا حاول أحد الأشخاص القصر تغيير سنة ميلاده إلى سن يزيد عن 18 عامًا، فسنمنع التغيير كوسيلة لضمان عدم وصول المستخدمين إلى محتوى غير مناسب للعمر في سناب شات.

الخلاصة والتطلع إلى الأمام

نحن نسعى دائمًا إلى إيجاد طرق جديدة للحفاظ على سلامة مجتمعنا، ولدينا المزيد من العمل للقيام به. نعلم أن السلامة عبر الإنترنت هي مسؤولية مشتركة، تشمل مجموعة من القطاعات والجهات الفاعلة. نحن ملتزمون بالقيام بدورنا بالتنسيق مع شركاء السلامة بما في ذلك المجلس الاستشاري للسلامة لدينا، ونظراء صناعة التكنولوجيا، والحكومة، والمجتمع المدني. من مبادرات تركز على التكنولوجيا ورفع الوعي، إلى البحث وتبادل أفضل الممارسات، نحن نشارك بنشاط مع المنظمات المكرسة لحماية القصر عبر الإنترنت. نعلم أيضًا أن هناك العديد من المشاكل المعقدة والتحديات التقنية في صناعتنا، بما في ذلك التحقق من عمر القصر، ونظل ملتزمين بالعمل مع الشركاء وواضعي السياسات لتحديد الحلول القوية على نطاق الصناعة.

إن حماية رفاهية مستخدمي سناب شات هو شيء نتعامل معه بالتواضع والتصميم الثابت. يستخدم أكثر من 500 مليون شخص سناب شات كل شهر، في حين يقول ٪95 من مستخدمينا أن سناب شات يجعلهم يشعرون بالسعادة، لدينا مسؤولية أخلاقية لمراعاة مصالحهم الفضلى في كل شيء نقوم به. هذا صحيح بشكل خاص عندما نبتكر مع الواقع المعزز - الذي لديه القدرة على المساهمة بشكل إيجابي في الطريقة التي نعمل ونتسوق ونتعلم ونتواصل بها. سنطبق نفس القيم والمبادئ المؤسسة، حيث نواصل تجربة التقنيات الجديدة مثل الجيل القادم للواقع المُعزّز.

عندما نتطلع إلى المستقبل، ستصبح الحوسبة وتكنولوجيا مدمجة بشكل متزايد في حياتنا اليومية. نعتقد أن التنظيم ضروري ولكن نظرًا للسرعة التي تتطور بها التكنولوجيا والمعدل الذي يمكن به تنفيذ التنظيم، لا يمكن للتنظيم وحده إنجاز المهمة. يجب على شركات التكنولوجيا تحمل المسؤولية وحماية المجتمعات التي تخدمها بشكل نشط.

إذا لم تفعل ذلك، يجب على الحكومة التصرف بسرعة لمساءلتها. نحن نؤيد تمامًا جهود اللجنة الفرعية للتحقيق في هذه القضايا ونرحب باتباع نهج تعاوني لحل المشكلات يحافظ على سلامة مجتمعنا.

شكرا لكم مرة أخرى على منح فرصة المثول أمامكم اليوم ومناقشة هذه القضايا الهامة. أتطلع إلى الإجابة على أسئلتكم.

العودة إلى الأخبار