লেন্সগুলি যখন 2015 সাল থেকে ব্যবহার করা শুরু হয়, তখন থেকে অগমেন্টেড রিয়েলিটি (AR) প্রযুক্তি আমাদের চোখের সামনে জাদু করে দেখাচ্ছিল, আমরা যা সম্ভব বলে মনে করি তার বিপ্লব ঘটায়। এখন প্রতিদিন গড়পড়তা 300 মিলিয়নেরও বেশি Snapchatter-রা AR ব্যবহার করেন এবং আমরা আমাদের প্রাত্যহিক জীবনের ক্যামেরা অভিজ্ঞতায় এই ধরনের প্রযুক্তির প্রত্যাশা করে থাকি।

এখন AI-তে হওয়া সাম্প্রতিক অগ্রগতির ফলে সীমাহীন এবং উত্তেজনাপূর্ণ সম্ভাবনা উন্মোচিত হয়েছে, যা আমরা আগে অসম্ভব ভাবতাম, তা সম্ভব করে তুলছে।

ইতোমধ্যেই Snapchatter-রা AI ব্যবহার করে নিজেদের মনের ভাব প্রকাশ করার অনেক অনুপ্রেরণামূলক উপায় বের করেছেন, যেখানে তারা একজন বন্ধুর সাথে একটি কথোপকথনকে পার্সোনালাইজ করতে অরিজিনাল জেনারেটিভ AI চ্যাট ওয়ালপেপার তৈরি করছেন, AI পরিচালিত লেন্স দিয়ে নিজেদের ইচ্ছামত রূপান্তর ঘটাচ্ছেন অথবা My AI এর সাথে কথোপকথনের মাধ্যমে দুনিয়া সম্পর্কে জানছেন। কমিউনিটির সৃষ্টিশীলতা এবং কল্পনাকে আনলক করা চালিয়ে যেতে সাহায্য করতে এই প্রযুক্তির সম্ভাবনা দেখতে পেরে আমরা অত্যন্ত আনন্দিত।

AI স্বচ্ছতা

আমরা বিশ্বাস করি যে Snapchatter-রা মজার দৃশ্য তৈরি করা হোক বা My AI-এর সাথে টেক্সট-ভিত্তিক কথোপকথনের সাহায্যে কিছু শেখা, সমস্ত ক্ষেত্রেই তারা যে ধরনের প্রযুক্তি ব্যবহার করছেন, সে ব্যাপারে তাদের অবগত থাকা প্রয়োজন।

Snapchatter-রা যখন AI প্রযুক্তি দ্বারা পরিচালিত একটি ফিচারের সাথে ইন্টারঅ্যাক্ট করছেন, তখন আমরা তাদেরকে প্রাসঙ্গিকতা সংক্রান্ত স্বচ্ছতা প্রদান করার জন্য প্রাসঙ্গিক ইন-অ্যাপ আইকন, প্রতীক এবং লেবেল ব্যবহার করি। যেমন, যখন কোনো Snapchatter, AI-এর তৈরি করা স্বপ্নের জগৎ সংক্রান্ত ছবি শেয়ার করেন, তখন প্রাপক প্রেক্ষাপট বিষয়ক কার্ডসহ গল্পটি দেখতে পান। আরও ফিচার, যেমন এক্সটেন্ড টুল, যা একটি Snap-কে আরও জুম আউট হিসাবে দেখানোর জন্য AI ব্যবহার করে, সেটি যে Snapchatter ওই Snap তৈরি করছেন, তার জন্য একটি স্পার্কল আইকন দিয়ে AI ফিচার ব্যবহার চিহ্নিত করা হয়ে থাকে।

এছাড়া আমরা সমস্ত রাজনৈতিক বিজ্ঞাপনকে মানুষ দ্বারা কঠোর রিভিউ প্রক্রিয়ার মধ্যে দিয়ে যাচাই করে নিই, যার মধ্যে রয়েছে প্রতারণামূলক ছবি বা বিষয়বস্তু তৈরি করতে AI-এর ব্যবহার সহ কোনো প্রকার বিভ্রান্তিকর বিষয়বস্তু রয়েছে কি না, তা ভালোভাবে খতিয়ে দেখা।

শীঘ্রই আমরা AI-এর তৈরি করা ছবিগুলোতে ওয়াটারমার্ক যোগ করব। যখন কোনো ইমেজ এক্সপোর্ট করা হবে বা ক্যামেরা রোলে সেভ করা হবে, তখন এটি Snap-এর জেনারেটিভ AI টুল দিয়ে তৈরি করা হয়েছে বলে ইমেজে দেখা যাবে। Snapchat-এ তৈরি করা AI-এর তৈরি ইমেজের প্রাপকরা ব্যাপকভাবে পরিচিত স্পার্কল আইকনের পাশে একটি ছোট আকারের ভূতের লোগো দেখতে পারেন। এই ধরনের ওয়াটারমার্ক যোগ করার ফলে দর্শক-শ্রোতারা বুঝতে পারবেন যে তাদের দেখা ওই ইমেজগুলো Snapchat-এ AI দিয়ে তৈরি করা হয়েছে।

বিধিবদ্ধ সুরক্ষা সংক্রান্ত টেস্টিং এবং প্রোটোকল 

যে প্রোডাক্ট এবং অভিজ্ঞতায় গোপনীয়তা, সুরক্ষা এবং বয়স সংক্রান্ত উপযুক্ততাকে অগ্রাধিকার দেওয়া হয়, সেই দায়িত্ব আমরা গুরুত্ব সহকারে পালন করি। আমাদের সমস্ত প্রোডাক্টের মতো, AI-পরিচালিত ফিচারগুলো সব সময় কঠোর রিভিউ প্রক্রিয়ার মধ্যে দিয়ে যায়, যাতে এটা নিশ্চিত করা যায় যে, সেগুলো আমাদের সুরক্ষা এবং গোপনীয়তা সংক্রান্ত নীতিগুলো মেনে চলে এবং দীর্ঘদিনের অভিজ্ঞতা থেকে আমরা এই অতিরিক্ত সুরক্ষাগুলো গড়ে তুলেছি:

রেড-টিমিং

AI রেড-টিমিং হলো একটি ব্যবহৃত হওয়া ক্রমবর্ধমান সাধারণ কৌশল, যা দিয়ে AI আউটপুটের সুরক্ষা এবং ধারাবাহিকতা উন্নত করার জন্য সমাধান বাস্তবায়ন এবং AI-চালিত ফিচার এবং AI মডেলে থাকা সম্ভাব্য ত্রুটিগুলো পরীক্ষা এবং শনাক্ত করা হয়।

আমরা জেনারেটিভ ইমেজ মডেলের জন্য নোভেল AI রেড-টিমিংয়ের এক অন্যতম প্রাথমিক পর্যায়ের ব্যবহারকারী, যার জন্য HackerOne-এর সাথে যৌথ উদ্যোগে আমাদের কঠোর সুরক্ষা সংক্রান্ত উপায়গুলোর কার্যকারিতা পরীক্ষা করার জন্য 2,500 ঘণ্টারও বেশি সময় ধরে কাজ করেছি।

সুরক্ষা ফিল্টারিং এবং ধারাবাহিক লেবেলিং

আমরা Snapchat-এ উপলভ্য জেনারেটিভ AI-এর সক্রিয় থাকা অভিজ্ঞতাগুলো বর্ধিত করার পাশাপাশি দায়িত্বশীল প্রশাসন পরিচালনার নীতি প্রতিষ্ঠা করেছি এবং আমাদের নিরাপত্তা সংক্রান্ত মিটিগেশনের উন্নতি করেছি।

আমাদের টিম দ্বারা AI লেন্স অভিজ্ঞতা প্রস্তুত করার প্রাথমিক পর্যায়ে সম্ভাব্য সমস্যাজনক প্রম্পটগুলো শনাক্ত এবং অপসারণ করতে একটি রিভিউ প্রক্রিয়া তৈরি করেছি। আমাদের সমস্ত AI লেন্স, যা একটি প্রম্পট থেকে ইমেজ তৈরি করে, তা চূড়ান্ত হওয়ার এবং আমাদের কমিউনিটির কাছে উপলভ্য হওয়ার আগে এই প্রক্রিয়ার মধ্যে দিয়ে যায়।

অন্তর্ভুক্তিমূলক টেস্টিং

আমরা চাই যে সমাজের সমস্ত স্তরের Snapchatter-দের যেন আমাদের অ্যাপ, বিশেষত আমাদের AI-পরিচালিত অভিজ্ঞতা ব্যবহার করার সময় একই রকমের অ্যাক্সেস এবং প্রত্যাশা থাকে।

এটি মাথায় রেখে আমরা সম্ভাব্য পক্ষপাতিত্ব সংক্রান্ত AI ফলাফল কমানোর জন্য অতিরিক্ত টেস্টিং চালু করছি।

AI স্বাক্ষরতায় নিরবচ্ছিন্ন অঙ্গীকার

আমরা প্রবলভাবে বিশ্বাস করি যে আমাদের কমিউনিটি নিজেদের মনের ভাব প্রকাশ করতে এবং একে অপরের সাথে সংযুক্ত হতে AI প্রযুক্তির কাছে উন্নতির বিশাল সুযোগ আছে - এবং আমরা এই ধরনের সুরক্ষা এবং স্বচ্ছতা সংক্রান্ত নীতিগুলোর উন্নতিসাধন চালিয়ে যাওয়ার ব্যাপারে অঙ্গীকারবদ্ধ।

আমাদের সমস্ত AI টুল, টেক্সট-ভিত্তিক এবং ভিজ্যুয়াল, উভয় থেকে যাতে ভুল, ক্ষতিকর বা বিভ্রান্তিকর মেটিরিয়াল না তৈরি হয়, সেই বিষয়টি আমরা সুনিশ্চিত করার চেষ্টা করলেও ভুল হতেই পারে। Snapchatter-রা বিষয়বস্তুর বিরুদ্ধে অভিযোগ জানাতে পারেন এবং আমরা এই প্রতিক্রিয়ার প্রশংসা করি।

সব শেষে, আমাদের কমিউনিটি যাতে এই টুলগুলো আরও ভালোভাবে বুঝতে পারে, সেই নিরবচ্ছিন্ন অঙ্গীকারের অংশ হিসাবে এবার আমরা নিজেদের সহায়তা সাইটে অতিরিক্ত তথ্য এবং রিসোর্স যোগ করেছি।