সাম্প্রতিক বছরগুলোতে AI টুলের দ্রুত বৃদ্ধির ফলে সৃজনশীলতা, কিছু জানতে পারা এবং যোগাযোগের ক্ষেত্রে আগের মতোই নতুন সুযোগ তৈরি হতে থাকবে। তবে, আগে থেকে যে সব অনলাইন ঝুঁকি রয়েছে, প্রযুক্তি তাতে নতুন মাত্রা যোগ করেছে। নতুন গবেষণা থেকে জানা গিয়েছে যে একদিকে অনলাইনে লোকজন যখন আরও বেশি যৌন উত্তেজনাপূর্ণ AI-ইমেজ এবং ভিডিওর মুখোমুখি হচ্ছে, তখন এর মধ্যে থাকা কিছু কন্টেন্টের অবৈধতার ব্যাপারে সচেতনতা তৈরি করা একটি চ্যালেঞ্জ হিসাবে থেকে গিয়েছে।

Snap সমস্ত প্ল্যাটফর্ম এবং পরিষেবা জুড়ে কিশোর-কিশোরী ও কম বয়সী প্রাপ্তবয়স্কদের মনোভাব এবং আচরণ আরও ভালোভাবে বুঝতে আমাদের 'ডিজিটাল কল্যাণ সূচী' নামের বার্ষিক ইন্ডাস্ট্রি-ব্যাপী গবেষণা পরিচালনা ও শেয়ার করে। (Snap গবেষণাটি পরিচালনা করেছে, তবে এটিতে সাধারণত সব ডিজিটাল স্পেসের ব্যাপারে Gen-Z দের অভিজ্ঞতা অন্তর্ভুক্ত, এটিতে সুনির্দিষ্টভাবে Snapchat-এর উপর নজর দেওয়া হয়নি।)  আমরা 2025 সালের ফেব্রুয়ারিতে 'আন্তর্জাতিক নিরাপদ ইন্টারনেট দিবস' উপলক্ষ্যে আমাদের তিন বছরের গবেষণাটির ফলাফল প্রকাশ করার পরিকল্পনা নিয়েছি। কিশোর-কিশোরী, কম বয়সী প্রাপ্তবয়স্ক এবং মা-বাবারা কীভাবে জেনারেটিভ AI-ভিত্তিক যৌন বিষয়বস্তুর সঙ্গে অংশগ্রহণ করছেন এবং প্রতিক্রিয়া জানাচ্ছেন, সে ব্যাপারে আমরা কিছু গুরুত্বপূর্ণ ফলাফল দেখাতে চাই। আমরা এখনই তা করছি, এই সপ্তাহে শিশুদের যৌন শোষণ ও অত্যাচারের উপর আন্তর্জাতিক ক্ষেত্রে নজরের প্রেক্ষিতে এবং 'Empowering Voices DC সম্মেলন'-এ আমাদের অংশগ্রহণ উপলক্ষ্যে, যেখানে AI-দিয়ে তৈরি করা যৌন বিষয়বস্তুর সঙ্গে যে ক্ষতি হতে পারে, সেটির মোকাবিলায় নজর দেওয়া হয়েছে।

যেমন, আমাদের গবেষণা, যেটিতে 6টি দেশ জুড়ে থাকা 9,007 কিশোর-কিশোরী, কম বয়সী প্রাপ্তবয়স্ক এবং মা-বাবাদের উপর সমীক্ষা চালানো হয়েছে ¹, তার মধ্যে 24% বলেছেন যে তারা AI-দিয়ে তৈরি করা কিছু ছবি বা ভিডিও দেখেছেন, যেগুলো একটু যৌন উত্তেজনাপূর্ণ। যারা এই ধরনের কন্টেন্ট দেখেছেন তাদের মধ্যে শুধুমাত্র 2% জানিয়েছেন যে ছবিগুলোর মধ্যে অনুর্ধ্ব 18 বছর বয়সী কাউকে দেখানো হয়েছে।

ভালো ব্যাপার হলো, লোকজন যখন এই ধরনের কন্টেন্ট দেখেছেন, তখন 10 জনের মধ্যে 9 জনই পদক্ষেপ নিয়েছেন, যেগুলোর মধ্যে রয়েছে সংশ্লিষ্ট বিষয়বস্তু ব্লক করা বা মুছে দেওয়া (54%) কিংবা বিশ্বস্ত বন্ধু অথবা পরিবারের সদস্যের সঙ্গে কথা বলা (54%)। তবে, শুধুমাত্র 42% জানিয়েছেন তারা হটলাইনে / হেল্পলাইনে বা যে প্ল্যাটফর্মে বা পরিষেবায় বিষয়বস্তুটি দেখেছেন, সেখানে এটির ব্যাপারে অভিযোগ জানিয়েছেন। এই ইনসাইটের মাধ্যমে সাধারণত ডিজিটাল সুরক্ষা সম্পর্কিত সমস্যার ব্যাপারে কম অভিযোগ জানানোর একটি বৃহত্তর ট্রেন্ড অনুসরণ করে। আমরা আগের একটি পোস্টে অভিযোগের নেতিবাচক ধারনার মোকাবিলার গুরুত্ব উল্লেখ করেছি, যাতে লোকজন সুনির্দিষ্ট কিছু সমস্যাজনক কন্টেন্ট এবং অনলাইন আচরণের মুখোমুখি হওয়াকে স্বাভাবিক না মনে করেন বা অভিযোগকে গোপন কিছু ফাঁস করার সঙ্গে সমতুল না মনে করেন।

আরও উদ্বেগজনক ব্যাপার হলো 40%-এরও বেশি প্রতিক্রিয়া প্রদানকারীর অপ্রাপ্তবয়স্কদের যৌন ছবির বিরুদ্ধে, অনুরূপ ছবি জোক বা মিম হিসাবে ব্যবহার করার উদ্দেশ্য থাকলেও তা প্ল্যাটফর্ম/পরিষেবার কাছে অভিযোগ জানানোর আইনি দায়বদ্ধতা সম্পর্কে স্পষ্ট ধারনা ছিল না। এছাড়া একটা বড় সংখ্যক (70%+) মনে স্বীকার করে নিয়েছেন যে অপ্রাপ্তবয়স্কদের যৌন ছবি রিটেন করতে, দেখতে বা শেয়ার করার জন্য অথবা নকল যৌন কন্টেন্ট তৈরি করতে AI প্রযুক্তির ব্যবহার করা অবৈধ হলেও এই ফলাফলগুলো ইঙ্গিত করেছে যে এই ধরনের কন্টেন্টের ব্যাপারে যে আইনি প্রয়োজনীয়তা বা বাধ্যবাধকতা রয়েছে, সাধারণ মানুষ যাতে সেই ব্যাপারে সচেতন থাকেন, তা সুনিশ্চিত করার জন্য যথেষ্ট কাজ করতে হবে।

যেমন, মার্কিন যুক্তরাষ্ট্রে প্রায় 40% প্রতিক্রিয়া প্রদানকারী জানিয়েছেন যে তারা বিশ্বাস করেন কোনো ব্যক্তির নকল যৌনতামূলক ছবি তৈরি করার জন্য AI প্রযুক্তি ব্যবহার করা বৈধ। এছাড়া, কর্মক্ষেত্রে থাকা সহকর্মীদের কাছ থেকে আমরা একটা উদ্বেগজনক বিষয় শুনেছি: এই ধরনের কন্টেন্ট ছড়িয়ে পড়ার সঙ্গে সঙ্গে কিশোরী বয়সী কিছু মেয়ে নিজেদেরকে বিশেষভাবে “পিছিয়ে পড়েছে” বলে মনে করছেন, যদি তারা AI-এর অপব্যবহার করে তৈরি করা যৌনতামূলক ছবিতে না থাকেন, যা তার সমবয়সীরা অনুপযুক্তভাবে তৈরি এবং শেয়ার করছেন। এই উদ্বেগজনক সমস্যাটি থেকে আরও একটা জিনিস স্পষ্ট হয়েছে যে এই সুনির্দিষ্ট অনলাইন ঝুঁকির ব্যপারে সচেতনতা তৈরি ও তা বৃদ্ধি করার প্রয়োজন আছে, যেখানে এই ধরনের আচরণ প্রতিরোধ করতে প্রাপ্তবয়স্ক ও অবগত সমবয়সীদের একটি সক্রিয় ভূমিকা পালন করতে হবে।  

Snap-এর চলমান প্রতিশ্রুতি

Snapchat-এ এবং প্রযুক্তি ইকোসিস্টেম জুড়ে আরও নিরাপদ, স্বাস্থ্যকর ও আরও ইতিবাচক অভিজ্ঞতা তৈরি করতে Snap-এ আমরা অনবরত রিসোর্স, টুল এবং প্রযুক্তিতে বিনিয়োগ করে চলেছি।

কিছু কিছু ক্ষেত্রে আমরা সম্ভাব্য অবৈধ অ্যাক্টিভিটি শনাক্ত করার জন্য আচরণ সংক্রান্ত “সংকেত” ব্যবহার করি, যাতে আমরা কুকর্মকারীদের সক্রিয়ভাবে সরিয়ে দিতে পারি এবং তাদের বিরুদ্ধে কর্তৃপক্ষের কাছে অভিযোগ জানাতে পারি। এছাড়া একটি কথোপকথনমূলক AI চ্যাটবট অন্তর্ভুক্ত পরিষেবা হিসাবে আমরা Snapchat-এ অনুরূপ মেটিরিয়ালের সম্ভাব্য তৈরি প্রতিরোধ করতে অতিরিক্ত সতর্ক হতে প্রচেষ্টা গ্রহণ করি। এর পাশাপাশি অন্যান্য প্ল্যাটফর্মে তৈরি করা হয়ে থাকতে পারে, এমন মেটিরিয়াল শেয়ার ও বিতরণ করার বিরুদ্ধে সুরক্ষা প্রদান করি। আমরা অপ্রাপ্তবয়স্কদের AI-দিয়ে তৈরি যৌনতামূলক ছবিকে “প্রকৃত” শিশুদের যৌন শোষণ এবং বিকৃত ছবি (CSEAI) হিসাবে বিবেচনা করি, এটির ব্যাপারে জানতে পারলেই এই বিষয়বস্তু সরিয়ে দিই, নিয়ম লঙ্ঘনকারী অ্যাকাউন্ট সাসপেন্ড করে দিই, এবং তা National Center for Missing and Exploited Children (NCMEC)-তে জানাই। PhotoDNA (জানা আছে এমন অবৈধ ছবির ডুপ্লিকেট শনাক্ত করতে) এবং Google-এর CSAI ম্যাচ (জানা আছে এমন অবৈধ ভিডিও শনাক্ত করতে) সহ CSEAI-এর ছড়িয়ে পড়া প্রতিরোধ করতে প্রস্তুত করা প্রযুক্তি কাজে লাগানো এবং প্রয়োগ করার পাশাপাশি আমরা উপরোক্ত পদক্ষেপগুলো গ্রহণ করেছি। আমরা সম্প্রতি Google-এর কন্টেন্ট সুরক্ষা API ব্যবহার করতে শুরু করেছি (নতুন, “আগের-কোনো-হ্যাশ না থাকা” পাবলিক কন্টেন্টের ছবি শনাক্ত করতে সাহায্য করতে)। এছাড়া আমরা GenAI ব্যবহার করে তৈরি শিশুদের যৌন অত্যাচার সংক্রান্ত মেটিরিয়ালের ব্যাপারে গত বছর তাদের প্রাপ্ত 4,700টি রিপোর্টের অনন্য ডিজিটাল স্বাক্ষর (বা “হ্যাশ”) কীভাবে কাজে লাগাতে হয়, সে ব্যাপারে NCMEC-কে কাজে লাগিয়েছি।

আমরা আইন বাস্তবায়ন সংস্থার সঙ্গে কাজ করি, তাদের তদন্ত প্রক্রিয়াতে সহায়তা দিই এবং আমাদের গ্লোবাল ট্রাস্ট ও সেফ্টি এবং আইন বাস্তবায়ন পরিচালনা টিমে ব্যাপকভাবে বিনিয়োগ করি, যা আমাদের কমিউনিটিকে নিরাপদে রাখতে 24/7 কাজ করে। আমরা মার্কিন যুক্তরাষ্ট্রে আইন বাস্তবায়নকারী সংগঠনগুলোর জন্য বার্ষিক সম্মেলনের আয়োজন করি, যেটির লক্ষ্য এটা নিশ্চিত করা যে আমাদের প্ল্যাটফর্মে যদি কোনো অবৈধ কার্যকলাপ ঘটে, সেটির বিরুদ্ধে কীভাবে যথাযযথ ব্যবস্থা নিতে হয়, সে ব্যাপারে অফিসার এবং এজেন্সিগুলো অবগত থাকে।

এছাড়া আমরা আমাদের ইন-অ্যাপ রিপোর্টিং টুল বিস্তার করার কাজ চালিয়ে যাচ্ছি, যার মধ্যে রয়েছে নগ্নতা এবং যৌন বিষয়বস্তু ও সুনির্দিষ্টভাবে CSEAI শনাক্ত করতে আমাদের কমিউনিটির জন্য বিশদ ব্যবস্থা। প্রযুক্তি সংস্থাগুলোর সেবা থেকে কুকর্মকারীদের সরাতে এবং তাদের কার্যকলাপ থেকে অন্যদের ক্ষতি হওয়ার আগে বাধা দিতে সাহায্য করার ক্ষেত্রে সমস্যাজনক বিষয়বস্তু ও অ্যাকাউন্টের বিরুদ্ধে অভিযোগ জানানো একটা গুরুত্বপূর্ণ ভূমিকা পালন করে। 

আরও সম্প্রতি আমরা আমাদের টুলের ফ্যামিলি সেন্টার স্যুটে নতুন ফিচার যোগ করেছি, যা দিয়ে মা-বাবারা আমাদের AI চ্যাটবট সহ কিশোর-কিশোরীরা কীভাবে Snapchat ব্যবহার করছেন তা আরও ভালোভাবে বুঝতে পারেন। এছাড়া আমরা শিক্ষার্থীদের জন্য নিরাপদ এবং সহায়তামূলক পরিবেশ তৈরিতে তাদের প্রচেষ্টাতে স্কুলগুলোকে সহায়তা করতে আমাদের অফার করা রিসোর্স এবং তাদের শিক্ষার্থীরা কীভাবে Snapchat ব্যবহার করেন, তা বুঝতে শিক্ষক/শিক্ষিকা এবং স্কুলের প্রাশাসকদের সাহায্য করতে আমরা নতুন রিসোর্স যোগ করেছি।

এবং আমরা অনলাইনের যৌনতামূলক ক্ষতির ব্যাপারে জনসাধারণর এবং Snapchatter-দের সচেতনতা বাড়ানোর নানা উপায়ে পদক্ষেপ গ্রহণ করে চলেছি। অনলাইনে শিশুদের গ্রুমিং এবং পাচারের মতো যৌনতা সংক্রান্ত ঝুঁকির উপর আমাদের “সুরক্ষিত থাকার স্ন্যাপশট” এপিসোডে নজর দেওয়া হয়। এছাড়া আমরা Know2Protect-কে সাপোর্ট করা প্রথম সত্তা, যা হলো অনলাইনে শিশুদের উপর যৌন অত্যাচার সম্পর্কে কম বয়সী লোকজন, মা-বাবা, বিশ্বস্ত প্রাপ্তবয়স্ক এবং নীতি নির্ধারণকারীদের শিক্ষিত ও তাদের ক্ষমতায়ন করাতে নজর দেওয়া মার্কিন যুক্তরাষ্ট্রের হোমল্যান্ড সিকিউরিটির একটি প্রচার অভিযান।

আমরা সমস্ত প্রকারের স্টেকহোল্ডারের সঙ্গে কাজ চালিয়ে যাওয়ার জন্য অপেক্ষা করছি -- যাদের মধ্যে কয়েকজন হলেন মা-বাবা, কম বয়সী লোকজন, শিক্ষক/শিক্ষিকা এবং নীতি নির্ধারণকারী -- এই সমস্যাগুলোর ব্যাপারে অখণ্ড সমাজ হিসাবে এবং আশা করছি এই সমস্ত ঝুঁকির মোকাবিলায় সাহায্য করতে উপলভ্য রিসোর্স এবং বিদ্যমান ও নতুন অনলাইন ঝুঁকির ব্যাপারে সচেতনতা সুনিশ্চিত করতে নতুন আইডিয়া এবং সুযোগ তৈরি করতে আমাদের ক্রস-প্ল্যাটফর্ম গবেষণা থেকে পাওয়া ইনসাইট সহায়তা প্রদান করবে।

— ভিরাজ দোশী, প্ল্যাটফর্ম সেফটি লিড