ছয় সপ্তাহ আগে, আমরা My AI চালু করেছি, যেটি OpenAI-এর GPT প্রযুক্তির সাহায্যে তৈরি একটি চ্যাটবট। আমরা ধীরে ধীরে Snapchat+ গ্রাহকদের My AI প্রদান করার মাধ্যমে শুরু করেছি এবং এক মাসের কিছু বেশি সময়ের মধ্যে, আমরা অনেক কিছু শিখেছি। উদাহরণস্বরূপ, আমরা জানি আমাদের কমিউনিটি এমন কিছু সাধারন বিষয় সম্পর্কে My AI-কে জিজ্ঞেস করেছে যার অন্তর্ভুক্ত হল সিনেমা, খেলাধুলা, গেমস, পোষ্য এবং গণিত।

আমরা কিছু অপব্যবহারের সম্ভাব্যতা সম্পর্কেও শিখেছি, যেগুলির মধ্যে অনেকগুলিই আমরা জেনেছি এমন লোকজনের কাছ থেকে যারা আমাদের নির্দেশিকাগুলির সাথে সঙ্গতিপূর্ণ নয় এমন প্রতিক্রিয়া প্রদানের জন্য চ্যাটবটকে প্রতারণা করার চেষ্টা করছে। My AI উন্নত করার জন্য আমাদের যৌথ কাজের অংশ হিসেবে, আমরা আমাদের শিক্ষার ফলস্বরূপ সম্প্রতি স্থাপন করা কিছু নিরাপত্তা বর্ধনের একটি আপডেট শেয়ার করতে চাই— নতুন টুলগুলির সাথে যা আমরা প্রয়োগ করার পরিকল্পনা করছি।

ডেটার প্রতি My AI-এর দৃষ্টিভঙ্গি

গোপনীয়তা সর্বদাই Snap-এর মিশনের কেন্দ্রবিন্দুতে রয়েছে — এটি বন্ধু এবং পরিবারের সাথে যোগাযোগ করার সময় লোকজনদের নিজেদের প্রকাশ করার সময় আরও স্বাচ্ছন্দ্য বোধ করতে সাহায্য করে৷ Snapchat জুড়ে, আমাদের পণ্যগুলি কীভাবে ডেটা ব্যবহার করে এবং কীভাবে আমরা শুরু থেকেই গোপনীয়তা রক্ষার প্রক্রিয়াগুলি ব্যবহার করে বৈশিষ্ট্যগুলি তৈরি করি সে সম্পর্কে আমরা আমাদের কমিউনিটিকে স্পষ্টতা এবং ধারনা দেওয়ার চেষ্টা করি। উদাহরণস্বরূপ, আমরা যেভাবে Snapchat-এ বন্ধুদের মধ্যে কথোপকথনের সাথে সম্পর্কিত ডেটা পরিচালনা করি, তা আমরা Snapchat-এ সম্প্রচার করা কনটেন্ট সম্পর্কিত ডেটা কীভাবে পরিচালনা করি তার থেকে ভিন্ন, যার আমরা একটি উচ্চতর মান ধরে রাখি এবং এটির নিয়ন্ত্রিত হওয়া প্রয়োজন কারণ এটি বৃহৎ সংখ্যক দর্শকদের কাছে পৌঁছায়।

তবে, যেহেতু My AI একটি চ্যাটবট এবং বাস্তব জীবনের বন্ধু নয়, তাই আমরা সংশ্লিষ্ট ডেটাকে ভিন্নভাবে ব্যবহার করার চিন্তাভাবনা করছি, কারণ আমরা কথোপকথনের ইতিহাস ব্যবহার করে My AI-কে আরও মজাদার, উপযোগী এবং নিরাপদ করে তুলতে পারি। Snapchatter-দের My AI ব্যবহার করার অনুমতি দেওয়ার আগে, আমরা তাদের একটি অনবোর্ডিং মেসেজ দেখাই যেটি স্পষ্ট করে যে My AI এর সাথে থাকা সমস্ত মেসেজগুলি আপনি মুছে না দেওয়া পর্যন্ত বজায় রাখা হবে।

My AI-এর সাথে এই প্রারম্ভিক মিথষ্ক্রিয়াগুলি পর্যালোচনা করতে সক্ষম হওয়া আমাদের সনাক্ত করতে সাহায্য করেছে কোন প্রতিরোধগুলি ভাল কাজ করছে এবং কোনগুলিকে আরও শক্তিশালী করা প্রয়োজন। এটি মূল্যায়নে সহায়তা করার জন্য, আমরা আমার My AI অনুসন্ধান এবং প্রতিক্রিয়াগুলির পর্যালোচনা চালাচ্ছি যেগুলিতে "অ-সঙ্গতিপূর্ণ" ভাষা রয়েছে, যেটিকে আমরা যে কোনও টেক্সট হিসাবে সংজ্ঞায়িত করি যাতে সহিংসতা, যৌনতাপূর্ণ শর্তাবলী, অবৈধ মাদকের ব্যবহার, শিশুর যৌন নির্যাতন, ভয় দেখানো, ঘৃণামূলক বক্তৃতা, অবমাননাকর বা পক্ষপাতদুষ্ট বক্তব্য, বর্ণবিদ্বেষ, নারীবিদ্বেষ, বা কম প্রতিনিধিত্বকারী গোষ্ঠীকে প্রান্তিক করার উল্লেখ রয়েছে। Snapchat-এ এই ধরনের কনটেন্টের সমস্ত বিভাগকে স্পষ্টভাবে নিষিদ্ধ করা হয়েছে।

আমাদের সাম্প্রতিক বিশ্লেষণে দেখা গেছে যে My AI-এর মাত্র 0.01% প্রতিক্রিয়াকে অ-সঙ্গতিপূর্ণ হিসেবে গণ্য করা হয়েছে। সবচেয়ে সাধারণ অ-সঙ্গতিপূর্ণ My AI প্রতিক্রিয়াগুলির উদাহরণগুলির মধ্যে রয়েছে Snapchatter-দের প্রশ্নের উত্তরে অনুপযুক্ত শব্দের পুনরাবৃত্তি করা।

My AI-কে উন্নত করতে আমরা এই শিক্ষার ব্যবহার অব্যাহত বজায় রাখব। এই ডেটা My AI-এর অপব্যবহার সীমিত করতে একটি নতুন সিস্টেম স্থাপন করতে আমাদের সাহায্য করবে। আমরা আমাদের বিদ্যমান টুলসেটে Open AI-এর মডারেশন প্রযুক্তি যুক্ত করছি, যা আমাদের সম্ভাব্য ক্ষতিকারক কনটেন্টের তীব্রতা মূল্যায়ন করার এবং Snapchatter-রা যদি পরিষেবার অপব্যবহার করে তাহলে My AI-তে তাদের অ্যাক্সেস সাময়িকভাবে সীমিত করার অনুমতি দেবে।

বয়স-উপযুক্ত অভিজ্ঞতা

নিরাপত্তা এবং বয়সের উপযুক্ততাকে অগ্রাধিকার দেয় এমন পণ্য এবং অভিজ্ঞতা ডিজাইন করার জন্য আমরা আমাদের দায়িত্বকে গুরুত্ব সহকারে গ্রহণ করি। My AI চালু করার পর থেকে, Snapchatter-এর বয়স নির্বিশেষে আমরা অনুপযুক্ত Snapchatter অনুরোধগুলির প্রতিক্রিয়াগুলিকে উন্নত করার জন্য জোরালোভাবে কাজ করেছি। সম্ভাব্য অসঙ্গতিপূর্ণ টেক্সটের জন্য My AI কথোপকথনগুলি স্ক্যান করতে এবং পদক্ষেপ নিতে আমরা সক্রিয় সনাক্তকরণ টুলগুলিও ব্যবহার করি।

আমরা একজন Snapchatter-এর জন্মতারিখ ব্যবহার করে My AI-এর জন্য একটি নতুন বয়সের সিগন্যালও প্রয়োগ করেছি, যাতে কোনও Snapchatter কথোপকথনের মধ্যে My AI-কে কখনও তাদের বয়স না বললেও, কথোপকথনে এনগেজ হওয়ার সময় চ্যাটবট সামঞ্জস্যপূর্ণভাবে তাদের বয়সের খেয়াল রাখবে।

ফ্যামিলি সেন্টারে My AI

Snapchat আমাদের অ্যাপ-মধ্যস্থ ফ্যামিলি সেন্টারের মাধ্যমে মাতাপিতা এবং যত্নশীলদের তাদের কিশোর-কিশোরীরা কোন বন্ধুদের সাথে যোগাযোগ করছে, এবং কতটা সম্প্রতি, সে সম্পর্কে দৃশ্যমানতা অফার করে থাকে। আগামী সপ্তাহগুলিতে, আমরা মাতাপিতাদের My AI-এর সাথে তাদের কিশোর-কিশোরীদের মিথস্ক্রিয়া সম্পর্কে আরও অন্তর্দৃষ্টি প্রদান করব। এর অর্থ হল মাতাপিতারা ফ্যামিলি সেন্টার ব্যবহার করে তাদের কিশোর-কিশোরীরা My AI-এর সাথে যোগাযোগ করছে কিনা এবং কত ঘনঘন করছে, তা দেখতে সক্ষম হবেন। ফ্যামিলি সেন্টার ব্যবহার করার জন্য, একজন অভিভাবক এবং একজন কিশোর উভয়কেই ফ্যামিলি সেন্টারে যুক্ত হতে হবে — এবং আগ্রহী পরিবারগুলি কীভাবে সাইন আপ করবে সে সম্পর্কে এখানে আরও জানতে পারবে।

আমরা Snapchatter-দের আমাদের অ্যাপ-মধ্যস্থ রিপোর্টিং টুল ব্যবহার করতে উৎসাহিত করে যাই, যদি তারা My AI থেকে কোনো উদ্বেগজনক প্রতিক্রিয়া পায় এবং প্রোডাক্টের সাথে তাদের সামগ্রিক অভিজ্ঞতা সম্পর্কে আমাদের কাছে প্রতিক্রিয়া জমা দেওয়ার জন্য।

আমরা My AI উন্নত করার জন্য ক্রমাগত কাজ করে চলেছি এবং আমাদের কমিউনিটিকে সুরক্ষিত রাখতে সাহায্য করার জন্য আমরা ক্রমাগত অতিরিক্ত উপায়গুলির মূল্যায়ন করব। আমরা My AI-এর সমস্ত প্রারম্ভিক প্রতিক্রিয়ার প্রশংসা করি এবং আমরা আমাদের কমিউনিটির জন্য একটি মজাদার এবং নিরাপদ অভিজ্ঞতা প্রদান করতে প্রতিশ্রুতিবদ্ধ।