છ સપ્તાહ પહેલા, અમે OpenAI ની GPT ટેક્નોલોજી સાથે બનેલ ચેટબોટ My AI, ને રજૂ કર્યું હતું. અમે Snapchat+ સબ્સ્ક્રાઇબર્સને My AI પ્રદાન કરીને ધીમે ધીમે શરૂઆત કરી હતી અને એક મહિનાથી ઓછા સમયમાં, અમે ઘણું શીખ્યા છીએ. ઉદાહરણ તરીકે, અમારા સમુદાયે My AI ને મૂવીઝ, રમત-ગમત, રમતો, પાલતુ પ્રાણીઓ અને ગણિતનો સમાવેશ કરવા માટે પૂછેલા કેટલાક સૌથી સામાન્ય વિષયો અમે જાણીએ છીએ.

અમે દુરુપયોગની કેટલીક સંભવિતતાઓ વિશે પણ શીખ્યા છીએ, જેમાંથી ઘણા અમે અમારા નિયમોને અનુરૂપ ન હોય તેવાં જવાબો આપવા માટે ચેટબોટને છેતરવાનો પ્રયાસ કરતા લોકો પાસેથી શીખ્યા છીએ. My AI ને સુધારવા માટેના અમારા સંયુક્ત કાર્યના ભાગરૂપે, અમે અમારા શિક્ષણના પરિણામ સ્વરૂપે — અમે અમલ કરવાની યોજના બનાવીએ છીએ તે નવાં સાધનો સાથે તાજેતરમાં મૂકેલા કેટલાક સલામતી વિસ્તરણો પર અપડેટ શેર કરવા માંગીએ છીએ.

પ્રાઇવસી હંમેશા Snap ના મિશનમાં કેન્દ્રિય રહી છે — તે મિત્રો અને પરિવાર સાથે વાતચીત કરતી વખતે લોકોને પોતાને વ્યક્ત કરવામાં વધુ આરામદાયક અનુભવવામાં મદદ કરે છે. સમગ્ર Snapchat માં, અમે અમારા સમુદાયને અમારા ઉત્પાદનો ડેટાનો ઉપયોગ કેવી રીતે કરે છે અને અમે કેવી રીતે પ્રાઇવસી-બાય-ડિઝાઇન પ્રક્રિયાઓનો ઉપયોગ કરીને સુવિધાઓ બનાવીએ છીએ તે વિશે સ્પષ્ટતા અને સંદર્ભ આપવાનો પ્રયાસ કરીએ છીએ. ઉદાહરણ તરીકે, અમે Snapchat પર મિત્રો વચ્ચેની વાતચીત સંબંધિત ડેટાને જે રીતે હેન્ડલ કરીએ છીએ તે Snapchat પર બ્રોડકાસ્ટ સામગ્રી સંબંધિત ડેટાને અમે કેવી રીતે હેન્ડલ કરીએ છીએ તેનાથી અલગ છે, જે અમે ઉચ્ચ ધોરણને પકડી રાખીએ છીએ અને તેને નિયંત્રિત કરવાની જરૂર છે કારણ કે તે બહોળા પ્રમાણમાં દર્શકો સુધી પહોંચે છે.

જો કે, My AI એ ચેટબોટ છે અને વાસ્તવિક મિત્ર નથી, તેથી અમે ઇરાદાપૂર્વક સંબંધિત ડેટાને અલગ રીતે રાખીએ છીએ, કારણ કે અમે My AI ને વધુ મનોરંજક, ઉપયોગી અને સુરક્ષિત બનાવવાનું ચાલુ રાખવા માટે વાતચીતના ઇતિહાસનો ઉપયોગ કરી શકીએ છીએ. Snapchatters ને My AI નો ઉપયોગ કરવાની અનુમતિ આપવામાં આવે તે પહેલાં, અમે તેમને એક ઑનબોર્ડિંગ સંદેશ બતાવીએ છીએ જે સ્પષ્ટ કરે છે કે My AI સાથેના બધા સંદેશા જ્યાં સુધી તમે તેને ડિલીટ ન કરો ત્યાં સુધી જાળવી રાખવામાં આવશે.

My AI સાથેની આ પ્રારંભિક ક્રિયાપ્રતિક્રિયાઓની સમીક્ષા કરવામાં સક્ષમ હોવાથી અમને એ ઓળખવામાં મદદ મળી છે કે કઈ રેલ સારી રીતે કામ કરી રહી છે અને કોને વધુ મજબૂત બનાવવાની જરૂર છે. આનું મૂલ્યાંકન કરવામાં મદદ કરવા માટે, અમે My AI ક્વેરીઝ અને પ્રતિસાદોની સમીક્ષાઓ ચલાવી રહ્યા છીએ જેમાં "બિન-અનુરૂપ" ભાષા છે, જેને અમે કોઈપણ ટેક્સ્ટ તરીકે વ્યાખ્યાયિત કરીએ છીએ કે જેમાં હિંસા, લૈંગિક રીતે સ્પષ્ટ શબ્દો, ગેરકાયદે ડ્રગનો ઉપયોગ, બાળ જાતીય દુર્વ્યવહાર, પજવણી, દ્વેષપૂર્ણ ભાષણ, અપમાનજનક અથવા પક્ષપાતી નિવેદનો, જાતિવાદ, દુર્વ્યવહાર અથવા ઓછાં બહાર આવેલ ગ્રુપને હાંસિયામાં ધકેલી દેવાનો સમાવેશ થાય છે. સામગ્રીની આ તમામ શ્રેણીઓ Snapchat પર સ્પષ્ટપણે પ્રતિબંધિત છે.

અમારા સૌથી તાજેતરના વિશ્લેષણમાં જાણવા મળ્યું છે કે My AI ના માત્ર 0.01% પ્રતિસાદો બિન-અનુરૂપ માનવામાં આવ્યા હતા. સૌથી સામાન્ય બિન-અનુરૂપ My AI પ્રતિસાદોના ઉદાહરણોમાં Snapchatters ના પ્રશ્નોના જવાબમાં My AI અયોગ્ય શબ્દોનું પુનરાવર્તન કરે છે.

અમે My AI ને બહેતર બનાવવા માટે આ શિક્ષણનો ઉપયોગ કરવાનું ચાલુ રાખીશું. આ ડેટા My AI ના દુરુપયોગને મર્યાદિત કરવા માટે નવી સિસ્ટમ ગોઠવવામાં પણ મદદ કરશે. અમે અમારા હાલના ટૂલસેટમાં ઓપન AI ની મધ્યસ્થતા ટેક્નોલોજી ઉમેરી રહ્યા છીએ, જે અમને સંભવિત હાનિકારક સામગ્રીની ગંભીરતાનું મૂલ્યાંકન કરવાની અનુમતિ આપશે અને જો તેઓ સેવાનો દુરુપયોગ કરે તો Snapchatters ના My AI ના ઍક્સેસને અસ્થાયી રૂપે પ્રતિબંધિત કરશે.

અમે સલામતી અને વય યોગ્યતાને પ્રાધાન્ય આપતા ઉત્પાદનો અને અનુભવોને ડિઝાઇન કરવાની અમારી જવાબદારીને ગંભીરતાથી લઈએ છીએ. My AI લૉન્ચ કર્યા પછી, અમે Snapchatter ની ઉંમરને ધ્યાનમાં લીધા વિના, Snapchatter ની અયોગ્ય વિનંતીઓ પર My AI ના પ્રતિસાદોને બહેતર બનાવવા માટે જોરશોરથી કામ કર્યું છે. સંભવિત રૂપે બિન-અનુરૂપ ટેક્સ્ટ માટે My AI વાતચીતને સ્કેન કરવા અને પગલાં લેવા માટે અમે સક્રિય શોધ સાધનોનો પણ ઉપયોગ કરીએ છીએ.

અમે Snapchatter ની જન્મતારીખનો ઉપયોગ કરીને My AI માટે નવા યુગના સંકેતને પણ લાગુ કર્યો છે, જેથી કરીને જો કોઈ Snapchatter ક્યારેય My AI ને તેમની ઉંમર વાતચીતમાં ન કહે તો પણ, વાતચીત કરતી વખતે ચેટબોટ સતત તેમની ઉંમરને ધ્યાનમાં લેશે.

અમારા ઇન-એપ પરિવાર કેન્દ્ર દ્વારા Snapchat માતા-પિતા અને સંભાળ રાખનારાઓને દૃશ્યતા પ્રદાન કરે છે કે તેઓના કિશોર બાળકો કયા મિત્રો સાથે વાતચીત કરી રહ્યા છે અને કેટલા સમયથી. આવનારા અઠવાડિયામાં, અમે માતા-પિતાને તેમના કિશોર બાળકોની My AI સાથેની ક્રિયાપ્રતિક્રિયાઓ વિશે વધુ સમજ આપીશું. આનો અર્થ એ છે કે માતા-પિતા એ જોવા માટે પરિવાર કેન્દ્રનો ઉપયોગ કરી શકશે કે તેમના કિશોર બાળકો My AI સાથે વાતચીત કરી રહ્યાં છે અને કેટલી વાર. પરિવાર કેન્દ્રનો ઉપયોગ કરવા માટે, માતા-પિતા અને કિશોર બંનેએ પસંદ કરવાની જરૂર છે — અને રસ ધરાવતા પરિવારો અહીં કેવી રીતે સાઇન અપ કરવું તે વિશે વધુ જાણી શકે છે.

જો તેઓને My AI તરફથી કોઈ સંબંધિત પ્રતિસાદ મળે અને પ્રોડક્ટ સાથેના તેમના એકંદર અનુભવો વિશે અમને પ્રતિક્રિયા સબમિટ કરે છે તો અમે Snapchatters ને અમારા એપ્લિકેશનની અંદરના રિપોર્ટિંગ સાધનોનો ઉપયોગ કરવા પ્રોત્સાહિત કરવાનું ચાલુ રાખીએ છીએ.

અમે My AI ને બહેતર બનાવવા માટે સતત કામ કરી રહ્યા છીએ અને અમે અમારા સમુદાયને સુરક્ષિત રાખવામાં મદદ કરવા માટે વધારાના પગલાંનું સતત મૂલ્યાંકન કરીશું. અમે My AI પરની તમામ પ્રારંભિક પ્રતિક્રિયાની પ્રશંસા કરીએ છીએ અને અમે અમારા સમુદાય માટે આનંદ-પ્રમોદ ભર્યો અને સલામત અનુભવ પ્રદાન કરવા માટે પ્રતિબદ્ધ છીએ.