Sitt ġimgħat ilu, ħriġnaMy AI, chatbot mibni bit-teknoloġija GPT ta’ OpenAI. Bdejna bil-mod billi pprovdejna My AI lill-abbonati ta’ Snapchat+ u, f’ftit aktar minn xahar, tgħallimna ħafna. Pereżempju, nafu li wħud mill-aktar suġġetti komuni li l-komunità tagħna staqsiet lil My AI dwarhom jinkludu films, sports, logħob, annimali domestiċi, u matematika.

Tgħallimna wkoll dwar uħud mill-potenzjal għall-użu ħażin, li ħafna minnhom tgħallimnihom minn nies li ppruvaw iqarrqu biċ-chatbot biex jipprovdi tweġibiet li ma jikkonformawx mal-linji gwida tagħna. Bħala parti mix-xogħol konġunt tagħna biex intejbu My AI, irridu naqsmu aġġornament dwar xi wħud mit-titjibiet fis-sigurtà li reċentement implimentajna bħala riżultat tat-tagħlim tagħna — flimkien ma’ għodod ġodda li qed nippjanaw li nimplimentaw.

L-Approċċ ta' My AI għad-Data

Il-privatezza dejjem kienet ċentrali għall-missjoni ta’ Snap — tgħin lin-nies iħossuhom aktar komdi jesprimu ruħhom meta jikkomunikaw mal-ħbieb u l-familja. Fuq Snapchat, nippruvaw nipprovdu lill-komunità tagħna b’ċarezza u kuntest dwar kif il-prodotti tagħna jużaw id-data u kif nibnu l-karatteristiċi bl-użu ta’ proċessi ta’ privatezza mid-disinn. Pereżempju, il-mod kif nittrattaw id-data relatata mal-konversazzjonijiet bejn il-ħbieb fuq Snapchat huwa differenti mill-mod kif nittrattaw id-data relatata mal-kontenut imxandar fuq Snapchat, li nżommu għal standard ogħla u neħtieġu li jiġi mmoderat minħabba li jilħaq udjenza kbira.

Madankollu, peress li My AI huwa chatbot u mhux ħabib reali, konna deliberati fit-trattament tad-data assoċjata b’mod differenti, għaliex nistgħu nużaw l-istorja tal-konversazzjoni biex inkomplu nagħmlu My AI aktar divertenti, utli, u aktar sigur. Qabel ma s-Snapchatters jitħallew jużaw My AI, nuruhom messaġġ ta' introduzzjoni li jiċċara li l-messaġġi kollha ma' My AI se jinżammu sakemm ma tħassarhomx.

Il-fatt li stajna nirrevedu dawn l-interazzjonijiet bikrija ma' My AI għenna nidentifikaw liema protezzjonijiet qed jaħdmu tajjeb u liema jeħtieġ li jissaħħu. Biex ngħinu nevalwaw dan, ilna nagħmlu reviżjonijiet tal-mistoqsijiet u t-tweġibiet ta' My AI li fihom lingwaġġ “mhux konformi”, li niddefinixxu bħala kwalunkwe test li jinkludi referenzi għal vjolenza, termini sesswalment espliċiti, użu ta’ drogi illeċiti, abbuż sesswali tat-tfal, bullying, diskors ta’ mibegħda, dikjarazzjonijiet derogatorji jew preġudikati, razziżmu, misoġinija, jew emarġinazzjoni ta’ gruppi sottorappreżentati. Dawn il-kategoriji kollha ta’ kontenut huma espliċitament ipprojbiti fuq Snapchat.

L-aktar analiżi reċenti tagħna sabet li 0.01% biss tat-tweġibiet ta' My AI kienu meqjusa bħala mhux konformi. Eżempji tal-aktar tweġibiet komuni mhux konformi ta' My AI kienu jinkludu My AI jirrepeti kliem mhux xieraq b'reazzjoni għall-mistoqsijiet tas-Snapchatters.

Se nkomplu nużaw dan it-tagħlim biex intejbu My AI. Din id-data se tgħinna wkoll nimplimentaw sistema ġdida biex nillimitaw l-użu ħażin ta’ My AI. Qed inżidu t-teknoloġija ta’ moderazzjoni ta’ Open AI mas-sett ta’ għodod eżistenti tagħna, li se tippermettilna nevalwaw is-severità ta’ kontenut potenzjalment ta’ ħsara u nirrestrinġu temporanjament l-aċċess tas-Snapchatters għal My AI jekk jużaw is-servizz b’mod ħażin.

Esperjenzi Adattati għall-Età

Nieħdu bis-serjetà r-responsabbiltà tagħna li niddisinjaw prodotti u esperjenzi li jagħtu prijorità lis-sigurtà u l-adegwatezza għall-età. Minn mindu nedejna My AI, ħdimna b’mod vigoruż biex intejbu t-tweġibiet tiegħu għal talbiet mhux xierqa tas-Snapchatter, irrispettivament mill-età ta’ Snapchatter. Aħna nużaw ukoll għodod ta’ skoperta proattiva biex niskennjaw il-konversazzjonijiet ta’ My AI għal test potenzjalment mhux konformi u nieħdu azzjoni.

Implimentajna wkoll sinjal ġdid tal-età għal My AI li juża d-data tat-twelid ta’ Snapchatter, sabiex anke jekk Snapchatter qatt ma jgħid lil My AI l-età tiegħu f’konversazzjoni, iċ-chatbot b’mod konsistenti jqis l-età tiegħu meta jidħol f’konversazzjoni.

My AI fiċ-Ċentru tal-Familja

Snapchat joffri lill-ġenituri u lill-persuni li jieħdu ħsiebhom viżibbiltà dwar ma’ liema ħbieb qed jikkomunikaw l-adolexxenti tagħhom, u kemm reċentement, permezz taċ-Ċentru tal-Familja fl-app tagħna. Fil-ġimgħat li ġejjin, se nipprovdu lill-ġenituri b’aktar għarfien dwar l-interazzjonijiet tal-adolexxenti tagħhom ma’ My AI. Dan ifisser li l-ġenituri se jkunu jistgħu jużaw iċ-Ċentru tal-Familja biex jaraw jekk l-adolexxenti tagħhom humiex qed jikkomunikaw ma’ My AI, u kemm-il darba. Sabiex tuża ċ-Ċentru tal-Familja, kemm il-ġenitur kif ukoll l-adolexxent jeħtieġ li jagħżlu li jipparteċipaw — u l-familji interessati jistgħu jitgħallmu aktar dwar kif jirreġistrawhawn.

Aħna nkomplu nħeġġu lis-Snapchatters biex jużaw l-għodod ta’ rappurtar fl-app tagħna jekk jirċievu xi tweġibiet inkwetanti minn My AI u biex jissottomettu feedback lilna dwar l-esperjenzi ġenerali tagħhom mal-prodott.

Qegħdin naħdmu kontinwament biex intejbu My AI, u se nevalwaw kontinwament miżuri addizzjonali biex ngħinu nżommu l-komunità tagħna sigura. Napprezzaw il-feedback bikri kollu dwar My AI, u aħna impenjati li nipprovdu esperjenza divertenti u sigura għall-komunità tagħna.