Când Lentilele au sosit, în 2015, tehnologia realității augmentate (AR) a adus magia în fața ochilor noștri, revoluționând ceea ce credeam că este posibil. În prezent, peste 300 de milioane de Snapchatteri folosesc AR aproape în fiecare zi, deoarece am ajuns să ne obișnuim cu acest tip de tehnologie în experiența noastră zilnică cu camera foto.

Progresele recente în domeniul inteligenței artificiale deschid posibilități nelimitate și uluitoare, transformând din nou ceea ce credeam că este posibil.

Există deja atât de multe modalități inspirate prin care Snapchatterii se pot exprima folosind inteligența artificială, fie că este vorba de crearea unui fundal de chat original generat de inteligență artificială pentru a personaliza aspectul unei conversații cu un prieten, fie că se transpun în moduri pline de imaginație cu ajutorul Lentilelor cu inteligență artificială, fie că învață despre lume prin intermediul conversațiilor cu My AI. Suntem foarte entuziasmați de potențialul pe care această tehnologie îl are de a ajuta comunitatea noastră să continue să își acceseze creativitatea și imaginația.

Transparența AI

Credem că Snapchatterii ar trebui să fie informați cu privire la tipurile de tehnologii pe care le folosesc, indiferent dacă realizează imagini distractive sau învață prin conversații text sprijinite de My AI.

Folosim pictograme, simboluri și etichete în aplicație pentru a oferi transparență de context Snapchatterilor atunci când interacționează cu o funcție bazată pe tehnologia AI. De exemplu, atunci când un Snapchatter partajează o imagine generată de AI prin funcția Visuri, destinatarul primește un card de context cu mai multe informații. Alte funcții, cum ar fi instrumentul de extindere, care utilizează inteligența artificială pentru a face ca un Snap să pară mai mărit, sunt definite ca fiind o funcție de inteligență artificială cu o pictogramă strălucitoare pentru Snapchatterul care a creat Snap-ul.

De asemenea, avem mare grijă să verificăm toate anunțurile politice printr-un proces riguros de revizuire umană, inclusiv o verificare amănunțită a oricărei utilizări înșelătoare a conținutului, inclusiv a inteligenței artificiale pentru a crea imagini sau conținut înșelător.

În curând, vom adăuga un simbol pe imaginile generate de AI. Aceasta va apărea pe imaginile create cu instrumentele de inteligență artificială generativă Snap, atunci când imaginea este exportată sau salvată în galerie. Destinatarii unei imagini generate de inteligența artificială realizate pe Snapchat pot vedea un mic logo fantomă cu pictograma strălucitoare recunoscută alături. Adăugarea acestor simboluri îi va informa pe cei care o vizualizează că imaginea a fost realizată cu ajutorul AI pe Snapchat.

Teste și protocoale de siguranță standardizate

Ne luăm în serios responsabilitatea de a proiecta produse și experiențe care să acorde prioritate siguranței și caracterului adecvat al vârstei. La fel ca toate produsele noastre, funcțiile bazate pe inteligență artificială au fost întotdeauna supuse unei revizuiri stricte pentru a ne asigura că respectă principiile de siguranță și confidențialitate, iar prin cunoștințele dobândite de-a lungul timpului, am dezvoltat măsuri de protecție suplimentare:

Red-Teaming

Red-teaming AI este o tactică din ce în ce mai frecventă, utilizată pentru a testa și a identifica potențialele erori ale modelelor și ale funcțiilor activate de IA, precum și pentru a implementa soluții de îmbunătățire a siguranței și a consecvenței rezultatelor IA.

Am fost unul dintre primii care au adoptat metode noi de red-teaming cu inteligență artificială pentru modelele generative de imagini, colaborând cu HackerOne pe parcursul a peste 2.500 de ore de lucru, pentru a testa eficiența măsurilor noastre stricte de protecție.

Filtrare de siguranță și etichetare consecventă

Pe măsură ce am dezvoltat experiențele cu inteligență artificială generativă pe Snapchat, am stabilit principii de guvernanță responsabilă și am îmbunătățit totodată măsurile de sporire a siguranței.

Am creat un proces de revizuire care să detecteze și să elimine solicitările potențial problematice încă din primele etape de dezvoltare a experiențelor Lentile AI elaborate de echipa noastră. Toate Lentilele noastre AI care generează o imagine pornind de la o solicitare trec prin acest proces înainte de a fi finalizate și de a deveni disponibile pentru comunitatea noastră.

Testare incluzivă

Dorim ca toți Snapchatterii să aibă acces și așteptări echitabile atunci când utilizează funcțiile din aplicația noastră, în special experiențele bazate pe inteligență artificială.

Ținând cont de acest lucru, implementăm teste suplimentare pentru a minimiza rezultatele AI potențial distorsionate.

Angajamentul continuu pentru alfabetizarea în domeniul IA

Credem în potențialul extraordinar al tehnologiei AI de a crește capacitatea comunității noastre de a se exprima și de a se conecta unii cu alții și ne angajăm să continuăm să îmbunătățim aceste protocoale de siguranță și transparență.

Deși toate instrumentele noastre de inteligență artificială, atât cele bazate pe text, cât și cele vizuale, sunt concepute pentru a evita producerea de materiale incorecte, dăunătoare sau înșelătoare, pot apărea totuși erori. Snapchatterii pot raporta conținut, iar noi le apreciem feedbackul.

În sfârșit, ca parte a acestui angajament continuu de a ne ajuta comunitatea să înțeleagă mai bine aceste instrumente, am publicat informații și resurse suplimentare pe site-ul de asistență.