Astăzi, vicepreședintele Politicii Publice Globale, Jennifer Stout, s-a alăturat altor platforme tehnologice în a depune mărturie în fața Subcomitetului pentru protecția consumatorilor, a siguranței produselor și securității datelor din Senat cu privire la abordarea Snap pentru protejarea tinerilor de pe platforma noastră.

Am fost recunoscători pentru oportunitatea de a explica subcomisiei modul în care am creat Snapchat în mod intenționat diferit de alte platforme tradiționale de social media, modul în care lucrăm pentru a construi siguranța și confidențialitatea direct în proiectarea platformei și produselor noastre și unde trebuie să continuăm să îmbunătățim protejarea mai bună a bunăstării comunității noastre. Am crezut întotdeauna că avem o responsabilitate morală de a pune interesele lor mai întâi - și credem că toate companiile tehnologice trebuie să își asume responsabilitatea și să protejeze în mod activ comunitățile pe care le servesc.

Salutăm eforturile continue ale Subcomitetului de a investiga aceste probleme critice - și puteți citi afirmație/declarație de deschidere completă a lui Jennifer mai jos. Este disponibil un PDF cu toată mărturia aici.

****

Mărturia lui Jennifer Stout Vicepreședinte al Politicii Publice Globale, Snap Inc

Introducere

Președintele Blumenthal, Membru al clasamentului Blackburn şi membri ai Subcomitetului, vă mulțumesc pentru oportunitatea de a mă prezenta azi în fața dumneavoastră. Numele meu este Jennifer Stout și sunt vicepreședinte al Politicii Publice Globale Snap Inc., societate-mamă a Snapchat. Este o onoare și un privilegiu să mă întorc în Senat la 23 de ani după ce am început în serviciu public ca personal al Senatului, de această dată cu o capacitate mult diferită - de a vorbi despre abordarea Snap în materie de confidențialitate și siguranță, în special în ceea ce privește cei mai tineri membri ai comunității noastre. Mă aflu în acest rol de aproape cinci ani, după ce am petrecut aproape două decenii în serviciu public, mai mult de jumătate din care a fost în Congres. Am un respect enorm pentru această instituție și pentru munca pe care tu și personalul tău o faceți pentru a ne asigura că platformele tehnologice se asigură că tinerii noștri au experiențe online sigure și sănătoase.

Pentru a înțelege abordarea Snap pentru a proteja tinerii de pe platforma noastră, este util să începeți de la început. Fondatorii Snapchat au fost parte primei generații care a crescut cu social media. Ca și mulți dintre colegii lor, au văzut că în timp ce mass-media socială era capabilă să facă un impact pozitiv, avea și anumite caracteristici care au avut un impact negativ asupra prieteniei lor. Aceste platforme au încurajat oamenii să își transmită gândurile și sentimentele în mod public, permanent. Fondatorii noștri au văzut cum oamenii se măsurau în mod constant cu alții prin „like-uri” și comentarii, încercând să prezinte o versiune a ei înșiși prin imagini perfect curate și scriind cu atenție conținutul din cauza presiunii sociale. De asemenea, mass-media socială a evoluat pentru a prezenta o hrană nesfârșită de conținut neverificat, expunând oamenii la un flux de conținut viral, înșelător și dăunător.

Snapchat a fost construit ca un antidot pentru social media. De fapt, ne descriem ca o companie de cameră. Arhitectura Snapchat a fost intenționată concepută pentru a împuternicii oamenii să exprime o gamă completă de experiențe și emoții cu prietenii lor reali, nu doar momentele frumoase și perfecte. În anii formativi ai companiei noastre, au existat trei modalități majore de a pioniera noi invenții pentru a prioritiza confidențialitatea și siguranța online.

În primul rând, am decis să deschidem Snapchat pentru o cameră în loc de un flux de conținut. Acest lucru a creat o pânza goală pentru prieteni pentru a comunica în mod vizual unii cu alții într-un mod mai captivant și mai creativ decât trimiterea de mesaje text.

În al doilea rând, am adoptat principii puternice de confidențialitate și minimizare a datelor și ideea de efemeritatea, făcând imaginile să se șteargă în mod implicit. Acest lucru a permis oamenilor să se exprime cu adevărat în același mod ca și cum ar fi doar o plimbare într-un parc cu prietenii lor. Este posibil ca mass-media socială să fi normalizat având un record permanent de conversații online, dar în viața reală, prietenii nu își descarcă înregistratorul pentru a documenta fiecare conversație pentru consum public sau reținere permanentă.

În al treilea rând, ne-am concentrat pe conectarea persoanelor care erau deja prieteni în viața reală prin faptul că s-a cerut ca ambii utilizatorii Snapchat să opteze pentru a fi prieteni pentru a comunica. Pentru că în viața reală, prieteniile sunt reciproce. Nu este o persoană care o urmărea pe cealaltă sau străini aleatori care intră în viața noastră fără permisiunea sau invitație.

O Evoluție Responsabilă

Încă din acele zile timpurii, am lucrat pentru a continua să evoluăm în mod responsabil. Înțelegând potențialele efecte negative ale rețelelor de socializare, am făcut alegeri proactive pentru a ne asigura că toate produsele noastre viitoare reflectă acele valori precoce.

Nu a fost nevoie să reinventăm roata pentru a face asta. Echipa noastră a fost capabilă să învețe din istorie atunci când se confruntă cu provocările reprezentate de noua tehnologie. Cum Snapchat a evoluat în timp, am fost influențați de cadrele de reglementare existente care guvernează difuzarea și telecomunicațiile atunci când se dezvoltă părțile din aplicația noastră unde utilizatorii ar putea partaja conținut care are potențialul de a ajunge la o audiență mare. De exemplu, atunci când vorbești cu prietenii tăi la telefon, aveți o așteptare ridicată de confidențialitate, în timp ce dacă ești un radiodifuzor public cu potențialul de a influența mintea și opiniile multora, ești sub rezerva unor standarde și cerințe de reglementare diferite.

Această dihotomie ne-a ajutat să dezvoltăm norme pentru mai multe porțiuni publice al Snapchat care sunt inspirate de reglementările de difuzare. Aceste norme ne protejează audiență și ne diferențiază de alte platforme. De exemplu, Discover, platforma noastră de conținut închisă în care utilizatorii Snapchat își primesc noutățile și divertisment, prezintă exclusiv conținut fie de editori media profesioniști care se partener cu noi, sau de la artiști, creatori și sportivi cu care alegem să lucrăm. Toți acești furnizori de conținut trebuie să respecte Regulile comunității care se aplică la tot conținutul de pe platforma noastră. Dar, partenerii editori ai Discover trebuie să respecte și Reguli ale Editorului, care include solicitarea de conținut verificat sau precis și egal cu vârsta atunci când este cazul. Și pentru creatorii individuali care sunt prezenți pe Discover, echipele noastre de moderare umană revizuiesc Povestirile înainte de a le permite să fie promovate pe platformă. În timp ce folosim algoritmi pentru a prezenta conținut bazat pe interese individuale, acestea sunt aplicate la o piscină limitată și verificată de conținut, care este o abordare diferită de alte platforme.

Pe Spotlight unde creatorii pot trimite videoclipuri creative și de divertisment pentru a partaja cu comunitatea Snapchat mai largă, tot conținutul este prima dată revizuit de inteligență artificială înainte de a obține orice distribuție, și apoi revizuit de om și moderat înainte de a putea fi vizualizat de mai mult de 25 de persoane. Acest lucru se face pentru a ne asigura că reducem riscul de a răspândi informații eronate, discursul de ură sau alt conținut potențial dăunător.

Nu putem face acest lucru întotdeauna corect prima dată, motiv pentru care reproiectăm părți Snapchat atunci când nu se ridică la valorile noastre. Asta s-a întâmplat în 2017 când am descoperit că unul dintre produsele noastre, Povești, îi făcea pe utilizatorii Snapchat să se simtă ca și cum ar fi trebuit să concureze cu celebrități și influencers pentru atenție, deoarece conținutul de la celebrități și prieteni au fost combinate în aceeași interfață de utilizator. Ca urmare a acestei observații, am decis să separăm conținutul „social” creat de prieteni de conținutul „media”, creat de celebrități pentru a contribui la reducerea comparației sociale de pe platforma noastră. Această reproiectare a avut un impact negativ asupra creșterii utilizator pe termen scurt, dar a fost lucrul corect de făcut pentru comunitatea noastră.

Protejarea tinerilor pe Snapchat

Misiunea noastră — de a împuternici oamenii să se exprime, să trăiască în moment, să învețe despre lume și să se distreze împreună — a informat arhitectura fundamentală a Snapchat. Aderând la această misiune ne-a permis crearea unei platforme care reflectă natura umană și favorizează prieteniile reale. Continuă să influențeze procesele și principiile noastre de proiectare, politicile și practicile noastre și resursele și instrumentele pe care le oferim comunității noastre. Și ne accentuează eforturile constante de a îmbunătăți modul în care abordăm riscurile și provocările inerente asociate cu servirea unei mari comunități online.

O parte importantă a vieții în misiunea noastră crescândă a fost construirea și menținerea încrederii cu comunitatea și partenerii noștri, precum și cu părinții, parlamentarii și experții în siguranță. Aceste relații au fost construite prin deciziile deliberate, coerente pe care le-am luat pentru a pune confidențialitatea și siguranța în centrul procesului nostru de proiectare a produselor.

De exemplu, am adoptat principii de proiectare responsabilă care iau în considerare confidențialitatea și siguranța noilor produse și caracteristici chiar de la începutul procesului de dezvoltare. Și am făcut aceste principii să prindă viață prin procese riguroase. Fiecare nouă caracteristică pe Snapchat trece printr-o revizuire definită a confidențialității și a siguranței realizată de echipe, inclusiv proiectanți, oameni de știință de date, ingineri, manageri de produse, consul de produse, lideri de politică și ingineri de confidențialitate cu mult timp înainte de a vedea lumina zilei.

În timp ce peste 80% din comunitatea noastră din SUA este de 18 ani și mai în vârstă, am cheltuit o cantitate imensă de timp și resurse pentru a proteja adolescenții. Am făcut alegeri gândite și intenționate pentru a aplica politici suplimentare de confidențialitate și siguranță și principii de proiectare pentru a ajuta adolescenții să fie în siguranță. Acestea includ:

• Luând cont de sensibilitățile și considerațiile unice ale minorilor atunci când proiectăm produse. De aceea, facem în mod intenționat mai greu pentru străini să găsească minori, prin interzicerea profilurilor publice pentru persoanele sub 18 ani și prin derularea unei funcții care să limiteze descoperirile minorilor în anunțuri rapide (sugestii de prietenie). Și de ce avem multe instrumente de egalizare a vârstei pentru a preveni ca minorii să vizualizeze conținutul și reclamele reglementate de vârstă.

• Împuternicind utilizatorii de Snapchat prin furnizarea de comenzi coerente și ușor de utilizat cum ar fi oprirea partajării locației în mod implicit și oferind o raportare simplificată în aplicație pentru utilizatori pentru a raporta conținut sau comportamente îngrijorător către echipele noastre de încredere și siguranță. Odată raportat, majoritatea conținutului este consemnat în mai puțin de 2 ore pentru a minimiza potențialul de a face rău.

• Lucrând pentru a dezvolta instrumente care vor oferi părinților mai multă supraveghere fără a sacrifica confidențialitatea — inclusiv planuri de a oferi părinților posibilitatea de a vizualiza prietenii adolescenților, de a gestiona Setările de confidențialitate și localizare și de a vedea cu cine vorbesc.

• Investiții în programe și inițiative educaționale care susțin siguranța și sănătatea mintală a comunității noastre — cum ar fi Verifică Prieten și Aici pentru tine. Verifică prieten îi îndeamnă pe utilizatorii Snapchat să revizuiască cu cine sunt prieteni și să se asigure că, lista este alcătuită din oameni pe care îi cunosc și încă mai doresc să fie conectați. Aici pentru tine oferă sprijin utilizatorilor care pot suferi crize psihice sau emoționale prin furnizarea de instrumente și resurse de la experți.

• Prevenirea utilizării de către minore. Nu facem niciun efort și nu avem planuri — de a comercializa copiilor, iar indivizilor sub vârsta de 13 ani și nu sunt autorizați să creeze conturi Snapchat. Atunci când se înregistrează pentru cont, indivizii sunt obligați să își ofere data de naștere, iar procesul de înregistrare nu reușește dacă utilizator are o vârstă sub 13 ani. De asemenea, am implementat o nouă garanție care previne utilizatorilor Snapchat între 13-17 ani cu conturi existente de la actualizarea zilei de naștere la o vârstă de 18 ani sau mai mare. Mai exact, dacă un minor încearcă să își schimbe anul de naștere la o vârstă de peste 18 ani, vom preveni schimbarea ca o modalitate de a ne asigura că utilizatorii nu accesează conținut inadecvat de vârstă în cadrul Snapchat.

Concluzii și privirea în perspectivă

Ne străduim întotdeauna să găsim noi modalități de a ne menține comunitatea în siguranță și mai avem mai multe de făcut. Știm că siguranța online este o responsabilitate partajată, care acoperă o serie de sectoare și actori. Ne angajăm să ne facem partea în colaborare cu partenerii de siguranță, inclusiv Consiliul Consultativ pentru siguranță, colegii din industria tehnologică, guvern și societatea civilă. De la inițiative orientate spre tehnologie și de sensibilizare la cercetare și partajarea celor mai bune practici, suntem implicați activ cu organizații dedicate protecției minorilor online. De asemenea, știm că există multe probleme complexe și provocări tehnice în întreaga industrie a noastră, inclusiv verificarea de vârstă a minorilor și ne angajăm să lucrăm cu parteneri și politicieni pentru a identifica soluții robuste la nivel industrial.

Protejarea bunăstării utilizatorilor Snapchat este un lucru pe care îl abordăm atât cu umilință, cât și cu determinare constantă. Peste 500 de milioane de oameni din întreaga lume folosesc Snapchat în fiecare lună și în timp ce 95% din utilizatorii noștri Snapchat îi face să se simtă fericiți, avem responsabilitatea morală de a lua cont de interesele lor cele mai bune în tot ceea ce facem. Acest lucru este valabil mai ales pe măsură ce inovăm realitate augumentată — care are potențialul de a contribui pozitiv la modul în care lucrăm, cumpărăm, învățăm și comunică. Vom aplica aceleași valori și principii fondate pe măsură ce continuăm să experimentăm cu noi tehnologii cum ar fi următoarea generație realitate augumentată.

Pe măsură ce privim spre viitor, calculul și tehnologia vor deveni din ce în ce mai integrate în viețile noastre zilnice. Considerăm că reglementarea este necesară, dar având în vedere viteza la care se dezvoltă tehnologia și rata la care regulamentul poate fi aplicat, reglementarea în sine nu poate face singură treaba. Societățile tehnologice trebuie să își asume responsabilitatea și să protejeze activ comunitățile pe care le servesc.

În cazul în care nu o fac, guvernul trebuie să acționeze rapid pentru a le considera responsabile. Sprijinim pe deplin eforturile subcomitetului de a investiga aceste probleme și salutăm o abordare colaborativă a rezolvării problemelor care ne țin societatea în siguranță.

Vă mulțumesc din nou pentru oportunitatea de a apărea în fața dvs. astăzi și de a discuta aceste probleme critice. Aștept cu nerăbdare să răspund la întrebările dvs.