Danas se naša potpredsjednica za globalnu javnu politiku, Jennifer Stout, pridružila drugim tehnološkim platformama u svjedočenju pred Pododborom za zaštitu potrošača, sigurnost proizvoda i sigurnost podataka Senatskog odbora za trgovinu o pristupu tvrtke Snap zaštiti mladih na našoj platformi.

Bili smo zahvalni na prilici da Pododboru objasnimo kako smo namjerno izgradili Snapchat drugačije od tradicionalnih platformi društvenih medija, kako radimo na ugradnji sigurnosti i privatnosti izravno u dizajn naše platforme i proizvoda te gdje se moramo nastaviti poboljšavati kako bismo bolje zaštitili dobrobit naše zajednice. Uvijek smo vjerovali da imamo moralnu odgovornost staviti njihove interese na prvo mjesto – i vjerujemo da sve tehnološke tvrtke moraju preuzeti odgovornost i aktivno štititi zajednice kojima služe.

Pozdravljamo stalne napore Pododbora da istraži ova kritična pitanja – a u nastavku možete pročitati Jenniferinu potpunu uvodnu izjavu. PDF cjelovitog svjedočenja dostupan jeovdje.

****

Svjedočenje Jennifer Stout, potpredsjednice za globalnu javnu politiku, Snap Inc.

Uvod

Predsjedniče Blumenthal, rangirana članice Blackburn i članovi Pododbora, hvala vam na prilici da se danas pojavim pred vama. Moje ime je Jennifer Stout i potpredsjednica sam za globalnu javnu politiku u tvrtki Snap Inc., matičnoj tvrtki Snapchata. Čast mi je i privilegija vratiti se u Senat 23 godine nakon što sam prvi put započela svoju javnu službu kao zaposlenica Senata, ovaj put u mnogo drugačijem svojstvu – da govorim o pristupu tvrtke Snap privatnosti i sigurnosti, posebno u vezi s našim najmlađim članovima zajednice. Na ovoj sam poziciji gotovo pet godina, nakon što sam provela gotovo dva desetljeća u javnoj službi, od čega više od polovice u Kongresu. Imam ogromno poštovanje prema ovoj instituciji i poslu koji vi i vaše osoblje radite kako biste osigurali da tehnološke platforme osiguraju da naša mladež ima sigurna i zdrava online iskustva.

Da biste razumjeli pristup tvrtke Snap zaštiti mladih na našoj platformi, korisno je početi od početka. Osnivači Snapchata bili su dio prve generacije koja je odrasla uz društvene medije. Kao i mnogi njihovi vršnjaci, vidjeli su da, iako su društveni mediji bili sposobni ostvariti pozitivan utjecaj, imali su i određene značajke koje su negativno utjecale na njihova prijateljstva. Te su platforme poticale ljude da trajno javno emitiraju svoje misli i osjećaje. Naši osnivači vidjeli su kako se ljudi neprestano mjere s drugima putem „lajkova” i komentara, pokušavajući predstaviti verziju sebe kroz savršeno odabrane slike i pažljivo skriptirajući svoj sadržaj zbog društvenog pritiska. Društveni mediji također su se razvili tako da sadrže beskonačan feed neprovjerenog sadržaja, izlažući ljude poplavi viralnog, obmanjujućeg i štetnog sadržaja.

Snapchat je izgrađen kao protuotrov za društvene medije. Zapravo, sebe opisujemo kao tvrtku za kamere. Arhitektura Snapchata namjerno je osmišljena kako bi osnažila ljude da izraze cijeli niz iskustava i emocija sa svojim pravim prijateljima, a ne samo lijepe i savršene trenutke. U formativnim godinama naše tvrtke, postojala su tri glavna načina na koja je naš tim bio pionir u novim izumima kako bi dao prioritet privatnosti i sigurnosti na internetu.

Prvo, odlučili smo da se Snapchat otvara na kameru umjesto na feed sadržaja. To je stvorilo prazno platno za prijatelje da vizualno komuniciraju jedni s drugima na način koji je impresivniji i kreativniji od slanja tekstualnih poruka.

Drugo, prihvatili smo snažna načela privatnosti, minimiziranje podataka i ideju prolaznosti, čineći da se slike brišu prema zadanim postavkama. To je omogućilo ljudima da se istinski izraze na isti način kao da se samo druže u parku sa svojim prijateljima. Društveni mediji su možda normalizirali postojanje trajne evidencije razgovora na internetu, ali u stvarnom životu prijatelji ne vade svoj kasetofon kako bi dokumentirali svaki pojedini razgovor za javnu potrošnju ili trajno zadržavanje.

Treće, usredotočili smo se na povezivanje ljudi koji su već bili prijatelji u stvarnom životu zahtijevajući da se, prema zadanim postavkama, oba Snapchattera odluče biti prijatelji kako bi komunicirali. Jer u stvarnom životu, prijateljstva su obostrana. Ne radi se o tome da jedna osoba prati drugu, ili da slučajni stranci ulaze u naše živote bez dopuštenja ili poziva.

Odgovorna evolucija

Od tih ranih dana, radili smo na tome da nastavimo odgovorno evoluirati. Razumijevajući potencijalne negativne učinke društvenih medija, donijeli smo proaktivne odluke kako bismo osigurali da svi naši budući proizvodi odražavaju te rane vrijednosti.

Nismo trebali ponovno izmišljati kotač da bismo to učinili. Naš tim je mogao učiti iz povijesti kada se suočavao s izazovima koje postavlja nova tehnologija. Kako se Snapchat s vremenom razvijao, na nas su utjecali postojeći regulatorni okviri koji upravljaju emitiranjem i telekomunikacijama pri razvoju dijelova naše aplikacije gdje su korisnici mogli dijeliti sadržaj koji ima potencijal dosegnuti veliku publiku. Na primjer, kada razgovarate sa svojim prijateljima na telefonu, imate velika očekivanja o privatnosti, dok ste, ako ste javni emiter s potencijalom da utječete na umove i mišljenja mnogih, podložni različitim standardima i regulatornim zahtjevima.

Ta dihotomija nam je pomogla da razvijemo pravila za javnije dijelove Snapchata koja su inspirirana propisima o emitiranju. Ta pravila štite našu publiku i razlikuju nas od drugih platformi. Na primjer, Otkrivanje, naša zatvorena platforma za sadržaj na kojoj Snapchatteri dobivaju svoje vijesti i zabavu, isključivo sadrži sadržaj bilo od profesionalnih medijskih izdavača koji su naši partneri, bilo od umjetnika, kreatora i sportaša s kojima smo odlučili raditi. Svi ti pružatelji sadržaja moraju se pridržavati naših Smjernica za zajednicu, koje se primjenjuju na sav sadržaj na našoj platformi. Ali partneri izdavači na platformi Otkrivanje također se moraju pridržavati naših Smjernica za izdavače, koje uključuju zahtjev da se sadržaj provjerava ili da bude točan i da se, kada je to prikladno, ograniči prema dobi. A za pojedinačne kreatore koji se pojavljuju na platformi Otkrivanje, naši timovi za ljudsku moderaciju pregledavaju njihove Priče prije nego što dopustimo da se promoviraju na platformi. Iako koristimo algoritme za prikazivanje sadržaja na temelju individualnih interesa, oni se primjenjuju na ograničen i provjeren skup sadržaja, što je drugačiji pristup od drugih platformi.

Na platformi Fokus, gdje kreatori mogu slati kreativne i zabavne videozapise za dijeljenje sa širom Snapchat zajednicom, sav sadržaj se prvo automatski pregledava pomoću umjetne inteligencije prije nego što dobije bilo kakvu distribuciju, a zatim ga pregledavaju i moderiraju ljudi prije nego što ga može vidjeti više od 25 ljudi. To se radi kako bi se smanjio rizik od širenja dezinformacija, govora mržnje ili drugog potencijalno štetnog sadržaja.

Ne uspijemo uvijek iz prve, zbog čega redizajniramo dijelove Snapchata kada ne ispunjavaju naše vrijednosti. To se dogodilo 2017. godine kada smo otkrili da je jedan od naših proizvoda, Priče, činio da se Snapchatteri osjećaju kao da se moraju natjecati sa slavnim osobama i influencerima za pažnju jer je sadržaj slavnih osoba i prijatelja bio kombiniran u istom korisničkom sučelju. Kao rezultat tog zapažanja, odlučili smo odvojiti „društveni” sadržaj koji su stvorili prijatelji od „medijskog” sadržaja koji su stvorile slavne osobe kako bismo pomogli smanjiti društvenu usporedbu na našoj platformi. Ovaj redizajn je kratkoročno negativno utjecao na rast naših korisnika, ali to je bila ispravna stvar za našu zajednicu.

Zaštita mladih na Snapchatu

Naša misija – osnažiti ljude da se izraze, žive u trenutku, uče o svijetu i zabavljaju se zajedno – utjecala je na temeljnu arhitekturu Snapchata. Pridržavanje ove misije omogućilo nam je stvaranje platforme koja odražava ljudsku prirodu i potiče stvarna prijateljstva. Ona i dalje utječe na naše procese i načela dizajna, naše politike i prakse te resurse i alate koje pružamo našoj zajednici. I podupire naše stalne napore da poboljšamo način na koji se nosimo s inherentnim rizicima i izazovima povezanim sa služenjem velikoj online zajednici.

Ogroman dio ispunjavanja naše misije je izgradnja i održavanje povjerenja s našom zajednicom i partnerima, kao i s roditeljima, zakonodavcima i stručnjacima za sigurnost. Ti su odnosi izgrađeni kroz namjerne, dosljedne odluke koje smo donijeli kako bismo privatnost i sigurnost stavili u središte našeg procesa dizajna proizvoda.

Na primjer, usvojili smo odgovorna načela dizajna koja uzimaju u obzir privatnost i sigurnost novih proizvoda i značajki od samog početka procesa razvoja. I oživjeli smo ta načela kroz rigorozne procese. Svaka nova značajka u Snapchatu prolazi kroz definiranu provjeru privatnosti i sigurnosti, koju provode timovi koji obuhvaćaju Snap – uključujući dizajnere, podatkovne znanstvenike, inženjere, voditelje proizvoda, savjetnike za proizvode, voditelje politika i inženjere za privatnost – mnogo prije nego što ugleda svjetlo dana.

Iako je više od 80 % naše zajednice u Sjedinjenim Državama starije od 18 godina, potrošili smo ogromnu količinu vremena i resursa na zaštitu tinejdžera. Donijeli smo promišljene i namjerne odluke o primjeni dodatnih politika privatnosti i sigurnosti te načela dizajna kako bismo pomogli u zaštiti tinejdžera. To uključuje:

• Uzimanje u obzir jedinstvenih osjetljivosti i razmatranja maloljetnika pri dizajniranju proizvoda.Zato namjerno otežavamo strancima pronalaženje maloljetnika zabranom javnih profila za osobe mlađe od 18 godina i uvodimo značajku za ograničavanje vidljivosti maloljetnika u Brzom dodavanju (prijedlozi prijatelja). I zašto smo dugo koristili alate za ograničavanje dobi kako bismo spriječili maloljetnike da gledaju sadržaj i oglase regulirane dobi.

• Osnaživanje Snapchattera pružanjem dosljednih i jednostavnih kontrolapoput zadanog isključivanja dijeljenja lokacije i nuđenja pojednostavljenog prijavljivanja unutar aplikacije kako bi korisnici prijavili zabrinjavajući sadržaj ili ponašanje našim timovima za povjerenje i sigurnost. Nakon prijave, većina sadržaja se obrađuje za manje od 2 sata kako bi se smanjio potencijal za štetu.

• Rad na razvoju alata koji će roditeljima dati veći nadzor bez žrtvovanja privatnosti— uključujući planove da se roditeljima omogući pregled prijatelja njihovih tinejdžera, upravljanje postavkama privatnosti i lokacije te uvid u to s kim razgovaraju.

• Ulaganje u obrazovne programe i inicijative koje podržavaju sigurnost i mentalno zdravlje naše zajednice— poput Provjere prijatelja i Tu smo za tebe. Provjera prijatelja potiče Snapchattere da pregledaju s kim su prijatelji i provjere sastoji li se popis od ljudi koje poznaju i s kojima i dalje žele biti povezani. Tu smo za tebe pruža podršku korisnicima koji možda proživljavaju mentalne ili emocionalne krize pružajući alate i resurse stručnjaka.

• Sprječavanje korištenja od strane maloljetnika.Ne ulažemo nikakve napore – i nemamo planova – za marketing djeci, a osobama mlađim od 13 godina nije dopušteno stvaranje računa za Snapchat. Prilikom registracije za račun, pojedinci su dužni navesti svoj datum rođenja, a proces registracije ne uspijeva ako korisnik unese dob mlađu od 13 godina. Također smo implementirali novu zaštitu koja sprječava korisnike Snapchata između 13 i 17 godina s postojećim računima da ažuriraju svoj rođendan na dob od 18 ili više godina. Konkretno, ako maloljetnik pokuša promijeniti svoju godinu rođenja na dob stariju od 18 godina, spriječit ćemo promjenu kako bismo osigurali da korisnici ne pristupaju sadržaju koji nije primjeren dobi unutar Snapchata.

Zaključak i pogled u budućnost

Uvijek težimo novim načinima da našu zajednicu održimo sigurnom i imamo još posla za obaviti. Znamo da je online sigurnost zajednička odgovornost, koja obuhvaća niz sektora i aktera. Predani smo tome da odradimo svoj dio u suradnji sa sigurnosnim partnerima, uključujući naš Odbor za savjetovanje o sigurnosti, kolege iz tehnološke industrije, vladu i civilno društvo. Od tehnološki usmjerenih inicijativa i inicijativa za podizanje svijesti, do istraživanja i dijeljenja najboljih praksi, aktivno smo angažirani s organizacijama posvećenim zaštiti maloljetnika na internetu. Također znamo da postoje mnogi složeni problemi i tehnički izazovi u našoj industriji, uključujući provjeru dobi maloljetnika, i ostajemo predani suradnji s partnerima i kreatorima politika na identificiranju robusnih rješenja za cijelu industriju.

Zaštita dobrobiti Snapchattera je nešto čemu pristupamo s poniznošću i nepokolebljivom odlučnošću. Preko 500 milijuna ljudi diljem svijeta koristi Snapchat svaki mjesec i dok 95 % naših korisnika kaže da ih Snapchat čini sretnima, imamo moralnu odgovornost uzeti u obzir njihove najbolje interese u svemu što radimo. To je posebno istinito dok inoviramo s proširenom stvarnošću – koja ima potencijal pozitivno doprinijeti načinu na koji radimo, kupujemo, učimo i komuniciramo. Primijenit ćemo te iste temeljne vrijednosti i načela dok nastavljamo eksperimentirati s novim tehnologijama poput sljedeće generacije proširene stvarnosti.

Kako gledamo u budućnost, računarstvo i tehnologija postat će sve više integrirani u naše svakodnevne živote. Vjerujemo da je regulacija nužna, ali s obzirom na brzinu kojom se tehnologija razvija i stopu kojom se regulacija može implementirati, sama regulacija ne može obaviti posao. Tehnološke tvrtke moraju preuzeti odgovornost i aktivno štititi zajednice kojima služe.

Ako to ne učine, vlada mora brzo djelovati kako bi ih pozvala na odgovornost. U potpunosti podržavamo napore Pododbora da istraži ova pitanja i pozdravljamo suradnički pristup rješavanju problema koji naše društvo čini sigurnim.

Hvala vam još jednom na prilici da se danas pojavim pred vama i raspravim o ovim kritičnim pitanjima. Radujem se odgovaranju na vaša pitanja.