Danes se je naša podpredsednica za globalno javno politiko Jennifer Stout pridružila drugim tehnološkim platformam pri pričanju pred pododborom senatnega odbora za trgovino za varstvo potrošnikov, varnost izdelkov in varnost podatkov o pristopu podjetja Snap k zaščiti mladih na naši platformi.

Hvaležni smo bili za priložnost, da smo pododboru pojasnili, kako smo Snapchat namerno zgradili drugače od tradicionalnih platform družbenih medijev, kako si prizadevamo za vgradnjo varnosti in zasebnosti neposredno v zasnovo naše platforme in izdelkov ter kje se moramo še naprej izboljševati, da bi bolje zaščitili dobro počutje naše skupnosti. Vedno smo verjeli, da imamo moralno odgovornost, da njihove interese postavimo na prvo mesto – in verjamemo, da morajo vsa tehnološka podjetja prevzeti odgovornost in aktivno zaščititi skupnosti, ki jim služijo.

Pozdravljamo nenehna prizadevanja pododbora za preiskavo teh kritičnih vprašanj – spodaj si lahko preberete celotno uvodno izjavo Jennifer. PDF celotnega pričanja je na voljotukaj.

****

Pričanje Jennifer Stout, podpredsednice za globalno javno politiko, Snap Inc.

Uvod

Predsednik Blumenthal, članica Blackburn in člani pododbora, hvala za priložnost, da se danes pojavim pred vami. Moje ime je Jennifer Stout in sem podpredsednica za globalno javno politiko pri Snap Inc., matični družbi Snapchata. V čast in privilegij mi je, da sem se po 23 letih, odkar sem prvič začela delati v javni službi kot uslužbenka senata, vrnila v senat, tokrat v precej drugačni vlogi – da bi spregovorila o pristopu podjetja Snap k zasebnosti in varnosti, zlasti v zvezi z našimi najmlajšimi člani skupnosti. To vlogo opravljam že skoraj pet let, potem ko sem skoraj dve desetletji preživela v javni službi, od tega več kot polovico v kongresu. Izjemno spoštujem to institucijo in delo, ki ga vi in vaše osebje opravljate, da bi zagotovili, da tehnološke platforme zagotavljajo, da imajo naši mladi varne in zdrave spletne izkušnje.

Da bi razumeli pristop podjetja Snap k zaščiti mladih na naši platformi, je koristno začeti na začetku. Ustanovitelji Snapchata so bili del prve generacije, ki je odraščala z družbenimi mediji. Kot mnogi njihovi vrstniki so videli, da so družbeni mediji sicer lahko pozitivno vplivali, vendar so imeli tudi nekatere značilnosti, ki so negativno vplivale na njihova prijateljstva. Te platforme so ljudi spodbujale, da javno in trajno objavljajo svoje misli in občutke. Naši ustanovitelji so videli, kako so se ljudje nenehno merili z drugimi prek »všečkov« in komentarjev, poskušali predstaviti različico sebe s popolno urejenimi slikami in skrbno pisali svojo vsebino zaradi družbenega pritiska. Družbeni mediji so se razvili tudi tako, da so vsebovali neskončen vir nepreverjenih vsebin, ki so ljudi izpostavljale poplavi virusnih, zavajajočih in škodljivih vsebin.

Snapchat je bil zgrajen kot protistrup za družbene medije. Pravzaprav se opisujemo kot podjetje za kamere. Arhitektura Snapchata je bila namerno zasnovana tako, da ljudem omogoča, da s svojimi pravimi prijatelji izrazijo celoten spekter izkušenj in čustev, ne le lepih in popolnih trenutkov. V letih oblikovanja našega podjetja je naša ekipa na tri glavne načine uvedla nove izume za prednostno obravnavo spletne zasebnosti in varnosti.

Prvič, odločili smo se, da se Snapchat odpre v kamero namesto v vir vsebine. To je ustvarilo prazno platno za prijatelje, da vizualno komunicirajo med seboj na način, ki je bolj poglobljen in ustvarjalen kot pošiljanje besedilnih sporočil.

Drugič, sprejeli smo močna načela zasebnosti, minimizacijo podatkov in idejo o minljivosti, zaradi česar se slike privzeto brišejo. To je ljudem omogočilo, da se pristno izrazijo na enak način, kot bi se, če bi se samo družili v parku s prijatelji. Družbeni mediji so morda normalizirali trajno beleženje spletnih pogovorov, vendar v resničnem življenju prijatelji ne vzamejo magnetofona, da bi dokumentirali vsak pogovor za javno porabo ali trajno hrambo.

Tretjič, osredotočili smo se na povezovanje ljudi, ki so bili že prijatelji v resničnem življenju, tako da smo zahtevali, da se privzeto oba Snapchatterja odločita za prijateljstvo, da bi lahko komunicirala. Ker so v resničnem življenju prijateljstva vzajemna. Ne gre za to, da ena oseba sledi drugi, ali da naključni neznanci vstopajo v naša življenja brez dovoljenja ali povabila.

Odgovoren razvoj

Od tistih zgodnjih dni smo si prizadevali za nadaljnji odgovoren razvoj. Z razumevanjem potencialnih negativnih učinkov družbenih medijev smo sprejeli proaktivne odločitve, da bi zagotovili, da bodo vsi naši prihodnji izdelki odražali te zgodnje vrednote.

Za to nam ni bilo treba ponovno izumljati kolesa. Naša ekipa se je lahko učila iz zgodovine, ko se je soočala z izzivi, ki jih prinaša nova tehnologija. Ker se je Snapchat sčasoma razvijal, so na nas vplivali obstoječi regulativni okviri, ki urejajo radiodifuzijo in telekomunikacije pri razvoju delov naše aplikacije, kjer so uporabniki lahko delili vsebino, ki bi lahko dosegla veliko občinstvo. Na primer, ko se s prijatelji pogovarjate po telefonu, imate visoka pričakovanja glede zasebnosti, medtem ko ste, če ste javni izdajatelj televizijskega programa z možnostjo vplivanja na misli in mnenja mnogih, ob upoštevanju različnih standardov in regulativnih zahtev.

Ta dihotomija nam je pomagala razviti pravila za bolj javne dele Snapchata, ki jih navdihujejo predpisi o radiodifuziji. Ta pravila ščitijo naše občinstvo in nas razlikujejo od drugih platform. Na primer, Odkrijte, naša zaprta platforma z vsebino, kjer Snapchatterji dobijo svoje novice in zabavo, ekskluzivno predstavlja vsebino bodisi profesionalnih medijskih založnikov, ki so naši partnerji, bodisi umetnikov, ustvarjalcev in športnikov, s katerimi se odločimo sodelovati. Vsi ti ponudniki vsebin se morajo držati naših Smernic skupnosti, ki veljajo za vso vsebino na naši platformi. Toda partnerji založniki v Odkrijte se morajo držati tudi naših smernic za založnike, ki vključujejo zahtevo, da je vsebina preverjena ali točna in po potrebi starostno omejena. Za posamezne ustvarjalce, predstavljene v Odkrijte, naše ekipe za moderiranje pregledajo njihove zgodbe, preden jim dovolimo promocijo na platformi. Čeprav uporabljamo algoritme za prikazovanje vsebine na podlagi posameznih interesov, se ti uporabljajo za omejen in preverjen nabor vsebin, kar je drugačen pristop od drugih platform.

Na platformi V žarišču, kjer lahko ustvarjalci oddajo ustvarjalne in zabavne videoposnetke, ki jih delijo s širšo skupnostjo Snapchat, vso vsebino najprej samodejno pregleda umetna inteligenca, preden se razširi, nato pa jo pregleda in moderira človek, preden si jo lahko ogleda več kot 25 ljudi. To se naredi, da se zmanjša tveganje širjenja dezinformacij, sovražnega govora ali druge potencialno škodljive vsebine.

Ne naredimo vedno prav prvič, zato preoblikujemo dele Snapchata, ko ne živijo v skladu z našimi vrednotami. To se je zgodilo leta 2017, ko smo odkrili, da je eden od naših izdelkov, Zgodbe, povzročil, da so se Snapchatterji počutili, kot da morajo tekmovati z zvezdniki in vplivneži za pozornost, ker je bila vsebina zvezdnikov in prijateljev združena v istem uporabniškem vmesniku. Kot rezultat tega opažanja smo se odločili ločiti »družbeno« vsebino, ki jo ustvarijo prijatelji, od »medijske« vsebine, ki jo ustvarijo zvezdniki, da bi zmanjšali družbeno primerjavo na naši platformi. Ta prenova je kratkoročno negativno vplivala na rast naših uporabnikov, vendar je bila to prava stvar za našo skupnost.

Zaščita mladih na Snapchatu

Naše poslanstvo – opolnomočiti ljudi, da se izražajo, živijo v trenutku, spoznavajo svet in se skupaj zabavajo – je vplivalo na temeljno arhitekturo Snapchata. Upoštevanje tega poslanstva nam je omogočilo ustvariti platformo, ki odraža človeško naravo in spodbuja prava prijateljstva. Še naprej vpliva na naše procese in načela oblikovanja, naše politike in prakse ter vire in orodja, ki jih zagotavljamo naši skupnosti. In podpira naša nenehna prizadevanja za izboljšanje načina obravnavanja neločljivih tveganj in izzivov, povezanih s služenjem veliki spletni skupnosti.

Velik del izpolnjevanja našega poslanstva je bilo graditi in ohranjati zaupanje z našo skupnostjo in partnerji, pa tudi s starši, zakonodajalci in strokovnjaki za varnost. Ti odnosi so bili zgrajeni s premišljenimi, doslednimi odločitvami, ki smo jih sprejeli, da bi zasebnost in varnost postavili v središče našega procesa oblikovanja izdelkov.

Na primer, sprejeli smo odgovorna načela oblikovanja, ki upoštevajo zasebnost in varnost novih izdelkov in funkcij že od samega začetka razvojnega procesa. In ta načela smo uresničili s strogimi postopki. Vsaka nova funkcija v Snapchatu gre skozi določen pregled zasebnosti in varnosti, ki ga izvajajo ekipe, ki zajemajo Snap – vključno z oblikovalci, podatkovnimi znanstveniki, inženirji, produktnimi vodji, produktnimi svetovalci, vodji politik in inženirji za zasebnost – veliko preden ugleda luč sveta.

Čeprav je več kot 80 % naše skupnosti v Združenih državah starih 18 let ali več, smo porabili ogromno časa in sredstev za zaščito najstnikov. Sprejeli smo premišljene in namerne odločitve za uporabo dodatnih politik zasebnosti in varnosti ter načel oblikovanja, da bi pomagali ohranjati varnost najstnikov. To vključuje:

• Upoštevanje edinstvenih občutljivosti in premislekov mladoletnikov pri oblikovanju izdelkov.Zato namerno otežujemo neznancem iskanje mladoletnikov s prepovedjo javnih profilov za osebe, mlajše od 18 let, in uvajamo funkcijo za omejitev odkrivanja mladoletnikov v Predlogih (predlogi prijateljev). In zakaj že dolgo uporabljamo orodja za starostno omejevanje, da mladoletnikom preprečimo ogled starostno urejenih vsebin in oglasov.

• Opolnomočenje Snapchatterjev z zagotavljanjem doslednih in enostavnih kontrolkot je privzeto izklapljanje deljenja lokacije in ponujanje poenostavljenega poročanja v aplikaciji, da uporabniki poročajo o zaskrbljujoči vsebini ali vedenju našim ekipam za zaupanje in varnost. Ko je prijavljena, se večina vsebine obravnava v manj kot 2 urah, da se zmanjša možnost škode.

• Prizadevanje za razvoj orodij, ki bodo staršem omogočila več nadzora brez žrtvovanja zasebnosti– vključno z načrti, da se staršem omogoči ogled prijateljev njihovega najstnika, upravljanje nastavitev zasebnosti in lokacije ter ogled, s kom se pogovarjajo.

• Vlaganje v izobraževalne programe in pobude, ki podpirajo varnost in duševno zdravje naše skupnosti– kot sta Friend Check Up in Here for You. Friend Check Up pozove Snapchatterje, da pregledajo, s kom so prijatelji, in se prepričajo, da je seznam sestavljen iz ljudi, ki jih poznajo in s katerimi želijo biti še vedno povezani. Here for You nudi podporo uporabnikom, ki morda doživljajo duševne ali čustvene krize, z zagotavljanjem orodij in virov strokovnjakov.

• Preprečevanje uporabe s strani mladoletnikov.Ne trudimo se – in nimamo načrtov – tržiti otrokom, posameznikom, mlajšim od 13 let, pa ni dovoljeno ustvarjati računov za Snapchat. Pri registraciji računa morajo posamezniki navesti svoj datum rojstva, postopek registracije pa ne uspe, če uporabnik vnese starost, mlajšo od 13 let. Uvedli smo tudi novo zaščito, ki uporabnikom Snapchata, starim od 13 do 17 let, z obstoječimi računi preprečuje, da bi svoj rojstni dan posodobili na starost 18 let ali več. Natančneje, če mladoletnik poskuša spremeniti svojo letnico rojstva na starost nad 18 let, bomo spremembo preprečili, da bi zagotovili, da uporabniki ne dostopajo do starostno neprimerne vsebine znotraj Snapchata.

Zaključek in pogled naprej

Vedno si prizadevamo za nove načine za ohranjanje varnosti naše skupnosti in čaka nas še več dela. Vemo, da je spletna varnost deljena odgovornost, ki zajema številne sektorje in akterje. Zavezani smo, da bomo opravili svoj del v sodelovanju z varnostnimi partnerji, vključno z našo Ploščo z varnostnimi nasveti, kolegi iz tehnološke industrije, vlado in civilno družbo. Od tehnološko usmerjenih pobud in pobud za ozaveščanje do raziskav in izmenjave najboljših praks, smo aktivno vključeni v organizacije, ki se posvečajo zaščiti mladoletnikov na spletu. Vemo tudi, da obstaja veliko zapletenih problemov in tehničnih izzivov v naši industriji, vključno s preverjanjem starosti mladoletnikov, in ostajamo zavezani sodelovanju s partnerji in oblikovalci politik pri iskanju robustnih rešitev za celotno industrijo.

Zaščita dobrega počutja Snapchatterjev je nekaj, čemur se približujemo s ponižnostjo in neomajno odločnostjo. Več kot 500 milijonov ljudi po vsem svetu vsak mesec uporablja Snapchat in medtem ko 95 % naših uporabnikov pravi, da jih Snapchat osrečuje, imamo moralno odgovornost, da pri vsem, kar počnemo, upoštevamo njihove najboljše interese. To še posebej velja, ko uvajamo inovacije z obogateno resničnostjo – ki lahko pozitivno prispeva k načinu, kako delamo, nakupujemo, se učimo in komuniciramo. Uporabili bomo enake temeljne vrednote in načela, ko bomo nadaljevali z eksperimentiranjem z novimi tehnologijami, kot je naslednja generacija obogatene resničnosti.

Ko gledamo v prihodnost, bosta računalništvo in tehnologija vse bolj vključena v naše vsakdanje življenje. Verjamemo, da je regulacija potrebna, vendar glede na hitrost razvoja tehnologije in hitrost, s katero se lahko regulacija izvaja, regulacija sama ne more opraviti dela. Tehnološka podjetja morajo prevzeti odgovornost in aktivno zaščititi skupnosti, ki jim služijo.

Če tega ne storijo, mora vlada hitro ukrepati, da jih pozove na odgovornost. V celoti podpiramo prizadevanja pododbora za preiskavo teh vprašanj in pozdravljamo sodelovalni pristop k reševanju problemov, ki ohranja našo družbo varno.

Še enkrat hvala za priložnost, da se danes pojavim pred vami in razpravljam o teh kritičnih vprašanjih. Veselim se odgovarjanja na vaša vprašanja.