I dag gikk vår visepresident for Global Public Policy, Jennifer Stout, sammen med andre teknologiplattformer for å vitne for Senatets handelskomités underkomité for forbrukerbeskyttelse, produktsikkerhet og datasikkerhet om Snaps tilnærming til å beskytte unge mennesker på plattformen vår.

Vi var takknemlige for muligheten til å forklare for Subcommittee hvordan vi valgte å bygge Snapchat på en annen måte enn andre tradisjonelle sosiale medi-plattformer, og hvordan vi jobber for å implementere sikkerhet og personvern direkte i utformingen av plattformen og produktene våre, og hvor vi må fortsette å forbedre oss for å beskytte velværet i samfunnet vårt. Vi har ment at vi har et moralsk ansvar for å sette interessenee deres først – og tror at alle tekniske selskaper må ta ansvar og aktivt beskytte lokalsamfunnene de tjener.

Vi ønsker Subcommittee’s pågående innsats for å undersøke disse kritiske problemene velkommen, og du kan lese Jennifers fullstendige uttalelse nedenfor. En PDF med komplett vitnesbyrd er tilgjengelig her.

****

Vitnesbyrd fra Jennifer Stout, visepresident for Global Public Policy, Snap Inc.

Innledning

Formann Blumenthal, rangerende medlem Blackburn og medlemmer av underkomiteen, takk for muligheten til å møte for dere i dag. Mitt navn er Jennifer Stout og jeg er visepresident for Global Public Policy Snap Inc., et moderselskap for Snapchat. Det er en ære og et privilegium å være tilbake i Senatet 23 år etter at jeg startet min karriere innenfor offentlig tjeneste som ansatt i Senatet. Denne gangen er de i forbindelse med en helt annen kapasitet; for å snakke om Snaps tilnærming til personvern og sikkerhet, spesielt ettersom det gjelder det yngste medlemmene av samfunnet vårt. Jeg har hatt denne rollen i nesten fem år, etter å ha tilbrakt nesten to tiår i offentlig tjeneste og mer enn halvparten av disse var i Kongressen. Jeg har enorm respekt for denne institusjonen og arbeidet du og dine ansatte gjør for å sikre at teknologiplattformer sikrer at ungdommen vår har trygge og sunne opplevelser på nettet.

For å forstå Snaps tilnærming til å beskytte unge mennesker på plattformen vår, er det nyttig å starte med starten. Snapchats grunnleggere var en del av den første generasjonen som vokste opp med sosiale medier. Som mange av sine jevnaldrende, så de at sosiale medier hadde en positiv påvirkning, men det presenterte også visse funksjoner som negativt påvirket vennskapene deres. Disse plattformene oppmuntret folk til å kringkaste tanker og følelser, for alltid. Grunnleggerne våre så hvordan mennesker kontinuerlig målte seg opp hverandre gjennom «likes» og kommentarer, og prøvde å presentere en versjon av seg selv gjennom perfekte bilder og nøye innlegg på grunn av sosialt press. Sosiale medier utviklet seg også til å inneholde en uendelig feed av uredigert innhold og eksponere mennesker for en flom av viralt, misvisende og skadelig innhold.

Snapchat ble bygget som en «motgift»til sosiale medier. Vi beskriver oss selv som en kamerabedrift. Snapchats arkitektur var med hensikt utformet for å gi folk mulighet til å uttrykke et komplett utvalg av opplevelser og følelser med ekte venner, ikke bare de vakre og perfekte øyeblikkene. I oppstarten av selskapet vårt, var det tre viktige måter teamet vårt presenterte en banebrytende oppfinnelse for å prioritere personvern og sikkerhet.

Først bestemte vi oss for at Snapchat skulle åpnes via et kamera i stedet for en feed av innhold. Dette opprettet et blankt lerret der venner kunne visuelt kommunisere med hverandre på en måte som er mer oppslukende og kreativ enn å bare sende tekstmeldinger.

For det andre omfavnet vi personvernprinsipper, dataminimalisering og ideen om ephemerality som sletter bilder som standard. På denne måten kunne mennesker uttrykke seg på samme måte som de ville gjort hvis de bare hang sammen med venner i parken. Sosiale medier har kanskje bidratt til en normalisering av permante samtaler på nettet. Men i virkeligheten henter ikke venner opp båndopptakeren sin for å dokumentere hver eneste samtale for offentlig forbruk eller annen permanent oppbevaring.

For det tredje fokuserte vi på å koble sammen mennesker som allerede var venner i virkeligheten ved å kreve at begge Snapchattere må velge å være venner for å kunne kommunisere med hverandre. Fordi vennskap er gjensidig. Det er ikke en person som følger den andre, eller tilfeldige fremmede som kommer inn i livene våre uten tillatelse eller invitasjon.

En ansvarlig utvikling

Siden tidlig oppstart, har vi jobbet for å fortsette å utvikle oss ansvarlig. For å forstå de potensielle negative effektene fra sosiale medier, tok vi proaktive valg for å sikre at alle våre fremtidige produkter reflekterte disse tidlige verdiene.

Vi trengte ikke å gjenoppfinne hjulet for å gjøre det. Teamet vårt var i stand til å lære av historien når vi ble konfrontert med utfordringene som denne nye teknologi ga. Etterhvert som Snapchat utviklet seg over tid, ble vi påvirket av eksisterende regulatoriske rammer som styrer kringkasting og telekommunikasjon når vi utvikler delene av appen vår, der brukerne kunne dele innhold som har potensial til å nå et stort publikum. Når du for eksempel snakker med vennene dine på telefonen, har du en høy forventning om personvern, mens hvis befinner deg på en offentlig kringkaster, med potensial til å påvirke sinnene og meningene til mange mennesker på samme tid, er du underlagt ulike standarder og regulatoriske krav.

Denne dikotomien hjalp oss å utvikle regler for de mer offentlige delene av Snapchat som er inspirert av kringkastingsregler. Disse reglene beskytter publikummet vårt og skiller oss ut fra andre plattformer. For eksempel, Discover, vår lukkede innholdsplattform hvor Snapchatters får sine nyheter og underholdning, har utelukkende innhold fra enten profesjonelle medieutgivere som samarbeider med oss, eller fra kunstnere, skapere og utøvere som vi velger å jobbe med. Alle disse innholdsleverandørene må overholde Samfunnsretningslinjene våre som gjelder for alt innhold på plattformen vår. De som publiserer på Discover-plattformen må også overholde retningslinjer for utgiver, som blant annet krever at innholdet faktisk er sjekket eller nøyaktig og aldersbestemt når det er hensiktsmessig. Og for individuelle skapere som er omtalt på Discover-plattformen, vil et team av menneskelige moderatorer gjennomgår Historiene deres for vi tillater at de blir publisert på plattformen. Og selv om vi bruker algoritmer til å dele innhold basert på individuelle interesser, brukes de kun til et begrenset og redigert innhold, som er en tilnærming som skiller seg ut fra andre plattformer.

På Spotlight hvor skaperne kan sende inn kreative og underholdende videoer for å dele med det bredere Snapchat samfunnet, blir alt innhold først gjennomgått automatisk av kunstig intelligens før de blir distribuert, og deretter gjennomgås de av et menneske før det kan deles med opptil 25 personer. Dette gjøres for å sikre at vi ikke sprer feilinformasjon, hatefulle ytringer eller annet potensielt skadelig innhold.

Vi lykkes ikke alltid ved første forsøk, og derfor redesigner vi deler av Snapchat når de ikke lever opp til verdiene våre. Det var det som skjedde i 2017 da vi oppdaget at en av produktene våre, Stories, fikk Snapchattere til å føle at de måtte konkurrere med kjendiser og influensere for oppmerksomhet fordi innhold fra kjendiser og venner ble kombinert i samme brukergrensesnitt. Som et resultat av denne observasjonen bestemte vi oss for å skille ut «sosialt» innhold som ble opprettet av venner fra «media» innhold som ble opprettet av kjendiser for å redusere sosial sammenligning på plattformen vår. Denne redesign påvirket brukerveksten vår på kort sikt, men det var det rette å gjøre for samfunnet vårt.

Beskytte unge mennesker på Snapchat

Vårt oppdrag – å gi folk mulighet til å uttrykke seg, leve i øyeblikket, lære om verden og ha det gøy sammen – informert Snapchats grunnleggende arkitektur. Ved å følge dette oppdraget har vi fått muligheten til å skape en plattform som gjenspeiler menneskets natur og fostrer ekte vennskap. Den fortsetter å påvirke designprosesser og prinsipper, retningslinjene og praksisen vår, og ressurser og verktøyene vi gir til samfunnet vårt. Og det undergraver vår konstante innsats for å forbedre hvordan vi håndterer de iboende risikoene og utfordringene forbundet med å tjene et stort nettsamfunn.

En stor del av å leve opp til oppdraget vårt har vært å bygge og opprettholde tillit til samfunnet og partnerne våre, samt foreldre, lovgivere og sikkerhetseksperter. Disse forholdene er bygget gjennom de overveide og konsekvente beslutningene vi har tatt for å sette personvern og sikkerhet i hjertet av produktdesignprosessene våre.

Vi har for eksempel vedtatt ansvarlige designprinsipper som vurderer personvernet og sikkerheten til nye produkter og funksjoner helt fra begynnelsen av utviklingsprosessen. Og vi har satt tatt i bruk disse prinsippene gjennom strenge prosesser. Hver eneste nye funksjon på Snapchat går gjennom en definert personvern- og sikkerhetsgjennomgang utført av team på tvers av hele Snap-organisasjonen – inkludert designere, dataforskere, ingeniører, produktledere, produktråd, retningslinjer og personvern, lenge før detn ser dagens lys.

Mens mer enn 80 % av medlemmene våre i USA er 18 år eller eldre, har vi brukt enorme ressurser og å beskytte tenåringer. Vi har gjort gjennomtenkte og intense valg for å ta i bruk flere personvern- og sikkerhetsretningslinjer sammen med designprinsipper for å holde tenåringer trygge. Det inkluderer:

• Å ta hensyn følsomheten og hensynet til mindreårige når vi designer produkter. Det er derfor vi med hensikt gjør det vanskeligere for fremmede å finne mindreårige ved å forby offentlige profiler for personer under 18 år og lanserer en funksjon for å begrense oppdagelsen av mindreårige i Quick Add (vennforslag). Det er også grunnen til at vi har brukt aldersbestemte verktøy for å forhindre at mindreårige ser på alders-begrenset innhold og annonser.

• Å styrke Snapchattere ved å gi konsekvent og brukervennlig kontroller som å slå av stedsdeling som standard og tilby strømlinjeformet rapportering i appen der brukerne kan rapportere om innhold eller atferd til Tillit og Sikkerhets-teamet vårt. Når vi mottar rapporter om dette, blir mesteparten av innholdet behandlet i løpet av to timer for å minimere potensialet for skade.

• Ved å jobbe for å utvikle verktøy som vil gi foreldre mer tilsyn uten å ofre personvern – inkludert planer om å gi foreldre muligheten til å se tenåringens venner, administrere personvern og innstillinger for personvern og se hvem de snakker med.

• Investere i utdanningsprogrammer og tiltak som støtter sikkerheten og den mentale helsen til samfunnet vårt, som Friend Check Up og Here For You. Friend Check Up ber Snapchattere om å se gjennom hvem de er venner med, og sørge for at listen består av mennesker de kjenner og fortsatt ønsker å være koblet til. Here For You gir støtte til brukere som strever med mental helse eller emosjonelle kriser ved å gi verktøy og ressurser fra eksperter.

• Forebygge bruk av mindreårige. Vi gjør ingen innsats for, og har ingen planer om å markedsføre barn og enkeltpersoner under 13 år har ikke tillatelse til å opprettet Snapchat-kontoer. Når man registrerer seg for en bruker-konto, må man oppgi fødselsdato. Denne registreringen mislykkes hvis en bruker angir en alder under 13 år. Vi har også implementert en ny beskyttelse som hindrer Snapchat-brukere mellom 13–17 fra å oppdatere fødselsdatoen til å være 18 år og eldre. Hvis en mindreårig forsøker å endre fødselsdatoen til eldre enn 18 år, vil vi forhindre denne endringen som en måte å sikre at brukere ikke får tilgang til alders-begrenset innhold på Snapchat.

Konklusjon se fremover

Vi strever alltid etter nye måter å holde samfunnet vårt trygge, og vi har mer arbeid å gjøre i forbindelse med det. Vi vet at nettsikkerhet er et felles ansvar, og at dette spenner over en rekke sektorer og aktører. Vi er forpliktet til å gjøre vår del i samarbeid med sikkerhetspartnere, inkludert vårt sikkerhetsråd, teknologi og andre kollegaer for teknologi, offentlige og sivile samfunn. Fra technology-fokuserte og bevisstgjørende tiltak til forskning og deling av beste praksis, er vi aktivt engasjert med organisasjoner som er dedikert til å beskytte mindreårige på nett. Vi vet også at det finnes mange komplekse problemer og tekniske utfordringer i bransjen vår, inkludert aldersbekreftelse av mindreårige, og vi er fortsatt forpliktet til å jobbe med partnere og personvernaktører for å identifisere robuste løsninger for på tvers av hele bransjen vår.

Å beskytte velværet til Snapchattere er noe vi behandler med både ydmykhet og stabil besluttsomhet. Over 500 millioner mennesker over hele verden bruker Snapchat hver måned, og mens 95 % av brukerne sier Snapchat gjør at de føler seg glade, har vi et moralsk ansvar for å ivareta deres beste interesser i alt vi foretar oss. Det er spesielt viktig når vi operer med utvidet virkelighet, som har potensial til å bidra til måten vi jobber, handler, lærer og kommuniserer på. Vi vil bruke de samme grunnleggende verdiene og prinsippene som etterhvert som vi fortsetter å eksperimentere med nye teknologier, som neste generasjon av utvidet virkelighet.

Ettehvert som vi beveger oss fremover, vil databehandling og teknologi bli stadig mer integrert i hverdagen vår. Vi tror at regulering er nødvendig, men gitt hastigheten som teknologien utvikler seg med og hastigheten av regulering, så kan ikke det gjøre jobben alene. Teknologiselskaper må ta ansvar og aktivt beskytte lokalsamfunnene de tjener.

Hvis de ikke gjør det, må regjeringen handle raskt for å holde dem ansvarlig. Vi støtter fullt ut underkomiteens innsats for å undersøke disse problemene og ønsker å samarbeide for å løse problemer som holder samfunnet vårt trygt.

Takk for muligheten til å snakke til dere i dag for å diskutere disse kritiske problemene. Jeg ser frem til å svare på spørsmålene dine.