Senaat Congressional — Onze aanpak van veiligheid, privacy en welzijn

26 oktober 2021

Vandaag heeft onze VP van Global Public Policy, Jennifer Stout, samen met andere technologieplatforms getuigd voor de subcommissie consumentenbescherming, productveiligheid en gegevensbeveiliging van de senaatscommissie voor handel over de aanpak van Snap om jongeren op ons platform te beschermen.
We waren dankbaar dat we de subcommissie konden uitleggen hoe we Snapchat opzettelijk anders hebben opgebouwd dan traditionele sociale mediaplatforms, hoe we werken om veiligheid en privacy direct in het ontwerp van ons platform en producten op te bouwen en waar we moeten blijven verbeteren om het welzijn van onze gemeenschap beter te beschermen. We hebben altijd gedacht dat we een morele verantwoordelijkheid hebben om hun belangen voorop te stellen en zijn van mening dat alle technologiebedrijven de verantwoordelijkheid moeten nemen en de gemeenschappen die ze dienen actief moeten beschermen.
Wij verwelkomen de voortdurende inspanningen van de subcommissie om deze kritieke kwesties te onderzoeken en je kunt de volledige verklaring van Jennifer hieronder lezen. Een PDF van de volledige getuigenis is hier beschikbaar.
****
Getuigenis van Jennifer Stout, vicepresident van Global Public Policy, Snap Inc
Inleiding
Voorzitter Blumenthal, Ranking Member Blackburn, en leden van de subcommissie, bedankt voor de gelegenheid om vandaag voor u te verschijnen. Mijn naam is Jennifer Stout en ik ben de vicepresident van Global Public Policy bij Snap Inc., het moederbedrijf Snapchat. Het is een eer en een voorrecht om 23 jaar na mijn eerste stappen in de openbare dienst als senaatsmedewerkster terug te zijn in de Senaat, deze keer in een veel andere hoedanigheid - om te spreken over Snaps aanpak van privacy en veiligheid, vooral als het gaat om onze jongste leden van de gemeenschap. Ik vervul deze functie nu bijna vijf jaar, na bijna twee decennia in overheidsdienst te hebben gewerkt, waarvan meer dan de helft in het Congres. Ik heb enorm veel respect voor deze instelling en het werk dat u en uw medewerkers doen om ervoor te zorgen dat technologische platforms ervoor zorgen dat onze jeugd veilige en gezonde online ervaringen opdoet. 
Om Snaps aanpak van het beschermen van jongeren op ons platform te begrijpen, is het nuttig om te beginnen bij het begin. De oprichters van Snapchat behoorden tot de eerste generatie die opgroeide met sociale media. Net als veel van hun leeftijdsgenoten zagen ze dat, hoewel sociale media een positieve impact konden hebben, ze ook bepaalde kenmerken hadden die hun vriendschappen negatief beïnvloedden. Deze platforms moedigden mensen aan om hun gedachten en gevoelens openbaar te maken, permanent. Onze oprichters zagen hoe mensen zich voortdurend meten met anderen via "likes" en commentaren, proberen een versie van zichzelf te presenteren via perfect verzorgde beelden, en hun inhoud zorgvuldig schrijven onder sociale druk. Sociale media hebben zich ook ontwikkeld tot een eindeloze stroom van ongecontroleerde inhoud, waardoor mensen worden blootgesteld aan een stortvloed van virale, misleidende en schadelijke inhoud. 
Snapchat werd gebouwd als een tegengif voor sociale media. In feite omschrijven we onszelf als een camerabedrijf. De architectuur van Snapchat is bewust ontworpen om mensen in staat te stellen een volledig scala aan ervaringen en emoties uit te drukken met hun echte vrienden, niet alleen de mooie en perfecte momenten. In de beginjaren van ons bedrijf waren er drie belangrijke manieren waarop ons team nieuwe uitvindingen deed om prioriteit te geven aan online privacy en veiligheid. 
Eerst besloten we Snapchat te laten openen voor een camera in plaats van een feed van inhoud. Dit creëerde een leeg canvas voor vrienden om visueel met elkaar te communiceren op een manier die meeslepender en creatiever is dan het verzenden van tekstberichten.
Ten tweede omarmden we sterke privacyprincipes, gegevensminimalisatie en het idee van kortstondigheid, waardoor beelden standaard worden verwijderd. Hierdoor konden mensen zich echt uitdrukken op dezelfde manier als wanneer ze gewoon met hun vrienden in een park zouden rondhangen. De sociale media hebben het vastleggen van gesprekken online misschien genormaliseerd, maar in het echte leven halen vrienden hun bandrecorder niet tevoorschijn om elk gesprek vast te leggen voor publieke consumptie of om het permanent te bewaren. 
Ten derde richtten wij ons op het verbinden van mensen die al vrienden zijn in het echte leven door te eisen dat beide Snapchatters er standaard voor kiezen vrienden te zijn om te kunnen communiceren. Omdat vriendschappen in het echte leven wederzijds zijn. Het is niet de ene persoon die de andere volgt, of willekeurige vreemden die ons leven binnenkomen zonder toestemming of uitnodiging.
Een verantwoorde evolutie
Sinds die begindagen hebben we gewerkt aan een verantwoorde ontwikkeling. Omdat we de potentiële negatieve effecten van sociale media begrepen, hebben we proactieve keuzes gemaakt om ervoor te zorgen dat al onze toekomstige producten die vroege waarden weerspiegelen. 
We hoefden het wiel niet opnieuw uit te vinden om dat te doen. Ons team kon leren van de geschiedenis bij het aangaan van de uitdagingen van nieuwe technologie. Naarmate Snapchat in de loop van de tijd evolueerde, werden we beïnvloed door bestaande regelgevingskaders voor omroep en telecommunicatie bij het ontwikkelen van de delen van onze app waar gebruikers inhoud kunnen delen die het potentieel heeft om een groot publiek te bereiken. Als je bijvoorbeeld met je vrienden telefoneert, heb je een hoge verwachting van privacy, terwijl als je een publieke omroep bent die de gedachten en meningen van velen kan beïnvloeden, ben je onderworpen aan andere normen en wettelijke vereisten. 
Die tweedeling hielp ons om regels te ontwikkelen voor de meer openbare gedeelten van Snapchat die geïnspireerd zijn op omroepregelgeving. Deze regels beschermen ons publiek en onderscheiden ons van andere platforms. Zo bevat Verkennen, ons gesloten contentplatform waar Snapchatters hun nieuws en entertainment vandaan halen, uitsluitend content van ofwel professionele media-uitgevers die met ons samenwerken, ofwel van artiesten, makers en atleten met wie wij kiezen samen te werken. Al deze aanbieders van content moeten onze Communityrichtlijnen naleven die gelden voor alle content op ons platform. Maar uitgeverpartners van Verkennen moeten zich ook houden aan onze uitgeversrichtlijnen, die onder meer vereisen dat de inhoud op feiten wordt gecontroleerd of nauwkeurig is en waar nodig van een leeftijdsclassificatie wordt voorzien. En voor individuele makers in Verkennen beoordelen onze menselijke moderatieteams hun Verhalen voordat we toestaan dat ze op het platform worden gepromoot. Hoewel we algoritmen gebruiken om content te tonen op basis van individuele belangen, worden ze toegepast op een beperkt en doorgelichte pool van content, wat een andere aanpak is dan bij andere platforms.
Op Spotlight, waar makers creatieve en vermakelijke video's kunnen indienen om te delen met de bredere Snapchat-gemeenschap, wordt alle content eerst automatisch beoordeeld door kunstmatige intelligentie voor het wordt verspreid, en vervolgens door mensen beoordeeld en gemodereerd voordat het door meer dan 25 mensen kan worden bekeken. Dit wordt gedaan om ervoor te zorgen dat we het risico van het verspreiden van verkeerde informatie, haatspraak of andere potentieel schadelijke content beperken.
We krijgen het niet altijd goed de eerste keer, en daarom herontwerpen we delen Snapchat als ze niet aan onze waarden voldoen. Dat is wat er gebeurde in 2017 toen we ontdekten dat een van onze producten, Verhalen, Snapchatters het gevoel gaf dat ze moesten concurreren met beroemdheden en influencers voor aandacht, omdat content van beroemdheden en vrienden werd gecombineerd in dezelfde gebruikersinterface. Als gevolg van die observatie besloten we om 'sociale' inhoud die door vrienden is gemaakt te scheiden van 'media' inhoud die door beroemdheden is gemaakt om sociale vergelijking op ons platform te helpen verminderen. Dit herontwerp had op korte termijn een negatieve invloed op onze gebruikersgroei, maar het was het juiste om te doen voor onze gemeenschap.
Jonge mensen beschermen op Snapchat
Onze missie - mensen in staat stellen zich uit te drukken, in het moment te leven, over de wereld te leren en samen plezier te hebben - vormde de basis voor de architectuur van Snapchat. Door vast te houden aan deze missie hebben we een platform kunnen creëren dat de menselijke natuur weerspiegelt en echte vriendschappen bevordert. Het blijft onze ontwerpprocessen en -beginselen, ons beleid en onze praktijken, en de middelen en tools die wij onze gemeenschap ter beschikking stellen, beïnvloeden. En het onderbouwt onze constante inspanningen om beter om te gaan met de risico's en uitdagingen die inherent zijn aan het bedienen van een grote online gemeenschap. 
Een groot deel van het naleven van onze missie is het opbouwen en behouden van vertrouwen met onze gemeenschap en partners, maar ook met ouders, wetgevers en veiligheidsdeskundigen. Die relaties zijn tot stand gekomen door de weloverwogen, consistente beslissingen die we hebben genomen om privacy en veiligheid centraal te stellen in ons productontwerpproces.
We hebben bijvoorbeeld verantwoorde ontwerpprincipes aangenomen die vanaf het begin van het ontwikkelingsproces rekening houden met de privacy en veiligheid van nieuwe producten en functies. En we hebben die principes tot leven gebracht via strenge processen. Elke nieuwe functie in Snapchat ondergaat een gedefinieerde privacy- en veiligheidsbeoordeling, uitgevoerd door teams die Snap omspannen - waaronder ontwerpers, gegevenswetenschappers, ingenieurs, productmanagers, productadviseurs, beleidsleiders en privacy-ingenieurs - lang voordat de functie het daglicht ziet.
Hoewel meer dan 80% van onze gemeenschap in de Verenigde Staten 18 jaar of ouder is, hebben we enorm veel tijd en middelen besteed aan de bescherming van tieners. We hebben doordachte en bewuste keuzes gemaakt om extra privacy- en veiligheidsbeleid en ontwerpprincipes toe te passen om tieners veilig te houden. Dat omvat:
  • Rekening houden met de unieke gevoeligheden en overwegingen van minderjarigen bij het ontwerpen van producten. Daarom maken we het opzettelijk moeilijker voor vreemden om minderjarigen te vinden door openbare profielen voor mensen onder de 18 jaar te verbieden en introduceren we een functie om de vindbaarheid van minderjarigen te beperken in Snel toevoegen (vriendensuggesties). En waarom we al geruime tijd tools voor leeftijdsbeperking gebruiken om te voorkomen dat minderjarigen inhoud en advertenties bekijken waarvoor een leeftijdsgrens geldt. 
  • Snapchatters meer macht geven door consistente en eenvoudig te gebruiken controles aan te bieden, zoals het standaard uitschakelen van het delen van locaties en het aanbieden van gestroomlijnde in-app rapportage voor gebruikers om verdachte inhoud of gedragingen te melden aan onze Trust en Safety-teams. Eenmaal gemeld, wordt voor de meeste content binnen 2 uur actie genomen om de kans op schade te minimaliseren.
  • Werken aan de ontwikkeling van tools die ouders meer toezicht geven zonder dat dit ten koste gaat van de privacy, inclusief plannen om ouders de mogelijkheid te geven de vrienden van hun tiener te bekijken, hun privacy- en locatie-instellingen te beheren en te zien met wie ze praten.
  • Investeren in educatieve programma's en initiatieven die de veiligheid en geestelijke gezondheid van onze gemeenschap ondersteunen, zoals Vriend Check-up en Here For You. Vriend Check-up vraagt Snapchatters om na te gaan met wie ze bevriend zijn en ervoor te zorgen dat de lijst bestaat uit mensen die ze kennen en waarmee ze nog steeds verbonden willen zijn. Here for You biedt ondersteuning aan gebruikers die mogelijk te maken hebben met geestelijke gezondheidsproblemen of emotionele crises door tools en hulpmiddelen van deskundigen te bieden.
  • Het voorkomen van gebruik door minderjarigen. Wij doen geen moeite - en hebben geen plannen - om aan kinderen te verkopen, en het is personen jonger dan 13 jaar niet toegestaan Snapchat-accounts aan te maken. Bij het registreren voor een account moeten personen hun geboortedatum opgeven, en het registratieproces mislukt als een gebruiker een leeftijd onder de 13 invoert. We hebben ook een nieuwe beveiliging geïmplementeerd die voorkomt dat Snapchat-gebruikers tussen 13 en 17 jaar met bestaande accounts hun geboortedatum bijwerken naar een leeftijd van 18 jaar of ouder. In het bijzonder, als een minderjarige probeert zijn geboortejaar te wijzigen naar een leeftijd boven 18 jaar, zullen we de wijziging niet toelaten om er zeker van te zijn dat gebruikers geen toegang krijgen tot content binnen Snapchat die niet geschikt is voor hun leeftijd.
Conclusie en vooruitzichten
We streven altijd naar nieuwe manieren om onze gemeenschap veilig te houden en we hebben nog meer werk te doen. We weten dat online veiligheid een gedeelde verantwoordelijkheid is, die zich uitstrekt over een groot aantal sectoren en actoren. We zijn vastbesloten ons steentje bij te dragen in overleg met veiligheidspartners, waaronder onze veiligheidsadviesraad, collega's in de technologie-industrie, de overheid en het maatschappelijk middenveld. Van technologiegerichte en bewustmakingsinitiatieven tot onderzoek en het delen van beste praktijken, wij werken actief samen met organisaties die zich inzetten voor de bescherming van minderjarigen online. We weten ook dat er in onze sector veel complexe problemen en technische uitdagingen zijn, waaronder de leeftijdscontrole van minderjarigen, en we blijven ons inzetten om samen met partners en beleidsmakers robuuste oplossingen voor de hele sector te vinden.         
Het beschermen van het welzijn van Snapchatters is iets wat we benaderen met zowel nederigheid als vastberadenheid. Meer dan 500 miljoen mensen over de hele wereld gebruiken Snapchat elke maand en hoewel 95% van onze gebruikers zegt dat Snapchat hen gelukkig maakt, hebben we een morele verantwoordelijkheid om bij alles wat we doen rekening te houden met hun belangen. Dat geldt vooral nu we innoveren met augmented reality - dat het potentieel heeft om positief bij te dragen aan de manier waarop we werken, winkelen, leren en communiceren. We zullen diezelfde grondwaarden en principes toepassen als we blijven experimenteren met nieuwe technologieën zoals de volgende generatie van augmented reality.
Als we naar de toekomst kijken, zullen computers en technologie steeds meer geïntegreerd worden in ons dagelijks leven. Wij geloven dat regelgeving noodzakelijk is, maar gezien de snelheid waarmee de technologie zich ontwikkelt en de snelheid waarmee regelgeving kan worden geïmplementeerd, kan regelgeving alleen de klus niet klaren. Technologische bedrijven moeten de verantwoordelijkheid nemen en de gemeenschappen die ze dienen actief beschermen.
Als ze dat niet doen, dan moet de regering snel handelen om hen verantwoordelijk te stellen. We steunen volledig de inspanningen van de subcommissie om deze kwesties te onderzoeken en verwelkomen een gezamenlijke aanpak van het oplossen van problemen die onze samenleving veilig houdt.
Ik dank u nogmaals voor de gelegenheid om vandaag voor u te verschijnen en deze kritieke kwesties te bespreken. Ik kijk ernaar uit om uw vragen te beantwoorden.
Terug naar Nieuws