Dnes se naše viceprezidentka pro globální veřejnou politiku Jennifer Stout připojila k dalším technologickým platformám, aby svědčila před podvýborem Senátního výboru pro obchod, ochranu spotřebitelů, bezpečnost výrobků a zabezpečení dat o přístupu společnosti Snap k ochraně mladých lidí na naší platformě.

Byli jsme vděční za příležitost vysvětlit podvýboru, jak jsme záměrně vytvořili Snapchat jinak než tradiční platformy sociálních médií, jak pracujeme na tom, abychom bezpečnost a soukromí zabudovali přímo do designu naší platformy a produktů, a kde se musíme nadále zlepšovat, abychom lépe chránili blaho naší komunity. Vždy jsme věřili, že máme morální odpovědnost klást jejich zájmy na první místo – a věříme, že všechny technologické společnosti musí převzít odpovědnost a aktivně chránit komunity, kterým slouží.

Vítáme pokračující úsilí podvýboru o prošetření těchto kritických otázek – a celé úvodní prohlášení Jennifer si můžete přečíst níže. PDF celého svědectví je k dispozicizde.

****

Svědectví Jennifer Stout, viceprezidentky pro globální veřejnou politiku, Snap Inc.

Úvod

Pane předsedo Blumenthale, vážená členko Blackburnová a členové podvýboru, děkuji vám za příležitost dnes před vámi vystoupit. Jmenuji se Jennifer Stout a působím jako viceprezidentka pro globální veřejnou politiku ve společnosti Snap Inc., mateřské společnosti Snapchatu. Je mi ctí a výsadou být zpět v Senátu 23 let poté, co jsem poprvé začala svou kariéru ve veřejné službě jako zaměstnankyně Senátu, tentokrát v mnohem jiné funkci – abych hovořila o přístupu společnosti Snap k soukromí a bezpečnosti, zejména pokud jde o naše nejmladší členy komunity. V této roli působím téměř pět let, poté, co jsem strávila téměř dvě desetiletí ve veřejné službě, z nichž více než polovinu jsem strávila v Kongresu. Mám obrovský respekt k této instituci a k práci, kterou vy a vaši zaměstnanci děláte, abyste zajistili, že technologické platformy zajistí, aby naše mládež měla bezpečné a zdravé online zážitky.

Abychom pochopili přístup společnosti Snap k ochraně mladých lidí na naší platformě, je užitečné začít od začátku. Zakladatelé Snapchatu byli součástí první generace, která vyrůstala se sociálními médii. Stejně jako mnoho jejich vrstevníků viděli, že zatímco sociální média byla schopna mít pozitivní dopad, měla také určité funkce, které negativně ovlivňovaly jejich přátelství. Tyto platformy povzbuzovaly lidi, aby veřejně a trvale vysílali své myšlenky a pocity. Naši zakladatelé viděli, jak se lidé neustále měří s ostatními prostřednictvím „lajků“ a komentářů, snaží se prezentovat verzi sebe sama prostřednictvím dokonale upravených obrázků a pečlivě připravují svůj obsah kvůli sociálnímu tlaku. Sociální média se také vyvinula tak, aby obsahovala nekonečný přísun neprověřeného obsahu, který lidi vystavoval záplavě virálního, zavádějícího a škodlivého obsahu.

Snapchat byl vytvořen jako protijed na sociální média. Ve skutečnosti se popisujeme jako společnost vyrábějící fotoaparáty. Architektura Snapchatu byla záměrně navržena tak, aby lidem umožnila vyjádřit celou škálu zážitků a emocí se svými skutečnými přáteli, nejen hezké a dokonalé okamžiky. V formativních letech naší společnosti existovaly tři hlavní způsoby, jak náš tým zavedl nové vynálezy s cílem upřednostnit online soukromí a bezpečnost.

Zaprvé jsme se rozhodli, že se Snapchat bude otevírat do fotoaparátu místo do kanálu s obsahem. To vytvořilo prázdné plátno pro přátele, aby spolu mohli vizuálně komunikovat způsobem, který je více pohlcující a kreativní než posílání textových zpráv.

Zadruhé jsme přijali silné zásady ochrany osobních údajů, minimalizaci dat a myšlenku pomíjivosti, takže obrázky se ve výchozím nastavení mažou. To lidem umožnilo skutečně se vyjádřit stejným způsobem, jako by se jen tak bavili v parku se svými přáteli. Sociální média možná normalizovala trvalý záznam online konverzací, ale v reálném životě si přátelé nevytahují magnetofon, aby zdokumentovali každou jednotlivou konverzaci pro veřejnou spotřebu nebo trvalé uchování.

Zatřetí jsme se zaměřili na propojování lidí, kteří již byli přáteli v reálném životě, tím, že jsme požadovali, aby se ve výchozím nastavení oba Snapchatterři přihlásili k přátelství, aby mohli komunikovat. Protože v reálném životě jsou přátelství vzájemná. Není to tak, že jedna osoba sleduje druhou, nebo že do našich životů vstupují náhodní cizinci bez povolení nebo pozvání.

Zodpovědný vývoj

Od těch raných dnů jsme pracovali na tom, abychom se i nadále zodpovědně vyvíjeli. Chápali jsme potenciální negativní dopady sociálních médií a učinili jsme proaktivní rozhodnutí, abychom zajistili, že všechny naše budoucí produkty budou odrážet tyto rané hodnoty.

Nemuseli jsme kvůli tomu znovu vynalézat kolo. Náš tým se dokázal poučit z historie, když čelil výzvám, které přinášejí nové technologie. Jak se Snapchat postupem času vyvíjel, byli jsme při vývoji částí naší aplikace, kde mohli uživatelé sdílet obsah, který má potenciál oslovit velké publikum, ovlivněni stávajícími regulačními rámci, které řídí vysílání a telekomunikace. Například když mluvíte se svými přáteli po telefonu, máte vysoké očekávání soukromí, zatímco pokud jste veřejný vysílatel s potenciálem ovlivnit mysl a názory mnoha lidí, jste v souladu s jinými standardy a regulačními požadavky.

Tato dichotomie nám pomohla vyvinout pravidla pro veřejnější části Snapchatu, která jsou inspirována předpisy pro vysílání. Tato pravidla chrání naše publikum a odlišují nás od ostatních platforem. Například Objevujte, naše uzavřená obsahová platforma, kde Snapchatterři získávají zprávy a zábavu, obsahuje výhradně obsah buď od profesionálních mediálních vydavatelů, kteří s námi spolupracují, nebo od umělců, tvůrců a sportovců, se kterými se rozhodneme spolupracovat. Všichni tito poskytovatelé obsahu se musí řídit našimi Pokyny pro komunitu, které se vztahují na veškerý obsah na naší platformě. Partneři vydavatelů na platformě Objevujte se však musí řídit také našimi Pokyny pro vydavatele, které zahrnují požadavek, aby byl obsah ověřen z hlediska faktů nebo přesnosti a v případě potřeby byl věkově omezen. A u jednotlivých tvůrců na platformě Objevujte naše týmy lidských moderátorů kontrolují jejich příběhy, než jim umožníme propagaci na platformě. I když používáme algoritmy k zobrazování obsahu na základě individuálních zájmů, jsou aplikovány na omezený a prověřený soubor obsahu, což je odlišný přístup od jiných platforem.

Na platformě To nejlepší, kam mohou tvůrci zasílat kreativní a zábavná videa ke sdílení s širší komunitou Snapchatu, je veškerý obsah nejprve automaticky zkontrolován umělou inteligencí, než získá jakoukoli distribuci, a poté je zkontrolován a moderován člověkem, než jej může zobrazit více než 25 lidí. Děje se tak, abychom snížili riziko šíření dezinformací, nenávistných projevů nebo jiného potenciálně škodlivého obsahu.

Ne vždy se nám to podaří napoprvé, a proto přepracováváme části Snapchatu, když neodpovídají našim hodnotám. To se stalo v roce 2017, kdy jsme zjistili, že jeden z našich produktů, Příběhy, způsobuje, že Snapchatterři mají pocit, že musí soutěžit o pozornost s celebritami a influencery, protože obsah od celebrit a přátel byl spojen ve stejném uživatelském rozhraní. Na základě tohoto zjištění jsme se rozhodli oddělit „sociální“ obsah vytvořený přáteli od „mediálního“ obsahu vytvořeného celebritami, abychom pomohli omezit sociální srovnávání na naší platformě. Tento redesign krátkodobě negativně ovlivnil růst našich uživatelů, ale pro naši komunitu to bylo správné rozhodnutí.

Ochrana mladých lidí na Snapchatu

Naše poslání – umožnit lidem vyjádřit se, žít v přítomném okamžiku, poznávat svět a bavit se společně – formovalo základní architekturu Snapchatu. Dodržování tohoto poslání nám umožnilo vytvořit platformu, která odráží lidskou povahu a podporuje skutečná přátelství. I nadále ovlivňuje naše návrhové procesy a principy, naše zásady a postupy a zdroje a nástroje, které poskytujeme naší komunitě. A podporuje naše neustálé úsilí o zlepšení způsobu, jakým řešíme neodmyslitelná rizika a výzvy spojené s obsluhou velké online komunity.

Obrovskou součástí naplňování našeho poslání bylo budování a udržování důvěry s naší komunitou a partnery, stejně jako s rodiči, zákonodárci a bezpečnostními experty. Tyto vztahy byly vybudovány prostřednictvím promyšlených a konzistentních rozhodnutí, která jsme učinili, abychom soukromí a bezpečnost postavili do středu našeho procesu návrhu produktu.

Například jsme přijali zásady zodpovědného designu, které zohledňují soukromí a bezpečnost nových produktů a funkcí hned od začátku vývojového procesu. A tyto principy jsme uvedli v život prostřednictvím přísných procesů. Každá nová funkce ve Snapchatu prochází definovanou kontrolou soukromí a bezpečnosti, kterou provádějí týmy napříč společností Snap – včetně designérů, datových vědců, inženýrů, produktových manažerů, produktových právníků, vedoucích politiky a inženýrů pro ochranu soukromí – dlouho předtím, než spatří světlo světa.

Ačkoli více než 80 % naší komunity ve Spojených státech je starších 18 let, věnovali jsme obrovské množství času a zdrojů na ochranu teenagerů. Učinili jsme promyšlená a záměrná rozhodnutí, abychom uplatnili další zásady ochrany soukromí a bezpečnosti a principy designu, které pomáhají udržet teenagery v bezpečí. To zahrnuje:

• Zohlednění jedinečné citlivosti a ohledů na nezletilé při navrhování produktů.Proto záměrně ztěžujeme cizím lidem vyhledávání nezletilých tím, že zakazujeme veřejné profily pro osoby mladší 18 let a zavádíme funkci pro omezení dohledatelnosti nezletilých v Rychlém přidání (návrhy přátel). A proto již dlouho používáme nástroje pro věkové omezení, abychom zabránili nezletilým v zobrazování věkově regulovaného obsahu a reklam.

• Posílení postavení Snapchatterů poskytováním konzistentních a snadno použitelných ovládacích prvkůjako je výchozí vypnutí sdílení polohy a nabídka zjednodušeného hlášení v aplikaci, aby uživatelé mohli hlásit znepokojivý obsah nebo chování našim týmům pro důvěru a bezpečnost. Po nahlášení je většina obsahu zpracována do 2 hodin, aby se minimalizoval potenciál škody.

• Práce na vývoji nástrojů, které rodičům poskytnou větší dohled, aniž by byla obětována ochrana soukromí– včetně plánů poskytnout rodičům možnost zobrazit si přátele svého dospívajícího, spravovat jeho nastavení soukromí a polohy a vidět, s kým si povídá.

• Investice do vzdělávacích programů a iniciativ, které podporují bezpečnost a duševní zdraví naší komunity– jako je Kontrola přátel a Jsme tu pro tebe. Kontrola přátel vyzývá Snapchattery, aby si zkontrolovali, s kým jsou přátelé, a ujistili se, že seznam tvoří lidé, které znají a se kterými chtějí být stále ve spojení. Jsme tu pro tebe poskytuje podporu uživatelům, kteří mohou prožívat duševní nebo emocionální krizi, tím, že poskytuje nástroje a zdroje od odborníků.

• Předcházení používání nezletilými.Nevyvíjíme žádné úsilí – a nemáme žádné plány – na marketing zaměřený na děti a osobám mladším 13 let není povoleno vytvářet účty na Snapchatu. Při registraci účtu jsou jednotlivci povinni uvést své datum narození a proces registrace se nezdaří, pokud uživatel zadá věk nižší než 13 let. Zavedli jsme také nové bezpečnostní opatření, které brání uživatelům Snapchatu ve věku 13–17 let s existujícími účty v aktualizaci jejich data narození na věk 18 let nebo vyšší. Konkrétně, pokud se nezletilý pokusí změnit svůj rok narození na věk nad 18 let, změně zabráníme, abychom zajistili, že uživatelé nebudou mít přístup k obsahu nevhodnému pro jejich věk v rámci Snapchatu.

Závěr a pohled do budoucna

Neustále se snažíme hledat nové způsoby, jak udržet naši komunitu v bezpečí, a máme před sebou ještě mnoho práce. Víme, že online bezpečnost je sdílenou odpovědností, která zahrnuje řadu odvětví a aktérů. Jsme odhodláni plnit svou úlohu ve spolupráci s bezpečnostními partnery, včetně naší Rady pro bezpečnost, kolegy z technologického průmyslu, vládou a občanskou společností. Od technologicky zaměřených a osvětových iniciativ až po výzkum a sdílení osvědčených postupů se aktivně zapojujeme do organizací, které se věnují ochraně nezletilých online. Víme také, že v našem odvětví existuje mnoho složitých problémů a technických výzev, včetně ověřování věku nezletilých, a jsme i nadále odhodláni spolupracovat s partnery a tvůrci politik na identifikaci robustních celoodvětvových řešení.

Ochrana blaha Snapchatterů je něco, k čemu přistupujeme s pokorou i neochvějným odhodláním. Každý měsíc používá Snapchat více než 500 milionů lidí po celém světě, a přestože 95 % našich uživatelů tvrdí, že se díky Snapchatu cítí šťastní, máme morální odpovědnost brát v úvahu jejich nejlepší zájmy ve všem, co děláme. To platí zejména v době, kdy inovujeme s rozšířenou realitou – která má potenciál pozitivně přispět ke způsobu, jakým pracujeme, nakupujeme, učíme se a komunikujeme. Budeme uplatňovat stejné zakládající hodnoty a principy, když budeme pokračovat v experimentování s novými technologiemi, jako je další generace rozšířené reality.

S pohledem do budoucnosti se výpočetní technika a technologie budou stále více integrovat do našich každodenních životů. Věříme, že regulace je nezbytná, ale vzhledem k rychlosti, s jakou se technologie vyvíjí, a rychlosti, s jakou lze regulaci implementovat, regulace sama o sobě práci nezvládne. Technologické společnosti musí převzít odpovědnost a aktivně chránit komunity, kterým slouží.

Pokud tak neučiní, vláda musí jednat rychle, aby je pohnula k odpovědnosti. Plně podporujeme úsilí podvýboru o prošetření těchto otázek a vítáme společný přístup k řešení problémů, který udržuje naši společnost v bezpečí.

Ještě jednou vám děkuji za příležitost dnes před vámi vystoupit a prodiskutovat tyto zásadní otázky. Těším se na vaše dotazy.