Dnes sa naša viceprezidentka pre globálnu verejnú politiku Jennifer Stoutová pripojila k ďalším technologickým platformám a vypovedala pred Podvýborom pre ochranu spotrebiteľa, bezpečnosť výrobkov a bezpečnosť údajov senátneho Výboru pre obchod o prístupe spoločnosti Snap k ochrane mladých ľudí na našej platforme.

Boli sme vďační za príležitosť vysvetliť podvýboru, ako sme zámerne vytvorili Snapchat odlišne od tradičných platforiem sociálnych médií, ako pracujeme na zabudovaní bezpečnosti a súkromia priamo do dizajnu našej platformy a produktov a kde sa musíme naďalej zlepšovať, aby sme lepšie chránili blaho našej komunity. Vždy sme verili, že máme morálnu zodpovednosť klásť ich záujmy na prvé miesto – a veríme, že všetky technologické spoločnosti musia prevziať zodpovednosť a aktívne chrániť komunity, ktorým slúžia.

Vítame neustále úsilie podvýboru o vyšetrenie týchto kritických otázok – a celé úvodné vyhlásenie Jennifer si môžete prečítať nižšie. Celé svedectvo vo formáte PDF je k dispozíciitu.

****

Svedectvo Jennifer Stoutovej, viceprezidentky pre globálnu verejnú politiku, Snap Inc.

Úvod

Vážený pán predseda Blumenthal, vážená pani členka Blackburnová a členovia podvýboru, ďakujem vám za príležitosť vystúpiť dnes pred vami. Volám sa Jennifer Stoutová a pôsobím ako viceprezidentka pre globálnu verejnú politiku v spoločnosti Snap Inc., materskej spoločnosti aplikácie Snapchat. Je mi cťou a privilégiom byť späť v Senáte 23 rokov po tom, čo som prvýkrát začala svoju kariéru vo verejnej službe ako zamestnankyňa Senátu, tentoraz v úplne inej funkcii – aby som hovorila o prístupe spoločnosti Snap k ochrane súkromia a bezpečnosti, najmä pokiaľ ide o našich najmladších členov komunity. V tejto funkcii pôsobím už takmer päť rokov, po takmer dvoch desaťročiach strávených vo verejnej službe, z ktorých viac ako polovicu som strávila v Kongrese. Mám obrovský rešpekt voči tejto inštitúcii a práci, ktorú vy a vaši zamestnanci robíte, aby ste zabezpečili, že technologické platformy zaistia, aby naša mládež mala bezpečné a zdravé online zážitky.

Zakladatelia aplikácie Snapchat boli súčasťou prvej generácie, ktorá vyrastala so sociálnymi médiami. Podobne ako mnohí ich rovesníci videli, že hoci sociálne médiá dokázali mať pozitívny vplyv, mali aj určité funkcie, ktoré negatívne ovplyvňovali ich priateľstvá. Tieto platformy nabádali ľudí, aby verejne a natrvalo vysielali svoje myšlienky a pocity. Naši zakladatelia videli, ako sa ľudia neustále porovnávajú s ostatnými prostredníctvom „lajkov“ a komentárov, snažia sa prezentovať verziu seba samých prostredníctvom dokonale upravených obrázkov a starostlivo pripravujú svoj obsah kvôli sociálnemu tlaku. Sociálne médiá sa tiež vyvinuli tak, že obsahovali nekonečný prísun neovereného obsahu, ktorý vystavoval ľudí záplave virálneho, zavádzajúceho a škodlivého obsahu.

Snapchat bol vytvorený ako protijed na sociálne médiá. V skutočnosti sa označujeme za spoločnosť vyrábajúcu fotoaparáty. Architektúra aplikácie Snapchat bola zámerne navrhnutá tak, aby ľuďom umožnila vyjadriť celú škálu zážitkov a emócií so svojimi skutočnými priateľmi, nielen pekné a dokonalé momenty. V rokoch formovania našej spoločnosti existovali tri hlavné spôsoby, ktorými náš tím priekopnícky zaviedol nové vynálezy na uprednostnenie súkromia a bezpečnosti online.

Po prvé, rozhodli sme sa, že Snapchat sa bude otvárať do fotoaparátu namiesto do kanála s obsahom. Tým sa vytvorilo prázdne plátno, na ktorom môžu priatelia vizuálne komunikovať spôsobom, ktorý je pohlcujúcejší a kreatívnejší ako posielanie textových správ.

Po druhé, prijali sme silné zásady ochrany súkromia, minimalizácie údajov a myšlienku pominuteľnosti, vďaka čomu sa obrázky predvolene odstraňujú. To umožnilo ľuďom skutočne sa vyjadriť rovnakým spôsobom, ako keby sa len tak stretávali s priateľmi v parku. Sociálne médiá možno normalizovali permanentný záznam online konverzácií, ale v reálnom živote si priatelia nevyťahujú magnetofón, aby zdokumentovali každú jednu konverzáciu pre verejnú spotrebu alebo trvalé uchovanie.

Po tretie, zamerali sme sa na spájanie ľudí, ktorí už boli priateľmi v reálnom živote, tým, že sme vyžadovali, aby sa predvolene obaja Snapchatteri prihlásili k priateľstvu, aby mohli komunikovať. Pretože v reálnom živote sú priateľstvá vzájomné. Nie je to tak, že jedna osoba sleduje druhú, alebo že do našich životov vstupujú náhodní cudzinci bez povolenia alebo pozvania.

Zodpovedný vývoj

Od tých prvých dní sme pracovali na tom, aby sme sa naďalej zodpovedne vyvíjali. Chápajúc potenciálne negatívne účinky sociálnych médií, urobili sme proaktívne rozhodnutia, aby sme zabezpečili, že všetky naše budúce produkty budú odrážať tieto prvotné hodnoty.

Na to sme nemuseli znovu objavovať koleso. Náš tím sa dokázal poučiť z histórie pri riešení výziev, ktoré priniesli nové technológie. Ako sa Snapchat postupom času vyvíjal, pri vývoji častí našej aplikácie, kde mohli používatelia zdieľať obsah, ktorý má potenciál osloviť veľké publikum, sme boli ovplyvnení existujúcimi regulačnými rámcami, ktoré upravujú vysielanie a telekomunikácie. Napríklad, keď sa rozprávate s priateľmi po telefóne, máte vysoké očakávania týkajúce sa súkromia, zatiaľ čo ak ste verejným vysielateľom s potenciálom ovplyvniť myslenie a názory mnohých, podliehate iným štandardom a regulačným požiadavkám.

Táto dichotómia nám pomohla vyvinúť pravidlá pre verejnejšie časti aplikácie Snapchat, ktoré sú inšpirované predpismi o vysielaní. Tieto pravidlá chránia naše publikum a odlišujú nás od iných platforiem. Napríklad Objaviť, naša uzavretá obsahová platforma, kde Snapchatteri získavajú správy a zábavu, obsahuje výlučne obsah buď od profesionálnych mediálnych vydavateľov, ktorí s nami spolupracujú, alebo od umelcov, tvorcov a športovcov, s ktorými sa rozhodneme spolupracovať. Všetci títo poskytovatelia obsahu musia dodržiavať naše Smernice komunity, ktoré sa vzťahujú na všetok obsah na našej platforme. Ale partneri vydavateľov v časti Objaviť musia tiež dodržiavať naše Smernice pre vydavateľov, ktoré zahŕňajú požiadavku, aby bol obsah v prípade potreby overený z hľadiska faktov alebo presnosti a vekovo obmedzený. A v prípade jednotlivých tvorcov v časti Objaviť naše tímy ľudských moderátorov kontrolujú ich príbehy predtým, ako povolíme ich propagáciu na platforme. Hoci používame algoritmy na zobrazovanie obsahu na základe individuálnych záujmov, sú aplikované na obmedzený a preverený súbor obsahu, čo je odlišný prístup od iných platforiem.

V časti Stred záujmu, kde môžu tvorcovia odosielať kreatívne a zábavné videá na zdieľanie so širšou komunitou Snapchat, je všetok obsah najprv automaticky skontrolovaný umelou inteligenciou pred akoukoľvek distribúciou a potom je skontrolovaný a moderovaný človekom predtým, ako ho môže vidieť viac ako 25 ľudí. Robí sa to s cieľom znížiť riziko šírenia dezinformácií, nenávistných prejavov alebo iného potenciálne škodlivého obsahu.

Nie vždy sa nám to podarí na prvýkrát, a preto prepracovávame časti aplikácie Snapchat, keď nezodpovedajú našim hodnotám. To sa stalo v roku 2017, keď sme zistili, že jeden z našich produktov, Príbehy, vyvolával v Snapchatteroch pocit, že musia súťažiť s celebritami a influencermi o pozornosť, pretože obsah od celebrít a priateľov bol spojený v rovnakom používateľskom rozhraní. Na základe tohto pozorovania sme sa rozhodli oddeliť „sociálny“ obsah vytvorený priateľmi od „mediálneho“ obsahu vytvoreného celebritami, aby sme pomohli znížiť sociálne porovnávanie na našej platforme. Tento redizajn negatívne ovplyvnil rast našich používateľov v krátkodobom horizonte, ale pre našu komunitu to bola správna vec.

Ochrana mladých ľudí v aplikácii Snapchat

Naše poslanie – umožniť ľuďom vyjadriť sa, žiť v prítomnom okamihu, učiť sa o svete a baviť sa spolu – formovalo základnú architektúru aplikácie Snapchat. Dodržiavanie tohto poslania nám umožnilo vytvoriť platformu, ktorá odráža ľudskú povahu a podporuje skutočné priateľstvá. Naďalej ovplyvňuje naše dizajnové procesy a princípy, naše zásady a postupy a zdroje a nástroje, ktoré poskytujeme našej komunite. A podporuje naše neustále úsilie o zlepšenie spôsobu, akým riešime neodmysliteľné riziká a výzvy spojené s obsluhou veľkej online komunity.

Obrovskou súčasťou napĺňania nášho poslania je budovanie a udržiavanie dôvery s našou komunitou a partnermi, ako aj s rodičmi, zákonodarcami a odborníkmi na bezpečnosť. Tieto vzťahy boli vybudované prostredníctvom premyslených a konzistentných rozhodnutí, ktoré sme urobili, aby sme súkromie a bezpečnosť postavili do centra nášho procesu navrhovania produktov.

Napríklad sme prijali zodpovedné princípy dizajnu, ktoré zohľadňujú súkromie a bezpečnosť nových produktov a funkcií hneď od začiatku vývojového procesu. A tieto princípy sme uviedli do života prostredníctvom prísnych procesov. Každá nová funkcia v aplikácii Snapchat prechádza definovanou kontrolou súkromia a bezpečnosti, ktorú vykonávajú tímy v celej spoločnosti Snap – vrátane dizajnérov, dátových vedcov, inžinierov, produktových manažérov, produktových právnikov, vedúcich politík a inžinierov pre ochranu súkromia – dlho predtým, ako uzrie svetlo sveta.

Hoci viac ako 80 % našej komunity v Spojených štátoch má 18 alebo viac rokov, vynaložili sme obrovské množstvo času a zdrojov na ochranu tínedžerov. Urobili sme premyslené a zámerné rozhodnutia, aby sme uplatnili dodatočné zásady ochrany súkromia a bezpečnosti a princípy dizajnu, ktoré pomáhajú udržať tínedžerov v bezpečí. To zahŕňa:

• Zohľadňovanie jedinečných citlivých miest a úvah o maloletých pri navrhovaní produktov.Preto zámerne sťažujeme cudzím ľuďom vyhľadávanie maloletých tým, že zakazujeme verejné profily pre osoby mladšie ako 18 rokov a zavádzame funkciu na obmedzenie vyhľadateľnosti maloletých v časti Rýchle pridanie (návrhy priateľov). A preto už dlho používame nástroje na vekové obmedzenie, aby sme zabránili maloletým v prezeraní vekovo regulovaného obsahu a reklám.

• Posilnenie postavenia Snapchatterov poskytovaním konzistentných a ľahko použiteľných ovládacích prvkovako je predvolené vypnutie zdieľania polohy a ponúkanie zjednodušeného nahlasovania v aplikácii, aby používatelia mohli nahlásiť znepokojujúci obsah alebo správanie našim tímom pre dôveru a bezpečnosť. Po nahlásení sa väčšina obsahu spracuje do 2 hodín, aby sa minimalizoval potenciál škody.

• Práca na vývoji nástrojov, ktoré poskytnú rodičom väčší dohľad bez toho, aby sa obetovalo súkromie— vrátane plánov poskytnúť rodičom možnosť zobraziť si priateľov svojho tínedžera, spravovať ich nastavenia súkromia a polohy a vidieť, s kým sa rozprávajú.

• Investovanie do vzdelávacích programov a iniciatív, ktoré podporujú bezpečnosť a duševné zdravie našej komunity— ako napríklad Kontrola priateľov a Sme tu pre teba. Kontrola priateľov vyzýva Snapchatterov, aby si skontrolovali, s kým sú priatelia, a uistili sa, že zoznam tvoria ľudia, ktorých poznajú a s ktorými chcú byť stále v kontakte. Sme tu pre teba poskytuje podporu používateľom, ktorí môžu prežívať duševné alebo emocionálne krízy, poskytovaním nástrojov a zdrojov od odborníkov.

• Zabránenie používaniu neplnoletými osobami.Nevynakladáme žiadne úsilie – a nemáme žiadne plány – na marketing zameraný na deti a osobám mladším ako 13 rokov nie je dovolené vytvárať si účty Snapchat. Pri registrácii účtu sú jednotlivci povinní uviesť svoj dátum narodenia a proces registrácie zlyhá, ak používateľ zadá vek nižší ako 13 rokov. Zaviedli sme tiež nové bezpečnostné opatrenie, ktoré zabraňuje používateľom aplikácie Snapchat vo veku 13 – 17 rokov s existujúcimi účtami aktualizovať si narodeniny na vek 18 alebo viac. Konkrétne, ak sa neplnoletá osoba pokúsi zmeniť svoj rok narodenia na vek nad 18 rokov, zabránime tejto zmene, aby sme zabezpečili, že používatelia nebudú mať prístup k vekovo nevhodnému obsahu v rámci aplikácie Snapchat.

Záver a pohľad do budúcnosti

Neustále sa snažíme hľadať nové spôsoby, ako udržať našu komunitu v bezpečí, a máme pred sebou ešte veľa práce. Vieme, že online bezpečnosť je spoločná zodpovednosť, ktorá zahŕňa množstvo sektorov a aktérov. Sme odhodlaní robiť svoju časť v spolupráci s bezpečnostnými partnermi vrátane nášho Bezpečnostného poradného výboru, kolegov z technologického priemyslu, vlády a občianskej spoločnosti. Od technologicky zameraných a osvetových iniciatív až po výskum a zdieľanie najlepších postupov sa aktívne zapájame do organizácií, ktoré sa venujú ochrane maloletých online. Vieme tiež, že v našom odvetví existuje mnoho zložitých problémov a technických výziev, vrátane overovania veku maloletých, a naďalej sme odhodlaní spolupracovať s partnermi a tvorcami politík na identifikácii robustných celoodvetvových riešení.

Ochrana blaha Snapchatterov je niečo, k čomu pristupujeme s pokorou aj neochvejným odhodlaním. Viac ako 500 miliónov ľudí na celom svete používa Snapchat každý mesiac a hoci 95 % našich používateľov tvrdí, že vďaka aplikácii Snapchat sa cítia šťastní, máme morálnu zodpovednosť brať do úvahy ich najlepšie záujmy vo všetkom, čo robíme. To platí najmä vtedy, keď inovujeme s rozšírenou realitou – ktorá má potenciál pozitívne prispieť k spôsobu, akým pracujeme, nakupujeme, učíme sa a komunikujeme. Budeme uplatňovať tie isté zakladajúce hodnoty a princípy, keď budeme pokračovať v experimentovaní s novými technológiami, ako je ďalšia generácia rozšírenej reality.

Keď sa pozrieme do budúcnosti, výpočtová technika a technológie sa budú čoraz viac integrovať do nášho každodenného života. Veríme, že regulácia je nevyhnutná, ale vzhľadom na rýchlosť, akou sa technológia vyvíja, a na tempo, akým sa dá regulácia implementovať, samotná regulácia túto prácu nezvládne. Technologické spoločnosti musia prevziať zodpovednosť a aktívne chrániť komunity, ktorým slúžia.

Ak tak neurobia, vláda musí konať rýchlo, aby ich brala na zodpovednosť. Plne podporujeme úsilie podvýboru o vyšetrenie týchto otázok a vítame spoločný prístup k riešeniu problémov, ktorý udržiava našu spoločnosť v bezpečí.

Ešte raz vám ďakujem za príležitosť vystúpiť dnes pred vami a diskutovať o týchto kritických otázkach. Teším sa na vaše otázky.