Ahoj, komunita Snapchat! Volám sa Jacqueline Beauchere a minulú jeseň som nastúpila do spoločnosti Snap ako prvá globálna vedúca bezpečnosti platformy.

Moja úloha sa zameriava na zlepšenie celkového prístupu spoločnosti Snap k bezpečnosti, vrátane vytvárania nových programov a iniciatív na pomoc pri zvyšovaní povedomia o online rizikách, poradenstva v oblasti interných zásad, produktových nástrojov a funkcií a načúvania a zapájania externých publík – to všetko s cieľom podporiť bezpečnosť a digitálnu pohodu komunity Snapchat.

Keďže moja úloha zahŕňa pomoc obhajcom bezpečnosti, rodičom, pedagógom a ďalším kľúčovým zainteresovaným stranám pochopiť, ako Snapchat funguje, a získať od nich spätnú väzbu, myslela som si, že by mohlo byť užitočné podeliť sa o niektoré z mojich počiatočných poznatkov o aplikácii, o tom, čo ma prekvapilo, a o niekoľko užitočných tipov, ak ste vy alebo niekto z vašich blízkych vášnivý Snapchatter.

Počiatočné poznatky – Snapchat a bezpečnosť

Po viac ako 20 rokoch práce v oblasti online bezpečnosti v spoločnosti Microsoft som videla výraznú zmenu v oblasti rizík. Na začiatku 21. storočia problémy ako spam a phishing poukázali na potrebu zvyšovania povedomia s cieľom pomôcť vzdelávať spotrebiteľov a minimalizovať riziká sociálneho inžinierstva. Nástup platforiem sociálnych médií – a schopnosť ľudí verejne uverejňovať príspevky – zvýšil potrebu zabudovaných bezpečnostných funkcií a moderovania obsahu, aby sa minimalizovalo vystavenie nezákonnému a potenciálne škodlivejšiemu obsahu a aktivitám.

Pred desiatimi rokmi sa na scéne objavil Snapchat. Vedela som, že spoločnosť a aplikácia sú „iné“, ale kým som tu v skutočnosti nezačala pracovať, neuvedomila som si, aké odlišné sú. Od svojho vzniku bol Snapchat navrhnutý tak, aby pomáhal ľuďom komunikovať so svojimi skutočnými priateľmi – teda s ľuďmi, ktorých poznajú „v reálnom živote“ – a nie aby zhromažďoval veľké množstvo známych (alebo neznámych) sledovateľov. Snapchat je postavený na fotoaparáte. V skutočnosti pre Snapchatterov, ktorí nepatria k prvej generácii (ako ja), môže byť samotné rozhranie aplikácie trochu mätúcepretožeotvára sa priamo do fotoaparátu a nie do kanála s obsahom ako tradičné platformy sociálnych médií.

V dizajne aplikácie Snapchat je oveľa viac, než by sa dalo očakávať, a tento premyslený prístup pramení z obrovskej hodnoty, ktorú spoločnosť prikladá bezpečnosti a súkromiu. Bezpečnosť je súčasťou DNA spoločnosti a je zakotvená v jej poslaní: umožniť ľuďom vyjadrovať sa, žiť v danom okamihu, spoznávať svet a baviť sa spolu. Pokiaľ sa ľudia nebudú cítiť bezpečne, nebudú sa cítiť pohodlne pri slobodnom vyjadrovaní sa pri spájaní s priateľmi.

Presvedčenie, že technológia by mala byť vytvorená tak, aby odrážala správanie a dynamiku ľudí v reálnom živote, je v spoločnosti Snap hnacou silou. Je to dôležité aj z hľadiska bezpečnosti. Napríklad v predvolenom nastavení vás na Snapchate nemôže kontaktovať hocikto; dvaja ľudia sa musia navzájom kladne prijať za priateľov, kým môžu začať priamo komunikovať, podobne ako priatelia komunikujú v reálnom živote.

Spoločnosť Snap uplatňuje pri vývoji nových funkcií princípy ochrany súkromia už od návrhu a bola jednou z prvých platforiem, ktorá schválila a prijala princíp bezpečnosti už od návrhu, čo znamená, že bezpečnosť sa zohľadňuje vo fáze návrhu našich funkcií – žiadne dodatočné úpravy alebo pridávanie bezpečnostných mechanizmov po zavedení. Spôsob, akým by sa produkt alebo funkcia mohli zneužiť z hľadiska bezpečnosti, sa primerane zvažuje už v najskorších fázach vývoja.

Čo ma prekvapilo – kontext niektorých kľúčových funkcií

Vzhľadom na môj čas strávený v oblasti online bezpečnosti a prácu v celom odvetví som počula niekoľko obáv týkajúcich sa aplikácie Snapchat. Nižšie uvádzam niekoľko príkladov a to, čo som sa za posledných pár mesiacov naučila.

Obsah, ktorý sa predvolene odstraňuje

Snapchat je pravdepodobne najznámejší vďaka jednej zo svojich prvých inovácií: obsahu, ktorý sa predvolene odstraňuje. Podobne ako ostatní, aj ja som si o tejto funkcii urobila vlastné predpoklady a, ako sa ukázalo, je to niečo iné, ako som pôvodne predpokladala. Navyše odráža dynamiku priateľov v reálnom živote.

Prístup aplikácie Snapchat je založený na dizajne zameranom na človeka. V reálnom živote sa rozhovory medzi priateľmi neukladajú, neprepisujú ani nezaznamenávajú navždy. Väčšina z nás je pokojnejšia a môže byť sama sebou, keď vieme, že nebudeme súdení za každé slovo, ktoré povieme, alebo za každý obsah, ktorý vytvoríme.

Jedna mylná predstava, ktorú som počula, je, že prístup aplikácie Snapchat k odstraňovaniu obsahu v predvolenom nastavení znemožňuje prístup k dôkazom o nezákonnom správaní pre účely trestného vyšetrovania. To nie je správne. Spoločnosť Snap má možnosť a aj uchováva obsah existujúci na účte, keď nám orgány činné v trestnom konaní zašlú zákonnú žiadosť o uchovanie. Viac informácií o tom, ako sa odstraňujú Snapy a Čety, nájdete vtomto článku.

Cudzí ľudia nachádzajúci tínedžerov

Prirodzenou obavou každého rodiča, pokiaľ ide o online interakcie, je, ako si cudzí ľudia môžu nájsť ich tínedžerov. Opäť platí, že Snapchat je určený na komunikáciu medzi skutočnými priateľmi; neuľahčuje spojenie s neznámymi ľuďmi ako niektoré platformy sociálnych médií. Keďže aplikácia bola vytvorená na komunikáciu s ľuďmi, ktorých už poznáme, je pre cudzích ľudí zložité nájsť a kontaktovať konkrétne osoby. Vo všeobecnosti platí, že ľudia, ktorí komunikujú na Snapchate, sa už navzájom prijali za priateľov. Okrem toho spoločnosť Snap pridala ochranu, aby bolo pre cudzích ľudí ešte ťažšie nájsť neplnoleté osoby, napríklad zakázaním verejných profilov pre osoby mladšie ako 18 rokov. Snapchat umožňuje neplnoletým osobám zobrazovať sa v zoznamoch návrhov priateľov (Rýchle pridanie) alebo vo výsledkoch vyhľadávania, len ak majú spoločných priateľov.

Novším nástrojom, na ktorý chceme upozorniť rodičov a opatrovateľov, je Kontrola priateľov, ktorá vyzýva Snapchatterov, aby si skontrolovali svoje zoznamy priateľov a potvrdili, že tí, ktorí sú v nich zahrnutí, sú stále ľudia, s ktorými chcú byť v kontakte. Tých, s ktorými už nechcete komunikovať, môžete jednoducho odstrániť.

Snap mapa a zdieľanie polohy

V tejto súvislosti som počula obavy týkajúce sa funkcie Snap mapa – personalizovanej mapy, ktorá umožňuje Snapchatterom zdieľať svoju polohu s priateľmi a nájsť lokálne relevantné miesta a udalosti, ako sú reštaurácie a predstavenia. V predvolenom nastavení sú nastavenia polohy na funkcii Snap mapa pre všetkých Snapchatterov nastavené ako súkromné (Režim duchov). Snapchatteri majú možnosť zdieľať svoju polohu, ale môžu tak urobiť len s tými, ktorých si už prijali za priateľov – a môžu sa rozhodovať o zdieľaní polohy pre každého priateľa zvlášť. Nejde o prístup „všetko alebo nič“ k zdieľaniu polohy s priateľmi. Ďalšie plus funkcie Snap mapa pre bezpečnosť a súkromie: Ak ľudia nepoužívali Snapchat niekoľko hodín, už nie sú pre svojich priateľov na mape viditeľní.

Z hľadiska bezpečnosti je najdôležitejšie, že Snapchatter nemôže zdieľať svoju polohu na mape s niekým, s kým nie je priateľ, a Snapchatteri majú plnú kontrolu nad tým, s ktorými priateľmi sa rozhodnú zdieľať svoju polohu, alebo či ju vôbec chcú zdieľať.

Škodlivý obsah

Spoločnosť sa už na začiatku zámerne rozhodla pristupovať odlišne k súkromnej komunikácii medzi priateľmi a k verejnému obsahu, ktorý je dostupný širšiemu publiku. Vo verejnejších častiach aplikácie Snapchat, kde je pravdepodobné, že materiál uvidí väčšie publikum, je obsah kurátorovaný alebo vopred moderovaný, aby sa zabránilo „virálnemu šíreniu“ potenciálne škodlivého materiálu. Do tejto kategórie patria dve časti aplikácie Snapchat: Objavovanie, ktoré zahŕňa obsah od preverených vydavateľov médií a tvorcov obsahu, a Stred záujmu, kde Snapchatteri zdieľajú svoj vlastný zábavný obsah s väčšou komunitou.

V časti Stred záujmu je všetok obsah kontrolovaný automatizovanými nástrojmi, ale potom prechádza ďalšou vrstvou ľudského moderovania, kým ho môže vidieť, v súčasnosti, viac ako niekoľko desiatok ľudí. To pomáha zabezpečiť, aby obsah bol v súlade so zásadami a usmerneniami aplikácie Snapchat, a pomáha zmierniť riziká, ktoré mohli byť pri automatickom moderovaní prehliadnuté. Tým, že sa spoločnosť Snap snaží kontrolovať virálnosť, znižuje príťažlivosť verejného uverejňovania nezákonného alebo potenciálne škodlivého obsahu, čo následne vedie k výrazne nižšej miere vystavenia nenávistným prejavom, sebapoškodzovaniu a násilnému extrémistickému materiálu, aby sme uviedli niekoľko príkladov – v porovnaní s inými platformami sociálnych médií.

Vystavenie drogám

Snapchat je jednou z mnohých online platforiem, ktoré díleri drog celosvetovo zneužívajú, a ak ste videli akékoľvek mediálne správy o rodičoch a rodinných príslušníkoch, ktorí prišli o deti kvôli falošnej tabletke s obsahom fentanylu, viete si predstaviť, aká srdcervúca a desivá táto situácia môže byť. My to určite chápeme a súcitíme s tými, ktorí prišli o svojich blízkych v dôsledku tejto desivej epidémie.

Za posledný rok spoločnosť Snap agresívne a komplexne rieši problém fentanylu a obsahu súvisiaceho s drogami tromi kľúčovými spôsobmi:

• Vývoj a nasadenie novej technológie na odhaľovanie aktivít súvisiacich s drogami na Snapchate s cieľom následne identifikovať a odstrániť dílerov drog, ktorí zneužívajú platformu;

• Posilnenie a prijatie krokov na podporu našich vyšetrovaní orgánov činných v trestnom konaní, aby orgány mohli rýchlo postaviť páchateľov pred súd; a

• Zvyšovanie povedomia o nebezpečenstvách fentanylu u Snapchatterov prostredníctvom verejných oznámení a vzdelávacieho obsahu priamo v aplikácii. (Viac o všetkých týchto snahách sa môžete dozvedieťtu.)

Sme odhodlaní urobiť zo Snapchatu nepriateľské prostredie pre aktivity súvisiace s drogami a v nasledujúcich mesiacoch budeme v tejto práci pokračovať. Medzitým je dôležité, aby rodičia, opatrovatelia a mladí ľudia pochopili všadeprítomnú hrozbu potenciálne smrteľne nebezpečných falošných drog, ktorá sa rozšírila na online platformách, a aby sa o nebezpečenstvách a o tom, ako zostať v bezpečí, rozprávali s rodinou a priateľmi.

Spoločnosť Snap má v roku 2022 v oblasti bezpečnosti a ochrany súkromia naplánovaných veľa vecí, vrátane spustenia nových výskumov a bezpečnostných funkcií, ako aj vytvorenia nových zdrojov a programov na informovanie a posilnenie našej komunity, aby si osvojila bezpečnejšie a zdravšie digitálne postupy. Na zdravie na začiatok produktívneho nového roka plného učenia, zapojenia, bezpečnosti a zábavy!

- Jacqueline Beauchere, globálna vedúca bezpečnosti platformy