Здравейте, общност на Snapchat! Казвам се Жаклин Бошер и се присъединих към Snap миналата есен като първия глобален ръководител на компанията за безопасност на платформата.

Моята роля е съсредоточена върху подобряването на цялостния подход на Snap към безопасността, включително създаване на нови програми и инициативи за повишаване на осведомеността за онлайн рисковете; консултиране по вътрешни политики, продуктови инструменти и функции; и изслушване и ангажиране с външни аудитории – всичко това в подкрепа на безопасността и цифровото благополучие на общността на Snapchat.

Тъй като ролята ми включва подпомагане на защитниците на безопасността, родителите, преподавателите и други ключови заинтересовани страни да разберат как работи Snapchat и да поискам тяхната обратна връзка, си помислих, че може да е полезно да споделя някои от първоначалните си познания за приложението; какво ме изненада; и някои полезни съвети, ако вие или някой ваш близък е запален потребител в Snapchat.

Първоначални познания – Snapchat и безопасност

След повече от 20 години работа в областта на онлайн безопасността в Microsoft, видях значителна промяна в рисковата среда. В началото на 2000-те години проблеми като спам и фишинг подчертаха необходимостта от повишаване на осведомеността, за да се помогне на потребителите да се образоват и да се сведат до минимум рисковете от социално инженерство. Появата на платформите на социалните медии – и способността на хората да публикуват публично – увеличи необходимостта от вградени функции за безопасност и модериране на съдържание, за да се сведе до минимум излагането на незаконно и потенциално по-вредно съдържание и дейност.

Преди десет години Snapchat се появи на сцената. Знаех, че компанията и приложението са „различни“, но докато не започнах да работя тук, не осъзнавах колко различни са те. От самото си създаване Snapchat е проектиран да помага на хората да общуват с истинските си приятели, т.е. с хора, които познават „в реалния живот“, а не да събират голям брой познати (или непознати) последователи. Snapchat е изграден около камерата. Всъщност за потребителите в Snapchat, които не са от първо поколение (като мен), самият интерфейс на приложението може да бъде малко объркващзащотосе отваря директно към камера, а не към емисия със съдържание като традиционните платформи за социални медии.

В дизайна на Snapchat е вложено много повече, отколкото може да се очаква, и този обмислен подход произтича от огромната стойност, която компанията отдава на безопасността и поверителността. Безопасността е част от ДНК-то на компанията и е заложена в нейната мисия: да даде възможност на хората да се изразяват, да живеят в момента, да научават за света и да се забавляват заедно. Освен ако хората не се чувстват в безопасност, те няма да се чувстват комфортно да се изразяват свободно, когато се свързват с приятели.

Убеждението, че технологията трябва да бъде изградена така, че да отразява човешкото поведение и динамика в реалния живот, е движеща сила в Snap. Това е жизненоважно и от гледна точка на безопасността. Например, по подразбиране, не всеки може да се свърже с вас в Snapchat; двама души трябва да се приемат взаимно като приятели, преди да могат да започнат да общуват директно, подобно на начина, по който приятелите си взаимодействат в реалния живот.

Snap прилага принципите на „поверителност по дизайн“ при разработването на нови функции и беше една от първите платформи, които подкрепиха и възприеха „безопасност по дизайн“, което означава, че безопасността се взема предвид във фазата на проектиране на нашите функции – без последващо преоборудване или добавяне на механизми за безопасност. Как даден продукт или функция може да бъде злоупотребен от гледна точка на безопасността се разглежда, по подходящ начин, в най-ранните етапи на разработка.

Какво ме изненада – малко контекст зад някои ключови функции

Предвид времето, прекарано в областта на онлайн безопасността и работата в цялата индустрия, бях чувала някои притеснения относно Snapchat. По-долу са няколко примера и това, което научих през последните няколко месеца.

Съдържание, което се изтрива по подразбиране

Snapchat е може би най-известен с една от най-ранните си иновации: съдържание, което се изтрива по подразбиране. Подобно на други, аз си направих собствени предположения за тази функция и, както се оказва, тя е нещо различно от това, което първоначално предполагах. Освен това тя отразява динамиката на приятелствата в реалния живот.

Подходът на Snapchat се корени в дизайна, ориентиран към човека. В реалния живот разговорите между приятели не се запазват, транскрибират или записват за вечни времена. Повечето от нас са по-спокойни и могат да бъдат най-автентичните си същности, когато знаем, че няма да бъдем съдени за всяка дума, която казваме, или за всяко съдържание, което създаваме.

Едно погрешно схващане, което съм чувала, е, че подходът на Snapchat за изтриване по подразбиране прави невъзможен достъпа до доказателства за незаконно поведение за целите на наказателни разследвания. Това е невярно. Snap има възможност и запазва съдържание, съществуващо в акаунт, когато правоприлагащите органи ни изпратят законно искане за запазване. За повече информация относно начина на изтриване на Snap-ове и чатове вижтетази статия.

Непознати, които намират тийнейджъри

Естествено притеснение за всеки родител, когато става въпрос за онлайн взаимодействия, е как непознати могат да намерят техните тийнейджъри. Отново, Snapchat е предназначен за комуникация между истински приятели; той не улеснява връзките с непознати хора, както някои платформи за социални медии. Тъй като приложението е създадено за комуникация с хора, които вече познаваме, по дизайн е трудно за непознати да намерят и да се свържат с конкретни лица. Като цяло хората, които общуват в Snapchat, вече са се приели взаимно като приятели. Освен това Snap е добавил защити, за да направи още по-трудно за непознати да намират непълнолетни, като например забрана на публични профили за лица под 18 години. Snapchat позволява на непълнолетните да се показват в списъците с предложения за приятели (Бързо добавяне) или в резултатите от Търсене, само ако имат общи приятели.

По-нов инструмент, за който искаме родителите и настойниците да знаят, е Friend Check-Up (Проверка на приятелите), който подканва потребителите в Snapchat да прегледат списъците си с приятели, за да потвърдят, че включените в тях все още са хора, с които искат да поддържат връзка. Тези, с които вече не искате да общувате, могат лесно да бъдат премахнати.

Карта в Snap и споделяне на местоположение

В същия дух съм чувала притеснения относно Карта в Snap – персонализирана карта, която позволява на потребителите в Snapchat да споделят местоположението си с приятели и да намират подходящи за района места и събития, като ресторанти и представления. По подразбиране настройките за местоположение в Карта в Snap са зададени като частни (Призрачен режим) за всички потребители в Snapchat. Потребителите в Snapchat имат възможност да споделят местоположението си, но могат да го правят само с други, които вече са приели за приятели – и могат да вземат решения за споделяне на местоположението, специфични за всеки приятел. Това не е подход „всичко или нищо“ за споделяне на местоположението с приятели. Още един плюс на Карта в Snap за безопасността и поверителността: ако хората не са използвали Snapchat в продължение на няколко часа, те вече не са видими за приятелите си на картата.

Най-важното от гледна точка на безопасността е, че няма възможност потребител в Snapchat да сподели местоположението си на картата с някого, с когото не е приятел, и потребителите в Snapchat имат пълен контрол над приятелите, с които избират да споделят местоположението си, или дали изобщо искат да го споделят.

Вредно съдържание

Още в началото компанията взе умишлено решение да третира по различен начин личните комуникации между приятели и публичното съдържание, достъпно за по-широка аудитория. В по-публичните части на Snapchat, където материалът е вероятно да бъде видян от по-голяма аудитория, съдържанието се подбира или модерира предварително, за да се предотврати „вирусното“ разпространение на потенциално вреден материал. Две части на Snapchat попадат в тази категория: Разглеждане, което включва съдържание от проверени медийни издатели и създатели на съдържание, и Акценти, където потребителите в Snapchat споделят собствено забавно съдържание с по-голямата общност.

В Акценти цялото съдържание се преглежда с автоматизирани инструменти, но след това преминава през допълнителен слой на човешка модерация, преди да може да бъде видяно, понастоящем, от повече от няколко десетки души. Това помага да се гарантира, че съдържанието е в съответствие с политиките и насоките на Snapchat, и помага за смекчаване на рисковете, които може да са били пропуснати от автоматичната модерация. Като се стреми да контролира вирусното разпространение, Snap намалява привлекателността на публичното публикуване на незаконно или потенциално вредно съдържание, което от своя страна води до значително по-ниски нива на излагане на реч на омразата, самонараняване и насилствен екстремистки материал, за да назовем няколко примера – в сравнение с други платформи за социални медии.

Излагане на наркотици

Snapchat е една от многото онлайн платформи, с които наркодилърите злоупотребяват в световен мащаб и ако сте виждали медийни репортажи за родители и членове на семейства, които са загубили деца заради фалшиво хапче с фентанил, можете да оцените колко сърцераздирателна и ужасяваща може да бъде тази ситуация. Ние със сигурност го правим и сърцата ни са с тези, които са загубили близки в тази плашеща епидемия.

През последната година Snap се бори агресивно и всеобхватно с проблема с фентанила и съдържанието, свързано с наркотици, по три ключови начина:

• Разработване и внедряване на нова технология за откриване на дейности, свързани с наркотици, в Snapchat, за да се идентифицират и премахнат наркодилърите, които злоупотребяват с платформата;

• Засилване и предприемане на стъпки за подкрепа на разследванията на правоприлагащите органи, за да могат властите бързо да изправят извършителите пред съда; и

• Повишаване на осведомеността за опасностите от фентанил сред потребителите в Snapchat чрез съобщения за обществени услуги и образователно съдържание директно в приложението. (Можете да научите повече за всички тези усилиятук.)

Решени сме да превърнем Snapchat във враждебна среда за дейности, свързани с наркотици, и ще продължим да разширяваме тази работа през следващите месеци. Междувременно е важно родителите, настойниците и младите хора да разберат широко разпространената заплаха от потенциално фатални фалшиви наркотици, която се е разпространила в онлайн платформите, и да говорят със семейството и приятелите си за опасностите и как да останат в безопасност.

Snap има много планове в областта на безопасността и поверителността през 2022 г., включително стартиране на нови изследвания и функции за безопасност, както и създаване на нови ресурси и програми за информиране и овластяване на нашата общност да възприеме по-безопасни и по-здравословни дигитални практики. За началото на една продуктивна Нова година, пълна с учене, ангажираност, безопасност и забавление!

- Жаклин Бошер, глобален ръководител на безопасността на платформата