Познакомьтесь с нашим руководителем отдела безопасности глобальных платформ

Привет, сообщество Snapchat! Меня зовут Жаклин Боше. Я пришла в Snap осенью прошлого года в качестве первого руководителя отдела безопасности глобальных платформ. 
Я занимаюсь совершенствованием общего подхода Snap к безопасности, включая разработку новых программ и инициатив для повышения осведомлённости о рисках в Интернете, консультирование по внутренней политике, инструментам и функциям продуктов, а также оценку мнения внешней аудитории и взаимодействие с ней. Всё это поможет обеспечить безопасность и цифровое благополучие сообщества Snapchat. 
Моя задача заключается в том, чтобы помочь сторонникам безопасности, родителям, педагогам и другим главным заинтересованным сторонам понять, как работает Snapchat, и узнать их мнение об этом. Поэтому я подумала, что будет полезно поделиться некоторыми моими первыми впечатлениями о том, чем меня удивило приложение, а также дать полезные советы, если вы или кто-то из ваших близких является заядлым снапчаттером. 
 Первые впечатления: Snapchat и безопасность 
Проработав более 20 лет в сфере онлайн-безопасности в Microsoft, я стала свидетелем значительных изменений в ландшафте рисков. В начале 2000-х годов такие проблемы, как спам и фишинг, указали на необходимость повышения осведомлённости потребителей и сокращения рисков, связанных с применением социотехники. С появлением платформ социальных сетей и возможности публиковать свои сообщения в открытом доступе возросла потребность во встроенных функциях безопасности и модерации контента, чтобы минимизировать доступ к запрещённому и потенциально более вредоносному контенту и деятельности.  
Snapchat появился десять лет назад. Я знала, что эта компания и приложение отличались от того, что существовало на тот момент, но осознала, насколько же велика эта разница, только когда начала работать здесь. С самого начала Snapchat был разработан для того, чтобы люди могли общаться с настоящими друзьями, то есть теми, кого они знают в реальной жизни, а не привлекать большое количество известных (или неизвестных) подписчиков. Snapchat создан с упором на использование камеры. Снапчаттерам, не относящимся к первому поколению пользователей этого приложения (таким, как я), сам интерфейс может показаться немного непонятным, потому что после запуска приложения появляется камера, а не лента контента, как на традиционных платформах социальных сетей. 
В оформление Snapchat вложено гораздо больше, чем можно было бы ожидать. Такой продуманный подход обусловлен тем, что компания придаёт огромное значение безопасности и конфиденциальности. Безопасность — это одна из ключевых ценностей компании, заложенная в её миссии: позволить людям самовыражаться, жить настоящим, познавать мир и весело проводить время вместе. Пользователи могут свободно выражать себя при общении с друзьями, только если они чувствуют себя в безопасности.
Убеждённость в том, что технологии должны быть разработаны таким образом, чтобы отражать реальное поведение и действия человека, является движущей силой Snap. Это также очень важно с точки зрения безопасности. Например, по умолчанию в Snapchat с вами не может связаться любой снапчаттер. Для этого двум пользователям нужно добавить друг друга в друзья, и только потом они смогут общаться напрямую. Это похоже на то, как друзья взаимодействуют в реальной жизни.
При разработке новых функций Snap применяет принципы конфиденциальности по определению. Snapchat — одна из первых платформ, которая приняла и использовала принцип изначально предусмотренной безопасности. Это означает, что безопасность учитывается на этапе проектирования наших функций без добавления средств защиты после их создания. Мы тщательно рассматриваем возможности неправильного использования или нарушения правил каких-либо функций и продуктов с точки зрения безопасности на самых ранних этапах разработки.  
Что меня удивило: особенности некоторых ключевых функций 
Учитывая мой опыт в сфере онлайн-безопасности и работу в различных отраслях, я знаю о некоторых опасениях по поводу Snapchat. Ниже я приведу несколько примеров, а также расскажу о том, что узнала за последние несколько месяцев. 
Контент, удаляемый по умолчанию 
Snapchat, вероятно, наиболее известен благодаря одному из самых ранних нововведений: контент, который удаляется по умолчанию. Как и другие, я сделала собственные предположения об этой функции, но оказалось, что она отличается от того, что я думала вначале. Кроме того, она отражает взаимодействие друзей в реальной жизни.
Подход Snapchat основан концепции, ориентированной на людей. В реальной жизни беседа между друзьями не сохраняется, не расшифровывается или не записывается навсегда. Большинство из нас чувствуют себя спокойнее и ведут себя наиболее естественно, когда знают, что их не будут осуждать за каждое сказанное слово или созданный контент. 
Одно из заблуждений, о котором я слышала, заключается в том, что подход Snapchat к удалению по умолчанию делает невозможным доступ к доказательствам незаконного поведения для уголовных расследований. Это не так. Snap может сохранять и сохраняет контент аккаунтов, если правоохранительные органы направляют нам соответствующий законный запрос. Подробнее о том, как мы удаляем Snap и чаты, можно прочитать в этой статье
Поиск подростков незнакомыми пользователями
Когда речь заходит о взаимодействии в Интернете, каждый родитель беспокоиться о том, что их детей подросткового возраста могут найти незнакомые пользователи. Snapchat предназначен для общения реальных друзей. Он не упрощает связь с незнакомыми людьми, как некоторые платформы социальных сетей. Поскольку это приложение изначально было создано для общения с теми, кого мы уже знаем, незнакомцам трудно найти и связаться с конкретными снапчаттерами. Как правило, пользователи, общающиеся в Snapchat, уже добавили друг друга в друзья. Кроме того, Snap добавила средства защиты, чтобы незнакомцам было ещё сложнее находить несовершеннолетних, например, запрет на публичные профили для лиц моложе 18 лет. Snapchat показывает несовершеннолетних пользователей в списках предлагаемых друзей («Добавьте сейчас») или результатах поиска только в том случае, если у них есть общие друзья. 
Мы хотим, чтобы родители и опекуны знали о новом инструменте «Проверка друзей». Он позволяет снапчаттерам просматривать списки друзей и подтверждать, что в них всё ещё находятся люди, с которыми они хотят поддерживать связь. Тех, с кем снапчаттеры больше не хотят общаться, можно легко удалить. 
Snap-карта и показ местоположения
Я также слышала об опасениях по поводу Snap-карты. Это персонализированная карта, которая позволяет снапчаттерам сообщать своё местоположение друзьям, а также находить интересные места и события поблизости, такие как рестораны и шоу. По умолчанию для настроек местоположения на Snap-карте всех снапчаттеров установлен закрытый режим (режим невидимки). Снапчаттеры могут сообщать своё местоположение, но только тем, кого они уже добавили в друзья. Кроме того, они могут решать, стоит ли предоставлять информацию о местоположении конкретным друзьям. В отношении местоположения здесь не действует подход «всем или никому». Ещё одно преимущество Snap-карты — это безопасность и конфиденциальность. Если снапчаттеры не используют Snapchat в течение нескольких часов, то они исчезают с карты.  
Самое главное с точки зрения безопасности — это то, что снапчаттеры могут показывать своё местоположение на карте только своим друзьям. Так, снапчаттеры могут контролировать, с кем из друзей они хотят поделиться своим местоположением и стоит ли это делать вообще.
Вредоносный контент
С самого начала наша компания приняла сознательное решение по-разному относиться к конфиденциальным сообщениям между друзьями и открытому контенту, доступному широкой аудитории. В более публичных зонах Snapchat с большим количеством пользователей мы тщательно отбираем и предварительно модерируем контент, чтобы предотвратить быстрое распространение потенциально опасных материалов. В эту категорию попадают два раздела: «Интересное», где размещается контент от проверенных издателей и создателей контента, и Spotlight, где снапчаттеры делятся собственным развлекательным контентом с широкой аудиторией.
Прежде чем снапчаттеры смогут увидеть контент в Spotlight, мы проверяем его с помощью автоматизированных инструментов, а затем его дополнительно модерируют более двух десятков наших специалистов. Это помогает обеспечить соответствие контента политике и правилам Snapchat, а также сокращает риски, так как при автоматической модерации можно что-то упустить. Snap снижает привлекательность публичного размещения незаконного или потенциально вредоносного контента, стремясь контролировать его стремительное распространение. Такие меры, в свою очередь, приводят к значительному сокращению количества контента с враждебными высказываниями, призывами к членовредительству и насильственными экстремистскими материалами. Это лишь несколько примеров по сравнению с другими платформами социальных сетей.
Контент, связанный с наркотиками
Snapchat — одна из многих онлайн-платформ, на которых наркоторговцы во всём мире совершают противоправные действия. Если вы видели в СМИ репортажи о родителях и членах семьи, потерявших детей из-за контрафактных таблеток с фентанилом, вы поймёте, насколько печальной и пугающей может быть эта ситуация. Мы осознаём это и соболезнуем тем, кто потерял близких из-за этой страшной проблемы.
В прошлом году Snap активно и комплексно решала проблему фентанила и контента, связанного с наркотиками, тремя ключевыми способами:
  • Разработка и внедрение новых технологий для обнаружения связанной с наркотиками деятельности в Snapchat, чтобы, в свою очередь, выявлять и удалять наркоторговцев, неправомерно использующих нашу платформу.
  • Усиление поддержки в расследованиях правоохранительных органов, чтобы власти могли быстро привлечь преступников к ответственности.
  • Повышение осведомлённости снапчаттеров об опасности фентанила с помощью социальной рекламы и образовательного контента прямо в приложении. Подробнее о наших усилиях можно прочитать здесь.
Мы полны решимости сделать Snapchat враждебным местом для деятельности, связанной с наркотиками, и будем продолжать расширять эту работу в ближайшие месяцы. Тем временем важно, чтобы родители, опекуны и молодые люди осознали повсеместную угрозу потенциально смертельно опасных контрафактных препаратов, которая распространилась на онлайн-платформах, а также поговорили с членами семьи и друзьями об опасностях и о том, как оставаться в безопасности. 
В 2022 году Snap планирует многое сделать в области безопасности и конфиденциальности, включая запуск новых исследований и функций безопасности, а также создание новых ресурсов и программ для того, чтобы информировать наше сообщество и научить его совершать более безопасные и разумные действия в цифровой среде. Давайте продуктивно начнём новый год, полный обучения, сотрудничества, безопасности и веселья.   
— Жаклин Боше, руководитель отдела безопасности глобальных платформ
Вернуться к новостям