Каждый человек заслуживает чувствовать себя в безопасности в Интернете и иметь контроль над своими изображениями. В Snapchat мы категорически запрещаем обмен, рекламу или распространение контента сексуального характера, включая интимные изображения без согласия (NCII). Но с помощью законодателей мы можем кодифицировать и укрепить отраслевые стандарты и обеспечить более надежную защиту от такого рода вреда. Именно поэтому мы с гордостью поддерживаем закон H.R. 633, также известный как «TAKE IT DOWN» («Инструменты для борьбы с известной эксплуатацией путем иммобилизации технологических дипфейков на веб-сайтах и в сетях»).

Закон TAKE IT DOWN делает публикацию NCII и подобных изображений федеральным уголовным преступлением. Кроме того, веб-сайты и платформы, такие как Snapchat, обязаны удалять такие изображения в течение 48 часов с момента запроса от пострадавшего, а также прилагать разумные усилия для идентификации и удаления копий данных изображений. Этот закон является важнейшим шагом не только по защитите людей от распространения их личных изображений без разрешения, но и по ограничению распространения интимных изображений, сгенерированных с помощью ИИ, которые могут принести не меньше вреда.

Защита нашего сообщества, особенно наших юных пользователей, является главным приоритетом Snap. Закон TAKE IT DOWN согласовано дополняет наши текущие усилия по пресечению распространения в Интернете интимных изображений без согласия (NCII), а также изображений, содержащих сцены сексуальной эксплуатации детей и жестокого обращения с детьми (CSEAI). В нашу работу входит следующее: 

• Быстрые действия в отношении жалоб 

Наши круглосуточные службы безопасности оперативно реагируют на жалобы о контенте оскорбительного или сексуального характера, чтобы своевременно принимать меры, когда снапчаттерам нужна помощь. Мы упрощаем процесс подачи жалоб в приложении, позволяя снапчаттерам сообщать об отдельных сообщениях, историях или аккаунтах прямо из бесед. У нас также есть специальные категории, которые позволяют людям пожаловаться на NCII и CSEAI, чтобы наши команды по безопасности могли первоочередно рассмотреть эти жалобы и быстро принять меры.

• Поддержка жертв через общеотраслевые партнерства

Мы активно участвуем в программе «Take It Down» Национального центра по делам пропавших и эксплуатируемых детей (NCMEC), которая позволяет несовершеннолетним создавать цифровые «отпечатки пальцев» интимных изображений, не делясь фактическими изображениями. Мы используем эти отпечатки для обнаружения соответствующего контента в Snapchat и удаления всего, что нарушает наши правила. Мы также участвуем в подобных программах, таких как «Report Remove» в Великобритании, в том числе в отношении изображений несовершеннолетних, а также «StopNCII» для лиц старше 18 лет. Все это помогает предотвратить распространение интимных изображений на нашей платформе.

• Передовые технологии для обнаружения и удаления вредоносного контента 

Мы используем специализированные технологии, такие как PhotoDNA, для обнаружения известных незаконных изображений и CSAI Match от Google для известных незаконных видео. Мы также используем Content Safety API от Google для выявления незаконных изображений, о которых ранее не сообщалось или которые не были хэшированы. 

• Защита подростков от незнакомых людей и подозрительных аккаунтов

В целях борьбы с недавно возникшей тенденцией мошенничества с сексуальным шантажом мы ввели меры защиты для юных пользователей, которые ограждают незнакомцев от возможности находить профили юных пользователей и связываться с ними. Мы предупреждаем подростков о подозрительных запросах на добавление в друзья и полностью предотвращаем доставку запроса на добавление в друзья, когда он поступает подростку с аккаунта без общих друзей или аккаунта с историей доступа к Snapchat в местах, связанных с мошенническими действиями. Мы также предпринимаем меры, чтобы нарушители не могли создавать новые аккаунты на том же устройстве или использовать тот же адрес электронной почты или номер телефона. 

• Работа с правоохранительными органами 

Наша команда по работе с правоохранительными органами значительно расширилась, позволяя нам эффективнее сотрудничать с властями с целью обеспечения безопасности снапчаттеров. Мы ежегодно проводим саммит правоохранительных органов в США и работаем с международными правоохранительными органами, в том числе в Западной Африке, откуда берут начало многие случаи сексуального шантажа. При возникновении чрезвычайных ситуаций мы обычно отвечаем на соответствующие запросы правоохранительных органов о раскрытии данных в течение 30 минут. Кроме того, когда мы узнаем о сексуальной эксплуатации детей, — из поступивших к нам жалоб и/или путем заблаговременного выявления, — мы сообщаем об этом в NCMEC, который, в свою очередь, соответственно координирует свои действия с национальными и международными правоохранительными органами.

• Образование и осведомленность 

Для повышения осведомленности нашего сообщества напрямую мы запустили в приложении короткие видео о сексуальных рисках и потенциальном вреде через наш канал «Safety Snapshot» в разделе «Интересное». Темы включают сексуальный шантаж и последствия съемки и распространения откровенных фотографий. Кроме того, мы разработали ресурсы для родителей и педагогов, которые помогут им понять, как подростки используют Snapchat и какие меры предосторожности существуют для их безопасности. Наш Учредительный совет Snap по цифровому благополучию объединяет подростков для продвижения более безопасных привычек онлайн-поведения в их школах и сообществах. Мы также сотрудничаем с экспертами для поддержки таких инициатив, как Know2Protect, — общенациональной кампании по информированию общественности, запущенной Министерством внутренней безопасности США для предотвращения и борьбы с преступлениями, такими как сексуальный шантаж. 

Наши постоянные обязательства 

Хотя мы довольны своими успехами, мы понимаем, что наша работа может быть бесконечной. Snap будет продолжать повышать осведомленность о потенциальном вреде в Интернете, разрабатывать новые технологии для обнаружения запрещенного контента и сотрудничать с отраслевыми партнерами, государственными учреждениями, правоохранительными органами, гражданским обществом, родителями и самими молодыми людьми. 

Поддерживая закон TAKE IT DOWN и продолжая наши усилия по обеспечению безопасности, мы работаем над будущим, в котором каждый сможет наслаждаться общением с друзьями и родными онлайн, не опасаясь эксплуатации или злоупотреблений. 

Мы искренне заботимся о безопасности каждого снапчаттера и неуклонно стремимся сделать нашу платформу недружественной средой для злоумышленников, но при этом благоприятным пространством для подлинного взаимодействия.