Всеки заслужава да се чувства в безопасност онлайн и да има контрол над своите изображения. В Snapchat изрично забраняваме споделянето, популяризирането или разпространението на сексуално експлицитно съдържание, включително интимни изображения без съгласие (NCII). Но с помощта на законодателите можем да кодифицираме и укрепим индустриалните стандарти и да осигурим по-силни защити срещу този вид вреда. Ето защо сме горди да подкрепим H.R. 633, известен още като Закона TAKE IT DOWN (Инструменти за справяне с известна експлоатация чрез обездвижване на технологични дийпфейкове в уебсайтове и мрежи).

Законът TAKE IT DOWN прави публикуването на NCII и подобни изображения федерално престъпление. Той също така изисква уебсайтове и платформи като Snapchat да премахват такива изображения в рамките на 48 часа от искане от жертвата и да полагат разумни усилия за идентифициране и премахване на копия на изображението(ята). Този закон е критична стъпка не само в подпомагането на защитата на хората от споделяне на личните им изображения без разрешение, но и в ограничаването на разпространението на генерирани от изкуствен интелект интимни изображения, които могат да бъдат също толкова вредни.

В Snap защитата на нашата общност – особено на по-младите ни потребители – е наш най-голям приоритет. Законът TAKE IT DOWN е в съответствие и допълва нашите постоянни усилия да спрем злонамерените лица да разпространяват онлайн интимни изображения без съгласие (NCII) и изображения на сексуална експлоатация и насилие над деца (CSEAI). Нашата работа включва:

• Бързи действия по доклади

Нашите екипи по безопасност, работещи денонощно, реагират бързо на доклади за тормоз или сексуално съдържание, като се стремят да осигурят бързи действия, когато потребителите в Snapchat се нуждаят от помощ. Правим докладването лесно в рамките на приложението, като позволяваме на потребителите в Snapchat да докладват отделни съобщения, истории или акаунти директно от разговорите. Също така имаме специфични категории, в които хората могат да докладват NCII и CSEAI, така че нашите екипи по безопасност да могат да приоритизират тези доклади и да действат бързо.

• Подкрепа на жертвите чрез партньорства в цялата индустрия

Ние активно участваме в програмата Take It Down на Националния център за изчезнали и експлоатирани деца (NCMEC), която позволява на непълнолетни да създават цифрови „пръстови отпечатъци“ на интимни изображения, без да споделят самите изображения. Използваме тези пръстови отпечатъци, за да откриваме съвпадащо съдържание в Snapchat и да премахваме всичко, което нарушава нашите правила. Също така участваме в подобни програми като Report Remove в Обединеното кралство, също за изображения на непълнолетни, и StopNCII за лица над 18 години – всички те помагат за предотвратяване на разпространението на интимни изображения в нашата платформа.

• Усъвършенствана технология за откриване и премахване на вредно съдържание

Използваме специализирана технология като PhotoDNA за откриване на известни незаконни изображения и CSAI Match на Google за известни незаконни видеоклипове. Също така използваме API за безопасност на съдържанието на Google, за да ни помогне да идентифицираме незаконни изображения, които не са били докладвани или хеширани преди това.

• Защита на тийнейджърите от непознати и подозрителни акаунти

За да се справим с новата тенденция на измами с изнудване с интимно съдържание, въведохме защити за по-младите потребители, които помагат да се предотврати възможността непознати да намират профилите им и да се свързват с тях. Предупреждаваме тийнейджърите за подозрителни покани за приятелство и предотвратяваме изцяло доставянето на покана за приятелство, когато тя идва от акаунт без общи приятели до тийнейджър или ако акаунтът има история на достъп до Snapchat от места, свързани с измамни дейности. Също така предприемаме стъпки, за да спрем нарушителите да създават нови акаунти на същото устройство или да използват същия имейл адрес или телефонен номер.

• Работа с правоприлагащите органи

Нашият екип за операции с правоприлагащите органи се разрасна значително, което ни позволява да си сътрудничим по-добре с властите, за да помогнем за безопасността на потребителите в Snapchat. Организираме годишна среща на върха на правоприлагащите органи в САЩ и работим с международни правоприлагащи органи, включително в Западна Африка, откъдето произхождат много случаи на изнудване с интимно съдържание. Когато възникнат извънредни ситуации, обикновено отговаряме на свързани искания за разкриване на данни от правоприлагащите органи в рамките на 30 минути. Освен това, когато научим за сексуална експлоатация на деца – независимо дали ни е докладвано и/или го идентифицираме проактивно – ние го докладваме на NCMEC, който от своя страна координира с местните и международните правоприлагащи органи, както е подходящо.

• Образование и осведоменост 

За да помогнем за директното образование на нашата общност, пуснахме кратки видеоклипове в приложението за сексуалните рискове и потенциалните вреди чрез нашия “Safety Snapshot” канал в Разглеждане. Темите включват финансово изнудване с интимно съдържание и последиците от правенето и споделянето на голи снимки. Освен това разработихме ресурси за родители и преподаватели, за да им помогнем да разберат как тийнейджърите използват Snapchat и какви предпазни мерки съществуват, за да ги пазят в безопасност. Нашият Snap Съвет за дигитално благополучие събира тийнейджъри, за да насърчава по-безопасни онлайн навици в техните училища и общности. Също така си сътрудничим с експерти в подкрепа на инициативи като Know2Protect, национална кампания за повишаване на обществената осведоменост, стартирана от Министерството на вътрешната сигурност на САЩ, за да помогне за предотвратяването и борбата с престъпления като финансово изнудване с интимно съдържание.

Нашият постоянен ангажимент

Въпреки че сме доволни от напредъка си, знаем, че работата ни може никога да не свърши. В Snap ще продължим да повишаваме осведомеността за потенциалните онлайн вреди, да разработваме нови технологии за откриване на съдържание, нарушаващо правилата, и да работим в сътрудничество с партньори от индустрията, правителствени агенции, правоприлагащи органи, гражданското общество, родители и самите млади хора.

Като подкрепяме Закона TAKE IT DOWN и продължаваме усилията си за безопасност, ние работим за бъдеще, в което всеки може да се радва на връзка с приятели и семейство онлайн без страх от експлоатация или злоупотреба.

Ние дълбоко се грижим за безопасността на всеки потребител в Snapchat и оставаме ангажирани да направим нашата платформа враждебна среда за злонамерени лица и здравословно пространство за истинска връзка.