В Snap непрекъснато развиваме нашите механизми за безопасност и политики за платформата, за да ограничим способността на лошите участници да злоупотребяват с нашата платформа. Ние използваме усъвършенствана технология за откриване и блокиране на дейност, която нарушава нашите правила, прилагаме принципи за прогнозиране на създаването на разногласия в процеса на сприятеляване, подкрепяме правоприлагането и сътрудничеството с държавните органи и работим за повишаване на осведомеността и осигуряване на образование по отношение на най-сериозните вреди, които оказват влияние върху тийнейджърите и наистина всички членове на нашата общност. 

Приемаме много сериозно отговорността да защитаваме тийнейджърите. Работата ни е съществена, включително следното: 

I. Да направим Snapchat враждебна среда за лошите участници

По-рано тази година обявихме нови функции, които да помогнат за по-нататъшното опазване на нашата общност, по-специално на потребителите тийнейджъри и да засилят отношенията в реалния свят, които правят Snapchat уникален. Тези актуализации включват: разширени предупреждения в приложението за подозрителни контакти, засилена защита за приятелства, създадени специално за тийнейджъри, и подобряване на способността да блокират нежелан контакт. 

Тези промени, насочени към борбата с сексуален онлайн тормоз, надграждат върху текущите ни инвестиции за борба с всички форми на сексуална експлоатация и злоупотреба с деца. Например: 

Използваме сигнали, за да идентифицираме поведението на сексуалeн тормоз, така че да можем активно да премахнваме лошите участници преди да са имали възможността да се насочат към други жертви. Това е в допълнение към използването и внедряването на технологии, предназначени да предотвратят разпространението на известни изображения сексуална експлоатация и злоупотреба с деца (CSEAI) в Snapchat, включително PhotoDNA (за откриване на дубликати на известни незаконни изображения), CSAI Match (за откриване на дубликати на известни незаконни видеоклипове) и API за безопасност на съдържанието (за подпомагане при откриването на нови, "нехеширани никога преди това" изображния).

Макар че отдавна сме предложили просто отчитане в приложението на съдържанието и акаунтите, които нарушават нашите правила, през 2023 г. направихме подобрения, за да подпомогнем борбата ни срещу вредите, свързани със сексуално изнудване. Миналата година стартирахме докладване на текстови съобщения от чат в приложението за чат, което позволява на потребителите на Snapchat да докладват отделни съобщения директно от самия разговор. Разширихме също нашите инструменти за докладване в приложението, за да включим специфична, специално пригодена причина за докладване за сексуално изнудване и, по съвети и насоки от борбата с НПО за борба с CSEA Thorn, представихме опцията за докладване на свързан език за тийнейджъри и млади хора („Публикуваха / заплашват да публикуват моите голи снимки”). От своя страна, тези доклади за информиране за нашите усилия за правоприлагане, включително за откриване и правоприлагане, основано на сигнал. Анализираме тенденциите, моделите и техниките на сексуално изнудване и, ако даден акаунт показва определени характеристики, той се закрива поради сексуално изнудване.

Продължаваме да подобряваме и добавяме към нашия пакет от инструменти Семеен център, издаден през 2022 г., с помощта на който родителите могат да видят приятелите на техните тийнейджъри в Snapchat, с кого са чатили наскоро и лесно да докладват акаунти, които биха ги обезпокоили. Нашата цел за Семеен център винаги е била да насърчава открит и конструктивен диалог за безопасно онлайн пространство между тийнейджъри и родителите им/лицата, които се грижат за тях. 

В тясно сътрудничество сме с правоприлагащите органи и активно инвестираме в нашите екипи за операции по безопасност и правоприлагане, които работят по целия свят 24/7, за да подпомогнем запазването на безопасността на нашата общност. Например, нашите Екипи за доверие и безопасност са повече от двойно по-големи в сравнение с 2020 г., а размерът на нашия Екип по операциите по правоприлагането е станал повече от три пъти по-голям за този период от време. Провеждаме годишни срещи на върха за правоприлагането в САЩ, за да гарантираме, че служителите и агенциите знаят как да предприемат подходящи действия срещу всяка незаконна дейност, която може да се осъществи на нашата платформа. 

Също така работим директно с правоприлагането в Нигерия, където възникват много случаи на сексуално изтезание, за изграждане на капацитет и знания за разследване и преследване на извършители и планираме да продължим ангажимента си с нигерийското правителство за по-нататъшно сътрудничество в тази област. Работили сме с мисията на Международната организация за правосъдие, NCMEC, други членове на индустрията и НПО за осигуряване на обучение по правоприлагането при разследване на CyberTips в страни извън САЩ, където е преобладаваща активността на сексуално изнудване.

В продължение на много години също сме ангажирани със силен кадър на „доверени лица“: нестопански субекти, неправителствени организации и избрани правителствени агенции, които чрез високоприоритетни канали ни докладват случаи на злоупотреби, предстоящи заплахи за живота и други спешни въпроси от името на потребителите на Snapchat, които са в нужда. По-голямата част от участниците в нашата програма за сигнализиране на нередности докладват за съдържанието и акаунтите, свързани със сексуални вреди за непълнолетни, включително сексуално изнудване.  

II. Ангажиране на експерти и коалиции в индустрията 

Освен собствените ни инвестиции ние също така ангажираме експерти по целия свят, защото знаем, че самостоятелно никое предприятие или организация не може да прогресира значително по тези въпроси. Например, Snap представлява индустрията в Съвета на международната политика на Световния алианс WeProtect; ние сме членове на Консултативния съвет на INHOPE и участваме в Съвета на настоятелите на Фондацията за наблюдение на Интернет в Обединеното кралство (IWF). За всички тези организации изкореняването на сексуалната експлоатация и злоупотреба с деца (CSEA) онлайн е в основата на техните мисии.

Оставаме активни членове на коалицията Tech, глобален съюз в индустрията, осъществяващ борба със сексуалната онлайн експлоатация и злоупотреба с деца, и наскоро приключихме двугодишния срок на Изпълнителния комитет на Съвета на директорите. Също така бяхме учредители на инициативата Tech Coalition’s Lantern, първата програма за междуплатформен обмен на сигнали на компании за укрепване на начина, по който те прилагат политиките си за безопасност на децата. Чрез активно участие в тази програма компаниите могат да си помогнат в проверката на лоши участници, включително сексуални изнудвания.   

Освен това ние използваме базата данни на Националния център за изчезнали и експлоатирани деца (NCMEC) Take It Down, която позволява на непълнолетните да генерират цифров пръстов отпечатък, наречен “hash” на избрани изображения или видеоклипове директно на техните устройства. Участващите компании, включително Snap, могат да използват тези хашове, за да търсят и премахнат дублиращите се изображения, които нарушават нашите Насоки на Общността. Ние участваме в подобна програма в Обединеното кралство, наречена Report Remove и миналата година се присъединихме в сътрудничество със StopNCII на SWGfL, за да помогнем за предотвратяване на разпространението на интимни изображения без съгласие в Snapchat чрез използване на базата данни на тази група за хеш. StopNCII подпомага спирането на разпространението на интимни изображения за лица над 18 г. и предлага на жертвите възможността да възстановят поверителността си по отношение на най-личните им снимки и видеоклипове.

Тази година стартирахме и нашия Учредителния съвет на Snap за цифрово благосъстояние, група от 18 тийнейджъри от САЩ, избрани да участват в годишна пилотна програма, която да насърчава по-безопасни онлайн навици и практики в техните училища и общности. През юли тази група, заедно с поне един родител или придружител, се събра в централата на Snap в Санта Моника, Калифорния за дискусии, които доведоха до интересни изводи по теми като онлайн клопки и социална динамика и инструменти за родителски грижи. Това е в допълнение към Консултативния съвет на Snap, състоящ се от 16 професионалисти и трима застъпници за младежта, които предоставят преки напътствия и насоки на Snap по въпросите на безопасността. Очакваме с нетърпение 2025 г., когато се надяваме да създадем повече възможности за членовете на двете групи да се съберат и да направят допълнителни заключения. 

III. Насърчаване на осъзнатостта 

Освен нашите вътрешни инвестиции и работата, която вършим с експерти и в междусекторен аспект, критичен компонент за борба със схемите за сексуално насилие и изнудване е повишаването на обществената осведоменост на потребителите на Snapchat. 

През 2022 г. стартирахме Индекса на цифровото благосъстояние, водещ в областта на научните изследвания и даващ представа за това как тийнейджърите и младите хора се справят онлайн във всички платформи. Като част от това проучване, през последните две години извършваме задълбочено изследване в областта на сексуалното изнудване. Тъй като това проучване обхваща цялостни онлайн преживявания, а не само в Snapchat, то не само подпомага информираността, необходима за нашата работа, но се надяваме, че предлага задълбочени изводи и на други участници в технологичната екосистема. По-късно този месец ще споделим резултатите от втората година на нашето задълбочено проучване на сексуалното изнудване във връзка с предстоящия виртуален форум на Technology Coalition за много заинтересовани страни относно финансовото сексуално изнудване на непълнолетни. 

По-рано тази година бяхме имахме честта да бъдем първите, което подкрепят кампанията за обществена осведоменост Know2Protect, която беше първа по рода си в областта на обществената осведоменост, започната по-рано тази година от Департамента за вътрешната сигурност на САЩ (DHS). Кампанията обучава и дава възможност на младите хора, родители, доверени възрастни и политици да помогнат за предотвратяването и борбата с престъпления като финансово сексуално изнудване. Освен че даряваме рекламно пространство за образователните ресурси на Snapchat за K2P, провеждаме и допълнителни изследвания с тийнейджъри и млади възрастни в САЩ, за да предоставим по-подробна информация за кампанията. Също така, стартирахме съвместно и обектив с разширена реалност на Snapchat за подпомагане на обучението на потребителите на Snapchat чрез интерактивен тест Know2Protect. И в Обединеното кралство подкрепихме широкообхватната кампания на IWF за повишаване на обществената осведоменост по тези въпроси Gurls Out Loud, предназначена да информира 11-13-годишни момичета за онлайн сексуално сближаване, секстинг и изпращане на голи снимки. Освен това наскоро стартирахме Ръководство на педагога за Snapchat, в партньорство със Safe and Sound Schools за разработване на цялостен инструментариум за преподаватели, който включва информация и насоки за това как да се борим със сексуалното изнудване. 

От многогодишното ни проучване знаем, че повишаването на осведомеността и образованието в общността са мощни инструменти за подпомагане на предотвратяването на вредите в интернет и продължаваме да разработваме и популяризираме ресурсите в приложението, за да достигнем до тийнейджъри и млади хора директно в Snapchat. През септември 2023 г. пуснахме в приложението четири нови „епизода на Safety Snapshot“ за сексуалните рискове и вреди, включително финансово сексуално изнудване. Също така предлагаме епизоди за секстинг и за последиците от създаването и споделянето на голи снимки, онлайн сприятеляването с деца за сексуални цели и сексуалния трафик на деца. Всички тези ресурси бяха прегледани от експерти в Националния център за изчезнали и експлоатирани деца (NCMEC) и са създадени в сътрудничество със съответните горещи линии и линии за помощ в ключови географски райони. 

Продължаваме да се борим срещу сексуалната експлоатация и злоупотреба с деца онлайн, но все още има какво да се направи. През 2025 г. ще продължим да увеличаваме осведомеността за потенциалните онлайн вреди и да повтаряме, че всеки може да бъде потенциална цел. Искаме често и рано да предотвратяваме и прекъсваме действията на лошите участници, а също и да предоставим още по-ефективни CyberTips за правоприлагане.

Важно е да се отбележи, че ние използваме много от същите стратегии, чрез които се борим срещу други груби вреди, като незаконна дейност с лекарства и наркотици, включително продажбата на фалшиви хапчета, заплахи за насилие и съдържание, свързано със самоубийство и самонараняване. Осъзнаваме, че нашата работа в това пространство никога не може да бъде свършена, но дълбоко се грижим за безопасността на потребителите на Snapchat и ще продължим да работим съвместно с индустрията, правителството и правоприлагането за обмен на информация и укрепване на нашата защита.