Днес публикуваме нашиядоклад за прозрачносттаза първата половина на 2021 г., който обхваща периода от 1 януари до 30 юни тази година. Както и в последните доклади, тази част споделя данни за нарушенията на нашите Насоки за общността в световен мащаб през периода; броя на докладите за съдържание, които сме получили и срещу които сме предприели мерки в конкретни категории нарушения; как сме отговорили на искания от правоприлагащи органи и правителства; нашите мерки, разбити по държави; Процент на преглеждания с нарушения (VVR) на съдържанието в Snapchat; и случаи на невярна информация в платформата.

През този период добавяме няколко актуализации към нашите доклади, включително отбелязване на средното ни време за реакция в минути вместо в часове, за да предоставим повече подробности за нашите оперативни практики и ефикасност.

Всеки ден средно се създават повече от пет милиарда Snap-а с помощта на нашата камера на Snapchat. От 1 януари до 30 юни 2021 г. предприехме мерки срещу 6 629 165 части от съдържание в световен мащаб, които са нарушили нашите Насоки. През този период нашият Процент на преглеждания с нарушения (VVR) беше 0,10 процента, което означава, че на всеки 10 000 преглеждания на съдържание в Snap, 10 са съдържали съдържание, което нарушава нашите Насоки. Освен това значително подобрихме времето си за реакция на доклади за нарушения, по-специално за съдържание със сексуален характер, тормоз и насилие, незаконни и фалшиви наркотици и други регулирани стоки.

Нашата работа за борба с материали, съдържащи сексуално насилие над деца

Безопасността на нашата общност е основен приоритет. Като платформа, създадена за комуникация с истински приятели, ние умишлено проектирахме Snapchat, за да затрудним намирането на млади хора от непознати. Например потребителите в Snapchat не могат да виждат списъците с приятели на другите и по подразбиране не могат да получават съобщения от някой, който все още не им е приятел.

Имаме нулева толерантност към злоупотреби, насочени към който и да е член на нашата общност, особено към непълнолетни, което е незаконно, неприемливо и забранено от нашите Насоки за общността. Работим усърдно за борба с тези нарушения, като развиваме нашите възможности за предотвратяване, откриване и изкореняване на злоупотреби в нашата платформа, включително материали, съдържащи сексуално насилие над деца (CSAM), и други видове съдържание със сексуална експлоатация на деца.

Нашите екипи по доверие и безопасност използват проактивни инструменти за откриване, като PhotoDNA и технологията за съпоставяне на изображения на сексуално насилие над деца (CSAI), за да идентифицират известни незаконни изображения и видеоклипове на CSAM и да ги докладват на Националния център за изчезнали и експлоатирани деца (NCMEC). След това NCMEC от своя страна координира действията си с местните или международните правоприлагащи органи.

През първата половина на 2021 г. 5,43% от общия брой акаунти, срещу които сме предприели мерки в световен мащаб, са съдържали CSAM. От тях проактивно сме открили и сме предприели действия по 70% от нарушенията, свързани с CSAM. Тази увеличена способност за проактивно откриване, съчетана с нарастването на координираните спам атаки, разпространяващи CSAM, доведе до забележимо увеличение в тази категория за този отчетен период.

Продължихме да разширяваме партньорствата си с експерти по безопасност, както и функциите си в приложението, за да помогнем за образоването на потребителите в Snapchat относно рисковете от контакт с непознати и как да използват докладването в приложението, за да предупреждават нашите екипи по доверие и безопасност за всякакъв вид притеснение или злоупотреба. Освен това продължихме да добавяме партньори към нашата програма за доверени сигнализатори, която предоставя на проверени експерти по безопасност поверителен канал за докладване на спешни ескалации, като например непосредствена заплаха за живота или случай, включващ CSAM. Работим в тясно сътрудничество с тези партньори, за да предоставяме обучение по безопасност, ресурси за благосъстояние и други насоки за докладване, така че те да могат да помогнат за подкрепата на общността на Snapchat.

Нашият подход към разпространението на невярна информация

Периодът от време, който този доклад за прозрачността обхваща, допълнително подчертава колко е важно да се гарантира, че обществеността има достъп до точна и достоверна информация. Редовно оценяваме и инвестираме в нови средства за защита на нашата общност от потребители в Snapchat от разпространението на невярна информация, свързана с демократичните процеси, общественото здраве и COVID-19.

През първата половина на 2021 г. в световен мащаб предприехме мерки срещу общо 2597 акаунта и части от съдържание за нарушения на нашите насоки за невярна информация, което е почти половината от броя на нарушенията от предходния отчетен период. Тъй като съдържанието в Разглеждане и Акценти се модерира проактивно, за да се предотврати мащабното разпространение на нарушаващо правилата съдържание, по-голямата част от тези нарушения идват от частни Snap-ове и истории, като за повечето от тях научихме чрез нашите собствени активни усилия за модериране, както и от доклади от потребители в Snapchat.

Винаги сме вярвали, че когато става въпрос за вредно съдържание, не е достатъчно само да се мисли за политики и прилагане – платформите трябва да вземат предвид своята основна архитектура и продуктов дизайн. От самото начало Snapchat е създаден по различен начин от традиционните социални медийни платформи, за да поддържа основния ни случай на употреба – разговор с близки приятели, а не отворен новинарски поток, където всеки има право да разпространява всичко на всеки. Самият дизайн на Snapchat ограничава вирусността, което премахва стимулите за съдържание, което се харесва на най-лошите инстинкти на хората, като по този начин ограничава опасенията, свързани с разпространението на незаконно и вредно съдържание.

Този подход се пренася и в работата ни за предотвратяване на разпространението на екстремистко съдържание. През отчетния период премахнахме пет акаунта за нарушения на нашата забрана за терористично и екстремистко съдържание, което е леко намаление спрямо последния отчетен цикъл. В Snap редовно следим развитието в тази област, като се стремим да смекчим всички потенциални вектори за злоупотреба в нашата платформа. Както архитектурата на нашата платформа, така и дизайнът на нашата функционалност за групов чат помагат за ограничаване на разпространението на вредно съдържание и възможностите за организиране. Предлагаме групови чатове, но те са с ограничен размер, не се препоръчват от алгоритми и не могат да бъдат открити в нашата платформа от никого, който не е член на тази конкретна група.

През този период продължихме проактивно да популяризираме фактическа информация за обществената безопасност относно COVID-19 сред нашата общност, включително чрез отразяване, предоставено от нашите редакционни партньори в Разглеждане, чрез съобщения за обществени услуги (PSAs), както и въпроси и отговори с представители на общественото здравеопазване, агенции и медицински експерти, и чрез творчески инструменти, като Обективи с добавена реалност и филтри – всички те са предназначени да напомнят на потребителите в Snapchat за експертните насоки за обществено здраве. По-рано тази година, когато ваксините станаха достъпни за младите хора в САЩ,стартирахменова инициатива с Белия дом, за да помогнем на потребителите в Snapchat да отговорят на често задавани въпроси, а през юлисе обединихме сНационалната здравна служба на Обединеното кралство в подобно усилие.

В бъдеще се ангажираме да продължим да правим нашите доклади за прозрачността по-изчерпателни и полезни за многото заинтересовани страни, които се грижат дълбоко за онлайн безопасността, прозрачността и многосекторната отчетност. Постоянно оценяваме как можем да засилим нашите всеобхватни усилия за борба с вредното съдържание и злонамерените участници и сме благодарни на многото партньори и сътрудници в областта на сигурността и безопасността, които редовно ни помагат да се усъвършенстваме.