Snap е дълбоко ангажиран с безопасността на общността на Snapchat. Нашата цел е да помогнем за защитата на потребителите от редица онлайн рискове и потенциални вреди, които обхващат дигиталната екосистема, включително отвратителни престъпления, свързани със сексуална експлоатация и злоупотреба с деца (CSEA). Snap се бори с това незаконно съдържание и отвратително престъпно поведение от години, като използва както мерки за проактивно откриване, така и мерки за реактивно реагиране в приложението Snapchat. През изминалата година направихме допълнителни промени в свързаните с това наши политики и процеси с намерението да помогнем за изправянето на извършителите пред правосъдието. Бихме искали да споделим повече за тази работа тук.

Какво е CSEA?

Сексуалната експлоатация и злоупотреба с деца обхваща редица незаконни дейности, свързани със сексуална вреда на непълнолетни, включително: гледане, производство и разпространение на изображения на сексуална експлоатация и злоупотреба с деца (CSEAI), включително по-новата заплаха от генерирани от изкуствен интелект снимки и видеоклипове; онлайн подготвяне или примамване на непълнолетни за сексуални цели; ¹сексуално изнудване; ²трафик на деца за сексуална експлоатация; и предаване на живо на сексуално насилие и изтезания над деца. ³Трудно е да се разбере, че тези отблъскващи реалности действително съществуват. Но, за съжаление, такова насилие винаги е имало – и дигиталният свят сега предоставя алтернативни средства за злоупотреба, разширявайки начините за извършване на престъпления, за да бъдат по-бързи и по-мащабни.

„Технологиите промениха из основи начина, по който хората със сексуален интерес към деца фантазират за тях, получават достъп до тях и ги преследват“, каза Ърни Алън, председател на базирания в ЛондонWeProtect Global Alliance.New York Timesпише: „Кризата с онлайн сексуалната експлоатация на деца е в критична точка“. В него се отбелязва, че докладите ескалират, извършителите споделят изображения на по-млади жертви и по-ужасяващи престъпления, а правоприлагащите органи се борят да се справят. Ако добавите нови вариации към това предизвикателство, като сексуално изнудване, за което ФБР съобщи, че е нараснало със 7200%, предаване на живо на насилие и други, е ясно, че този проблем трябва да бъде начело на политическите програми в световен мащаб“, добави той.

Правни задължения на технологичните компании

Когато американските технологични компании узнаят за CSEA на своите платформи или услуги, те имат законово задължение да докладват за това на Националния център за изчезнали и експлоатирани деца (NCMEC). След това NCMEC преглежда тези киберсигнали и поддържа връзка както с местните, така и с международните правоприлагащи органи, за да помогне за защитата на децата жертви и за наказването на извършителите.

До миналата година общият годишен брой на киберсигналите до NCMEC до голяма степен се увеличаваше всяка година, достигайки рекордните 36,2 милиона доклада ⁴през 2023 г., спрямо малко над 32 милиона през 2022 г. и 4560 през 1998 г., когато е създадена линията за киберсигнали на NCMEC. Именно този рекорден ръст на киберсигналите – в допълнение към други фактори, включително продължаващия скок в сексуалното изнудване в световен мащаб и обратната връзка, която получихме от правоприлагащите органи относно възможността за предприемане на действия по нашите собствени киберсигнали – подтикна Snap да се обърне за първи път към NCMEC през 2024 г., за да прекалибрираме нашето докладване на киберсигнали.

Наблюдавам докладването на киберсигнали от няколко години и твърдо вярвам, че практиката на някои технологични компании е насочена към докладване навсичкодо NCMEC – дори над и извън законовото им задължение – от страх да не бъдат обвинени, че са пропусналинещо. ⁵Компаниите, които не докладват, както се изисква от закона, могат да бъдат изправени пред солени глоби. Но този подход към докладването, съчетан с ниската възможност за предприемане на действия по много доклади (или защото киберсигналите нямат достатъчно контекст, за да могат правоприлагащите органи да предприемат действия, или защото докладваното поведение в някои случаи не е приоритет за тях), доведе до нарастващ брой киберсигнали; множество, обширни прегледи; и нарастващо разочарование сред правоприлагащите органи.

Цел: Киберсигнали с висока стойност

Целта на нашето прекалибриране с NCMEC беше да увеличим допълнително възможността за предприемане на действия и стойността на киберсигналите на Snap чрез усъвършенстване на нашите собствени политики на платформата и протоколите, които имаме за докладване на NCMEC. Това първоначално прекалибриране се състоя през май 2024 г., а промените в нашата политика влязоха в пълна сила през втората половина на миналата година.

Въпреки че трябва да избягваме да поставяме твърде голям акцент върху чистия брой доклади поотделно, след прилагането на нашите подобрения в политиката, Snap има удоволствието да сподели, че сме забелязали значителен спад в общия обем на докладване до NCMEC и подобен спад в ескалациите за онлайн примамване – всичко това, докато все още изпълняваме законовите си задължения да докладваме за CSEA в киберсигнали. По-ниските общи стойности обаче все още не са отразени в годишните обеми на докладване на NCMEC, тъй като промените бяха приложени по-късно през 2024 г., оставяйки само няколко пълни месеца от годината, за да отразят измененията.

Успоредно с това нашият екип работи за подобряване на данните и етикетирането в нашите киберсигнали. Такива разяснения могат да помогнат за по-доброто идентифициране на предполагаемите престъпления и замесените лица и от своя страна да позволят по-бързо и по-точно сортиране на докладите от NCMEC и правоприлагащите органи. Дори когато докладването на NCMEC може да не е оправдано, Snap ще продължи да се занимава с изображения и поведение, които противоречат на нашите политики на платформата, като предприема действия – които могат да включват премахване на съдържанието в нарушение, деактивиране на акаунта и опит за блокиране на създаването на нови акаунти.

Контролна точка за прекалибриране

Миналия месец проведохме второ прекалибриране с NCMEC, където екипът на Snap обобщи вътрешните промени в политиката от миналата година; актуализира NCMEC за нашия напредък; потвърди някои допълнителни оперативни насоки; и помогна да се определят очакванията за следващите месеци. Също така прегледахме някои допълнителни планирани допълнения към политиката и докладването, които се надяваме да продължат да повишават стойността на нашите доклади както за NCMEC, така и за правоприлагащите органи. Естествено, това е итеративен процес, но ние сме окуражени от напредъка през изминалата година.

Поглед напред

С течение на времето очакваме, че NCMEC и правоприлагащите органи може да продължат да наблюдават намалени обеми на киберсигнали от Snap в сравнение с предходни години, но по-голям процент от тези, които тенаистинаполучават, трябва да съдържат по-качествена информация и да бъдат по-приложими.

Ние сме ангажирани с непрекъснатото подобряване на всички аспекти на нашата работа по безопасността. Не се преструваме, че имаме всички отговори по отношение на борбата с CSEA или всяка друга потенциална онлайн вреда; никой не трябва, защото никой ги няма. Ден след ден се борим с проблеми на цялото общество и прилагаме подход на цялатакомпанияза постигане на двойната крайна цел за смекчаване на риска и намаляване на вредите.

По отношение на нашите киберсигнали имаме ясна цел за не твърде далечното бъдеще: Независимо дали става въпрос за командир на щатска работна група за интернет престъпления срещу деца (ICAC), федерален следовател или член на правоприлагащите органи на другия край на света, ние искаме щатските, федералните и международните власти да преследват уверено киберсигнали от Snap, защото знаят, че на нашите доклади може постоянно да се разчита като на приложими, ценни и задълбочени. И нашата надежда е, че тези усилия ще помогнат за съответното увеличение на свързаните с тях арести ⁶и присъди по целия свят.

Огромни „благодарности“ на NCMEC, WeProtect, 61-те работни групи на ICAC в САЩ, правоприлагащите органи по света и всички наши колеги и сътрудници в областта на борбата с CSEA – и допълнителна бележка, че оставаме отворени и жадни за вашата обратна връзка за по-нататъшно подобряване на нашите стратегии и подходи. Всички сме заедно в това.

- Жаклин Бошер, глобален ръководител на отдел „Безопасност на платформата“