Snap cam kết sâu sắc về sự an toàn của cộng đồng Snapchat. Mục tiêu của chúng tôi là giúp bảo vệ người dùng khỏi một loạt các rủi ro trực tuyến và các tác hại tiềm tàng trải rộng trên hệ sinh thái kỹ thuật số, bao gồm cả các tội ác ghê tởm liên quan đến bóc lột và lạm dụng tình dục trẻ em (CSEA). Snap đã đấu tranh chống lại nội dung bất hợp pháp và hành vi tội phạm đê hèn này trong nhiều năm, sử dụng cả các biện pháp phát hiện chủ động và phản ứng nhanh trên ứng dụng Snapchat. Trong năm qua, chúng tôi đã thực hiện các thay đổi bổ sung đối với các chính sách và quy trình liên quan của mình với mục đích giúp đưa thủ phạm ra trước công lý. Chúng tôi muốn chia sẻ thêm về công việc đó ở đây.

CSEA là gì?

Bóc lột và lạm dụng tình dục trẻ em bao gồm một loạt các hoạt động bất hợp pháp liên quan đến gây hại tình dục cho trẻ vị thành niên, bao gồm: xem, sản xuất và phân phối hình ảnh bóc lột và lạm dụng tình dục trẻ em (CSEAI), bao gồm cả mối đe dọa mới hơn từ ảnh và video do AI tạo ra; dụ dỗ trực tuyến, hoặc gạ gẫm, trẻ vị thành niên vì mục đích tình dục; ¹tống tiền tình dục; ²mua bán tình dục trẻ em; và phát trực tiếp cảnh trẻ em bị lạm dụng và tra tấn tình dục. ³Thật khó để hiểu được rằng những thực tế ghê tởm này thực sự tồn tại. Nhưng đáng buồn thay, sự lạm dụng như vậy luôn tồn tại – và thế giới kỹ thuật số hiện cung cấp một phương tiện lạm dụng thay thế, mở rộng các phương thức phạm tội nhanh hơn và có phạm vi ảnh hưởng rộng hơn.

“Công nghệ đã thay đổi cơ bản cách những người có hứng thú tình dục với trẻ em tưởng tượng về chúng, tiếp cận chúng và săn mồi chúng,” Ernie Allen, Chủ tịch của tổ chức có trụ sở tại London cho biếtWeProtect Global Alliance.New York Timesđã viết, ‘Cuộc khủng hoảng bóc lột tình dục trẻ em trực tuyến đang ở mức đỉnh điểm.’ Bài báo lưu ý rằng các báo cáo đang leo thang, những kẻ phạm tội đang chia sẻ hình ảnh của các nạn nhân nhỏ tuổi hơn và các tội ác ghê tởm hơn, và cơ quan thực thi pháp luật đang phải vật lộn để theo kịp. Nếu bạn thêm các biến thể mới vào thách thức đó, như tống tiền tình dục, mà FBI báo cáo đã tăng 7.200%, lạm dụng phát trực tiếp và những thứ khác, rõ ràng vấn đề này nên được đặt lên hàng đầu trong các chương trình nghị sự chính sách trên toàn thế giới,” ông nói thêm.

Nghĩa vụ pháp lý của các công ty công nghệ

Khi các công ty công nghệ của Hoa Kỳ nhận thức được CSEA trên các nền tảng hoặc dịch vụ của họ, họ có nghĩa vụ pháp lý phải báo cáo cho Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột (NCMEC). Sau đó, NCMEC sẽ xem xét các CyberTip này và liên lạc với cả cơ quan thực thi pháp luật trong nước và quốc tế để giúp bảo vệ các nạn nhân trẻ em và trừng phạt những kẻ phạm tội.

Cho đến năm ngoái, tổng số CyberTip hàng năm gửi đến NCMEC phần lớn đã tăng lên qua từng năm, đạt mức kỷ lục 36,2 triệu báo cáo ⁴vào năm 2023, tăng từ hơn 32 triệu vào năm 2022 và 4.560 vào năm 1998 khi CyberTipline của NCMEC được tạo ra. Chính sự gia tăng kỷ lục này trong các CyberTip — ngoài các yếu tố khác, bao gồm sự gia tăng liên tục của tống tiền tình dục trên toàn cầu và phản hồi mà chúng tôi nhận được từ cơ quan thực thi pháp luật về khả năng hành động của các CyberTip của chính chúng tôi — đã thúc đẩy Snap lần đầu tiên tiếp cận NCMEC vào năm 2024 để hiệu chỉnh lại việc báo cáo CyberTip của chúng tôi.

Tôi đã theo dõi việc báo cáo CyberTip trong nhiều năm và tôi tin chắc rằng thực tiễn của một số công ty công nghệ đã có xu hướng báo cáomọi thứcho NCMEC — thậm chí vượt quá nghĩa vụ pháp lý của họ — vì sợ bị buộc tội bỏ sótđiều gì đó. ⁵Các công ty không báo cáo theo yêu cầu của pháp luật có thể phải đối mặt với các khoản tiền phạt nặng. Nhưng cách tiếp cận báo cáo này, cùng với khả năng hành động thấp của nhiều báo cáo (hoặc vì CyberTips thiếu bối cảnh đầy đủ để cơ quan thực thi pháp luật hành động hoặc vì hành vi được báo cáo, trong một số trường hợp, không phải là ưu tiên của họ), đã dẫn đến việc các CyberTip ngày càng nhiều; nhiều đánh giá sâu rộng; và sự thất vọng ngày càng tăng trong giới thực thi pháp luật.

Mục tiêu: CyberTips có giá trị cao

Mục tiêu của việc hiệu chỉnh lại của chúng tôi với NCMEC là tăng thêm khả năng hành động và giá trị của các CyberTip của Snap bằng cách tinh chỉnh các chính sách nền tảng của riêng chúng tôi và các giao thức mà chúng tôi đã thiết lập để báo cáo cho NCMEC. Việc hiệu chỉnh lại ban đầu đó diễn ra vào tháng 5 năm 2024 và các thay đổi chính sách của chúng tôi đã có hiệu lực hoàn toàn vào cuối năm ngoái.

Mặc dù chúng ta nên tránh quá chú trọng vào số lượng báo cáo đơn thuần, nhưng kể từ khi thực hiện các cải tiến chính sách của mình, Snap vui mừng chia sẻ rằng chúng tôi đã thấy sự sụt giảm đáng kể trong tổng khối lượng báo cáo của chúng tôi cho NCMEC và sự sụt giảm tương tự trong các trường hợp leo thang đối với việc dụ dỗ trực tuyến – tất cả trong khi vẫn hoàn thành nghĩa vụ pháp lý của chúng tôi là báo cáo CSEA trong các CyberTip. Tuy nhiên, tổng số thấp hơn vẫn chưa được lọc qua khối lượng báo cáo hàng năm của NCMEC, vì các thay đổi được thực hiện vào cuối năm 2024, chỉ còn lại vài tháng cuối năm để phản ánh các sửa đổi.

Song song đó, nhóm của chúng tôi đã và đang làm việc để cải thiện dữ liệu và nhãn trong các CyberTip của chúng tôi. Những làm rõ như vậy có thể giúp xác định tốt hơn các tội ác bị cáo buộc và các cá nhân liên quan, và do đó, cho phép NCMEC và cơ quan thực thi pháp luật phân loại báo cáo nhanh hơn và chính xác hơn. Ngay cả khi việc báo cáo cho NCMEC có thể không được đảm bảo, Snap sẽ tiếp tục giải quyết các hình ảnh và hành vi vi phạm chính sách nền tảng của chúng tôi bằng cách hành động – có thể bao gồm xóa nội dung vi phạm, vô hiệu hóa tài khoản và tìm cách chặn việc tạo tài khoản mới.

Điểm kiểm tra hiệu chỉnh lại

Tháng trước, chúng tôi đã tổ chức một cuộc hiệu chỉnh lại lần thứ hai với NCMEC, nơi nhóm Snap đã tóm tắt lại những thay đổi chính sách nội bộ của năm ngoái; cập nhật cho NCMEC về tiến trình của chúng tôi; xác nhận một số hướng dẫn hoạt động bổ sung; và giúp đặt ra kỳ vọng cho những tháng tới. Chúng tôi cũng đã xem trước một số bổ sung chính sách và báo cáo được lên kế hoạch thêm mà chúng tôi hy vọng sẽ tiếp tục nâng cao giá trị báo cáo của chúng tôi cho cả NCMEC và cơ quan thực thi pháp luật. Đương nhiên, đây là một quá trình lặp đi lặp lại, nhưng chúng tôi được khuyến khích bởi sự tiến bộ trong năm qua.

Hướng tới tương lai

Theo thời gian, chúng tôi kỳ vọng rằng NCMEC và cơ quan thực thi pháp luật có thể tiếp tục thấy khối lượng CyberTip từ Snap giảm so với những năm trước, nhưng tỷ lệ phần trăm lớn hơn trong số những báo cáo mà họthực sựnhận được sẽ chứa thông tin chất lượng cao hơn và có khả năng hành động cao hơn.

Chúng tôi cam kết cải tiến liên tục trong mọi khía cạnh của công tác an toàn. Chúng tôi không giả vờ có tất cả các câu trả lời về việc chống lại CSEA hoặc bất kỳ tác hại trực tuyến tiềm tàng nào khác; không ai nên làm vậy vì không ai có thể. Ngày qua ngày, chúng tôi đang chiến đấu với các vấn đề của toàn xã hội và chúng tôi mang đến một cách tiếp cận toàn diện củacông tyđể giải quyết – với mục tiêu kép cuối cùng là giảm thiểu rủi ro và giảm thiểu tác hại.

Đối với các CyberTip của chúng tôi, chúng tôi có một mục tiêu rõ ràng cho tương lai không xa: Dù đó là chỉ huy của Lực lượng Đặc nhiệm Chống Tội phạm Internet Nhắm vào Trẻ em (ICAC) của tiểu bang, một điều tra viên liên bang, hay một thành viên của cơ quan thực thi pháp luật ở nửa vòng trái đất, chúng tôi muốn các cơ quan chức năng của tiểu bang, liên bang và quốc tế tự tin theo đuổi các CyberTip từ Snap vì họ biết rằng các báo cáo của chúng tôi có thể được tin cậy một cách nhất quán là có thể hành động, có giá trị và kỹ lưỡng. Và, hy vọng của chúng tôi là những nỗ lực đó sẽ giúp thúc đẩy sự gia tăng tương ứng trong các vụ bắt giữ liên quan ⁶và các bản án trên toàn thế giới.

Xin gửi lời “cảm ơn” sâu sắc đến NCMEC, WeProtect, 61 Lực lượng Đặc nhiệm ICAC tại Hoa Kỳ, các cơ quan thực thi pháp luật trên toàn thế giới, và tất cả các đồng nghiệp và cộng tác viên của chúng tôi trong lĩnh vực chống CSEA – và một lưu ý bổ sung rằng chúng tôi vẫn luôn cởi mở và mong muốn nhận được phản hồi của bạn để cải thiện hơn nữa các chiến lược và phương pháp tiếp cận của chúng tôi. Tất cả chúng ta đều chung tay trong việc này.

- Jacqueline Beauchere, Giám đốc Toàn cầu về An toàn Nền tảng