Tại Snap, chúng tôi liên tục phát triển các cơ chế an toàn và chính sách nền tảng để hạn chế khả năng các kẻ xấu lạm dụng nền tảng của chúng tôi. Chúng tôi tận dụng công nghệ tiên tiến để phát hiện và chặn những hoạt động vi phạm các quy tắc của chúng tôi, chúng tôi áp dụng các nguyên tắc thiết kế để tạo ra sự va chạm trong quá trình kết bạn, chúng tôi hỗ trợ việc thực thi pháp luật, hợp tác với các cơ quan chính phủ, và làm việc để nâng cao nhận thức và giáo dục về những tác hại nghiêm trọng nhất ảnh hưởng đến thanh thiếu niên, và thực sự là tất cả các thành viên trong cộng đồng của chúng tôi.

Chúng tôi chịu trách nhiệm bảo vệ thanh thiếu niên một cách rất nghiêm túc. Công việc của chúng tôi rất lớn lao, bao gồm cả những việc sau đây: 

I. Biến Snapchat thành môi trường thù địch cho các kẻ xấu

Đầu năm nay, chúng tôi đã công bố các tính năng mới để giúp bảo vệ hơn nữa cộng đồng của chúng tôi, đặc biệt là người dùng ở tuổi thanh thiếu niên, và để củng cố những mối quan hệ trong thế giới thực giúp Snapchat trở nên độc đáo. Những tính năng cập nhật đó bao gồm: cảnh báo mở rộng trong ứng dụng về các mối liên hệ đáng nghi, tăng cường các biện pháp bảo vệ việc kết bạn được xây dựng dành riêng cho thanh thiếu niên, và cải thiện khả năng chặn các mối liên hệ không mong muốn. 

Những thay đổi này tập trung vào việc chống lại hành vi đe dọa phát tán hình ảnh nhạy cảm, dựa trên các khoản đầu tư liên tục của chúng tôi để chống lại tất cả các hình thức bóc lột và lạm dụng tình dục trẻ em. Ví dụ:

Chúng tôi sử dụng các tín hiệu để xác định hành vi đe dọa phát tán hình ảnh nhạy cảm để chúng tôi có thể chủ động loại bỏ các kẻ xấu trước khi chúng có cơ hội nhắm mục tiêu và làm hại người khác. Ngoài việc tận dụng và triển khai công nghệ được thiết kế để ngăn chặn sự lan truyền hình ảnh bóc lột và lạm dụng tình dục trẻ em (CSEAI) trên Snapchat, bao gồm PhotoDNA (để phát hiện các bản sao hình ảnh bất hợp pháp đã được biết đến), CSAI Match (để phát hiện các bản sao video bất hợp pháp đã được biết đến), và API An toàn Nội dung (để hỗ trợ phát hiện hình ảnh mới, "chưa từng được trang bị hàm băm").

Mặc dù từ lâu chúng tôi đã cung cấp báo cáo trong ứng dụng đơn giản về những nội dung và tài khoản vi phạm các quy tắc của chúng tôi, nhưng vào năm 2023 chúng tôi đã thực hiện các cải tiến để tăng cường cuộc chiến chống lại các tác hại liên quan đến hành vi đe dọa phát tán hình ảnh nhạy cảm. Năm ngoái chúng tôi đã ra mắt báo cáo văn bản trò chuyện trong ứng dụng – cho phép các người dùng Snapchat báo cáo các tin nhắn riêng lẻ ngay từ chính cuộc trò chuyện. Chúng tôi cũng mở rộng các công cụ báo cáo trong ứng dụng để bao gồm một lý do báo cáo cụ thể, phù hợp đối với hành vi đe dọa phát tán hình ảnh nhạy cảm và – theo lời khuyên và hướng dẫn từ Thorn, tổ chức phi chính phủ chống lại CSEA – đã đưa ra lựa chọn báo cáo đó bằng ngôn ngữ dễ hiểu đối với thanh thiếu niên và người trẻ tuổi (“Họ đã tiết lộ/đang đe dọa tiết lộ ảnh khỏa thân của tôi”). Đổi lại, những báo cáo đó được sử dụng để cung cấp tin tức cho các nỗ lực thực thi của chúng tôi, bao gồm cả việc phát hiện và thực thi dựa trên tín hiệu. Chúng tôi phân tích xu hướng, mô hình và các kỹ thuật của những kẻ đe dọa phát tán hình ảnh nhạy cảm và, nếu một tài khoản thể hiện một số đặc điểm nhất định, nó sẽ bị khóa vì hành vi đe dọa phát tán hình ảnh nhạy cảm.

Chúng tôi tiếp tục cải thiện và thêm vào bộ công cụ Trung tâm Gia đình của mình, được phát hành vào năm 2022, nơi các bậc cha mẹ có thể thấy con mình kết bạn với ai trên Snapchat, con đã trò chuyện với ai gần đây, và dễ dàng báo cáo những tài khoản có thể khiến họ quan ngại. Mục tiêu của chúng tôi cho Trung tâm Gia đình luôn là thúc đẩy cuộc đối thoại cởi mở và mang tính xây dựng giữa các bậc cha mẹ/người chăm sóc và thanh thiếu niên về việc giữ an toàn trên mạng. 

Chúng tôi hợp tác chặt chẽ với cơ quan thực thi pháp luật, và đầu tư mạnh vào các nhóm hoạt động thực thi pháp luật và an toàn hoạt động trên toàn thế giới 24/7 để giúp giữ an toàn cho cộng đồng của chúng tôi. Ví dụ: Nhóm Tin cậy và An toàn của chúng tôi đã tăng gấp đôi quy mô kể từ năm 2020 và nhóm Hoạt động Thực thi Pháp luật của chúng tôi đã tăng gấp ba trong thời gian đó. Chúng tôi tổ chức các hội nghị thượng đỉnh thường niên về thực thi pháp luật ở Hoa Kỳ để đảm bảo các nhân viên và cơ quan biết cách thực hiện hành động thích đáng đối với bất kỳ hoạt động bất hợp pháp nào có thể đang diễn ra trên nền tảng của chúng tôi. 

Chúng tôi cũng đang làm việc trực tiếp với cơ quan thực thi pháp luật ở Nigeria – nơi bắt nguồn nhiều vụ việc đe dọa phát tán hình ảnh nhạy cảm – để xây dựng năng lực và kiến thức để điều tra và truy tố thủ phạm, và chúng tôi dự định tiếp tục sự tham gia vào các hoạt động với chính phủ Nigeria để hợp tác hơn nữa trong lĩnh vực này. Và chúng tôi đã làm việc với Phái đoàn Công lý Quốc tế, NCMEC, các thành viên khác trong ngành, và các tổ chức phi chính phủ để đào tạo cho cơ quan thực thi pháp luật về việc điều tra CyberTips ở các quốc gia ngoài Hoa Kỳ, nơi hoạt động đe dọa phát tán hình ảnh nhạy cảm rất phổ biến.

Trong nhiều năm, chúng tôi cũng đã tham gia vào một đội ngũ mạnh mẽ gồm “những người cảnh báo đáng tin cậy”: các tổ chức phi lợi nhuận, các tổ chức phi chính phủ và một số cơ quan chính phủ báo cho chúng tôi các vụ lạm dụng, các mối đe dọa tính mạng sắp xảy ra, và các vấn đề khẩn cấp khác thay mặt cho người dùng Snapchat có nhu cầu thông qua các kênh ưu tiên cao. Phần lớn những người tham gia Chương Trình Người Cảnh Báo Đáng Tin Cậy của chúng tôi đều báo cáo những nội dung và tài khoản liên quan đến điều gây hại cho trẻ vị thành niên liên quan đến tình dục, bao gồm cả hành vi đe dọa phát tán hình ảnh nhạy cảm. 

II. Tham gia với các chuyên gia và liên minh trong ngành

Ngoài các khoản đầu tư của riêng mình, chúng tôi cũng tham gia với các chuyên gia trên toàn cầu, vì chúng tôi biết rằng không một tổ chức hoặc thực thể nào có thể một mình thúc đẩy những vấn đề này một cách có ý nghĩa. Ví dụ: Snap đại diện cho ngành trong Hội đồng Chính sách quốc tế của Liên minh Toàn cầu WeProtect; chúng tôi là thành viên của Hội đồng Cố vấn của INHOPE, và ngồi trong Hội đồng Quản trị của Tổ chức Theo dõi Internet (IWF) Vương quốc Anh. Tất cả các tổ chức này đều quyết tâm loại bỏ hành vi CSEA trực tuyến.

Chúng tôi vẫn là thành viên tích cực của Liên minh Công nghệ, một liên minh công nghiệp toàn cầu tập trung vào việc chống lại việc bóc lột và lạm dụng tình dục trẻ em trên mạng, và gần đây đã ký kết nhiệm kỳ hai năm vào Ủy ban Chấp hành của Hội đồng Quản trị. Chúng tôi cũng là thành viên sáng lập của sáng kiến ​​Đèn lồng của Liên minh Công nghệ, chương trình chia sẻ tín hiệu đa nền tảng đầu tiên cho các công ty để tăng cường cách họ thực thi chính sách an toàn trẻ em. Thông qua việc tham gia tích cực vào chương trình này, các công ty có thể giúp nhau kiểm tra chéo những kẻ xấu, bao gồm cả những kẻ đe dọa phát tán hình ảnh nhạy cảm.   

Ngoài ra, chúng tôi tận dụng cơ sở dữ liệu Take It Down của Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột (NCMEC), cho phép trẻ vị thành niên tạo dấu vân tay kỹ thuật số – được gọi là “hàm băm” – của các hình ảnh hoặc video được chọn ngay trên thiết bị của mình. Các công ty tham gia chương trình, bao gồm Snap, sau đó có thể sử dụng các hàm băm đó để tìm kiếm và loại bỏ hình ảnh trùng lặp vi phạm Cẩm nang Cộng đồng của chúng tôi. Chúng tôi tham gia vào một chương trình tương tự ở Vương quốc Anh có tên Report Remove (Báo cáo Loại bỏ), và năm ngoái, chúng tôi đã tham gia hợp tác StopNCII của SWGfL để giúp ngăn chặn sự lan truyền hình ảnh thân mật không đồng thuận (NCII) trên Snapchat bằng cách tận dụng cơ sở dữ liệu băm của nhóm đó. StopNCII giúp ngăn chặn sự lan truyền hình ảnh thân mật của những người từ 18 tuổi trở lên, và cung cấp cho nạn nhân khả năng đòi lại quyền riêng tư đối với các bức ảnh và video riêng tư nhất của họ.

Năm nay chúng tôi cũng đã ra mắt khai trương Hội đồng Snap về Sức khỏe số, một nhóm 18 thanh thiếu niên từ khắp Hoa Kỳ, được chọn tham gia chương trình thí điểm kéo dài một năm nhằm đấu tranh cho các thói quen và thực hành trực tuyến an toàn hơn trong các trường học và cộng đồng của họ. Vào tháng 7, nhóm này, cùng với ít nhất một phụ huynh hoặc người giám hộ, đã tập trung tại trụ sở của Snap ở Santa Monica, California để thảo luận rút ra những hiểu biết sâu sắc thú vị về các chủ đề như cạm bẫy trên mạng và động lực xã hội, và các công cụ của phụ huynh. Bên cạnh đó còn có Ban Cố vấn An toàn của Snap, bao gồm 16 chuyên gia và 3 thanh thiếu niên ủng hộ, những người đưa ra hướng dẫn và định hướng trực tiếp cho Snap về các vấn đề an toàn. Chúng tôi mong chờ năm 2025, năm chúng tôi hy vọng tạo ra nhiều cơ hội hơn cho các thành viên của cả hai nhóm đến với nhau và khám phá thêm những hiểu biết sâu sắc. 

III. Nâng cao nhận thức 

Ngoài các khoản đầu tư nội bộ và công việc chúng tôi làm với các chuyên gia và liên ngành, một thành phần then chốt để chống lại các âm mưu lạm dụng và đe dọa phát tán hình ảnh nhạy cảm trên mạng là nâng cao nhận thức của công chúng và Tín đồ Snapchatter. 

Năm 2022, chúng tôi đã ra mắt Chỉ số Sức khỏe số, nghiên cứu hàng đầu trong ngành cung cấp sự hiểu biết sâu sắc về tình hình của thanh thiếu niên và người trẻ tuổi trên khắp mọi nền tảng trực tuyến. Là một phần của nghiên cứu này, trong hai năm qua, chúng tôi đã thực hiện các cuộc đào sâu vào hành vi đe dọa phát tán hình ảnh nhạy cảm. Vì nghiên cứu này bao gồm các trải nghiệm trên mạng nói chung, không chỉ trên Snapchat, nên nó không chỉ giúp cung cấp tin tức cho cho công việc của chúng tôi, mà chúng tôi hy vọng nó cũng cung cấp những hiểu biết sâu sắc cho người khác trên khắp hệ sinh thái công nghệ. Cuối tháng này, chúng tôi sẽ chia sẻ kết quả của cuộc đào sâu vào hành vi tống tiền/tình Năm Thứ Hai, kết hợp với Diễn đàn Đa bên liên quan ảo sắp tới của Liên minh Công nghệ về việc đe dọa phát tán hình ảnh nhạy cảm để tống tiền trẻ vị thành niên. 

Đầu năm nay, chúng tôi rất vinh dự được là đơn vị đầu tiên hỗ trợ Know2Protect, một chiến dịch nâng cao nhận thức cộng đồng đầu tiên được Bộ An ninh Nội địa Hoa Kỳ (DHS) phát động hồi đầu năm nay. Chiến dịch này giáo dục và trao quyền cho những người trẻ tuổi, các bậc cha mẹ, các người lớn đáng tin cậy và các nhà hoạch định chính sách để giúp ngăn chặn và chống lại các tội phạm như đe dọa phát tán hình ảnh nhạy cảm để tống tiền. Ngoài việc quyên góp không gian quảng cáo trên Snapchat cho các tài nguyên giáo dục K2P, chúng tôi đang tiến hành nghiên cứu bổ sung với thanh thiếu niên và người trẻ tuổi ở Hoa Kỳ để cung cấp thêm tin tức cho chiến dịch. Chúng tôi cũng đồng ra mắt Ống kính Snapchat thực tế tăng cường để giúp giáo dục người dùng Snapchat thông qua một bài kiểm tra Know2Protect mang tính tương tác. Và ở Vương quốc Anh, chúng tôi đã hỗ trợ chiến dịch nâng cao nhận thức cộng đồng tiếp cận rộng rãi của IWF xung quanh những vấn đề này cho đến nay, Gurls Out Loud, được thiết kế để thông báo cho các bạn gái từ 11 đến 13 tuổi về hành vi chăn dắt tình dục trực tuyến, nhắn tin sex và gửi ảnh khỏa thân. Ngoài ra, gần đây chúng tôi đã ra mắt Hướng dẫn dành cho Nhà giáo dục về Snapchat, hợp tác với trung tâm Safe and Sound Schools để phát triển bộ công cụ toàn diện cho các nhà giáo dục, bao gồm thông tin và hướng dẫn về cách chống lại hành vi đe dọa phát tán hình ảnh nhạy cảm. 

Dựa trên nhiều năm nghiên cứu, chúng tôi biết rằng việc nâng cao nhận thức và giáo dục cộng đồng là các công cụ mạnh mẽ trong việc giúp ngăn chặn các mối nguy hại trên mạng, và chúng tôi tiếp tục phát triển và thúc đẩy các nguồn tài nguyên trong ứng dụng để tiếp cận thanh thiếu niên và người trẻ tuổi trực tiếp trên Snapchat. Vào tháng 9 năm 2023, chúng tôi đã phát hành bốn tập phim “Safety Snapshot” mới trong ứng dụng, tập trung vào các rủi ro và điều gây hại về tình dục, bao gồm cả hành vi đe dọa phát tán hình ảnh nhạy cảm để tống tiền. Chúng tôi cũng cung cấp các tập phim về hành vi nhắn tin sex và hậu quả của việc tạo và chia sẻ ảnh khỏa thân, chăn dắt tình dục trẻ em trên mạng cho các mục đích tình dục, và mua bán tình dục trẻ em. Tất cả các nguồn tài nguyên này đã được các chuyên gia tại Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột (NCMEC) xem xét và được tạo ra với sự hợp tác với các đường dây nóng và đường dây trợ giúp có liên quan ở các khu vực địa lý quan trọng. 

Chúng tôi tiếp tục chống lại việc bóc lột và lạm dụng tình dục trẻ em trên mạng, nhưng vẫn còn nhiều việc phải làm. Vào năm 2025, chúng tôi sẽ tiếp tục nâng cao nhận thức về các mối nguy hại tiềm năng trên mạng và tiếp tục nhắc lại rằng bất kỳ ai cũng có thể là mục tiêu tiềm năng. Chúng tôi muốn làm gián đoạn và ngăn chặn các kẻ xấu một cách sớm và thường xuyên, và chúng tôi muốn sản xuất nhiều CyberTips hữu ích hơn nữa cho cơ quan thực thi pháp luật.

Điều quan trọng cần lưu ý là chúng tôi sử dụng nhiều chiến lược tương tự như vậy để chống lại các hành vi gây hại nghiêm trọng khác, như hoạt động ma túy bất hợp pháp, bao gồm việc bán thuốc giả, các mối đe dọa bạo lực và tự tử và nội dung tự gây hại. Chúng tôi nhận thấy rằng công việc của chúng tôi trong lĩnh vực này có thể không bao giờ hoàn thành, nhưng chúng tôi quan tâm sâu sắc đến sự an toàn của người dùng Snapchat và sẽ tiếp tục làm việc cộng tác trong toàn ngành, chính phủ, và cơ quan thực thi pháp luật để trao đổi thông tin và tăng cường khả năng phòng thủ của chúng tôi.