Mọi người đều xứng đáng được cảm thấy an toàn khi trực tuyến và có quyền kiểm soát hình ảnh của mình. Trên Snapchat, chúng tôi nghiêm cấm việc chia sẻ, quảng bá hoặc phân phối nội dung khiêu dâm, bao gồm cả hình ảnh thân mật không có sự đồng thuận (NCII). Nhưng với sự giúp đỡ của các nhà lập pháp, chúng tôi có thể hệ thống hóa và củng cố các tiêu chuẩn ngành cũng như cung cấp các biện pháp bảo vệ mạnh mẽ hơn chống lại loại tổn hại này. Đó là lý do tại sao chúng tôi tự hào hỗ trợ H.R. 633, còn được gọi là Đạo luật TAKE IT DOWN (Công cụ để giải quyết hành vi bóc lột đã biết bằng cách vô hiệu hóa Deepfake công nghệ trên các trang web và mạng).

Đạo luật TAKE IT DOWN quy định việc đăng tải NCII và các hình ảnh tương tự là một tội hình sự liên bang. Đạo luật này cũng yêu cầu các trang web và nền tảng như Snapchat phải xóa những hình ảnh đó trong vòng 48 giờ kể từ khi có yêu cầu từ nạn nhân, và phải nỗ lực hợp lý để xác định và xóa các bản sao của (các) hình ảnh đó. Luật này là một bước quan trọng không chỉ trong việc giúp bảo vệ mọi người khỏi việc hình ảnh riêng tư của họ bị chia sẻ mà không có sự cho phép, mà còn trong việc hạn chế sự phân phối các hình ảnh thân mật do AI tạo ra có thể gây tổn hại tương tự.

Tại Snap, việc bảo vệ cộng đồng của chúng tôi — đặc biệt là những người dùng trẻ tuổi — là ưu tiên hàng đầu của chúng tôi. Đạo luật TAKE IT DOWN phù hợp và bổ sung cho những nỗ lực không ngừng của chúng tôi nhằm ngăn chặn những kẻ xấu phát tán hình ảnh thân mật không có sự đồng thuận (NCII) và hình ảnh lạm dụng và bóc lột tình dục trẻ em (CSEAI) trên mạng. Công việc của chúng tôi bao gồm: 

• Hành động nhanh chóng đối với các báo cáo 

Đội ngũ an toàn 24/7 của chúng tôi phản hồi nhanh chóng các báo cáo về quấy rối hoặc nội dung khiêu dâm, nhằm đảm bảo hành động nhanh chóng khi các Tín Đồ Snapchatter cần giúp đỡ. Chúng tôi giúp việc báo cáo trở nên dễ dàng ngay trong ứng dụng, cho phép các Tín Đồ Snapchatter báo cáo các tin nhắn, câu chuyện hoặc tài khoản cá nhân trực tiếp từ các cuộc trò chuyện. Chúng tôi cũng có các danh mục cụ thể để mọi người báo cáo NCII và CSEAI để đội ngũ an toàn của chúng tôi có thể ưu tiên những báo cáo đó và hành động nhanh chóng.

• Hỗ trợ nạn nhân thông qua các mối quan hệ đối tác toàn ngành

Chúng tôi tích cực tham gia vào chương trình Take It Down của Trung tâm Quốc gia về Trẻ em Mất tích và Bị bóc lột (NCMEC), chương trình này cho phép trẻ vị thành niên tạo ra "dấu vân tay" kỹ thuật số của các hình ảnh thân mật mà không cần chia sẻ hình ảnh thực tế. Chúng tôi sử dụng những dấu vân tay này để phát hiện nội dung trùng khớp trên Snapchat và xóa bất cứ thứ gì vi phạm chính sách của chúng tôi. Chúng tôi cũng tham gia vào các chương trình tương tự như Report Remove ở Vương quốc Anh, cũng dành cho hình ảnh của trẻ vị thành niên, và StopNCII cho người từ 18 tuổi trở lên – tất cả đều giúp ngăn chặn sự lan truyền của hình ảnh thân mật trên nền tảng của chúng tôi.

• Công nghệ tiên tiến để phát hiện và xóa nội dung có hại 

Chúng tôi sử dụng công nghệ chuyên biệt như PhotoDNA để phát hiện các hình ảnh bất hợp pháp đã biết và CSAI Match của Google cho các video bất hợp pháp đã biết. Chúng tôi cũng sử dụng API An toàn Nội dung của Google để giúp chúng tôi xác định các hình ảnh bất hợp pháp chưa được báo cáo hoặc băm trước đây. 

• Bảo vệ thanh thiếu niên khỏi người lạ và các tài khoản đáng ngờ

Để giải quyết xu hướng lừa đảo tống tiền tình dục gần đây, chúng tôi đã triển khai các biện pháp bảo vệ cho người dùng trẻ tuổi giúp ngăn người lạ tìm thấy hồ sơ của họ và kết nối với họ. Chúng tôi cảnh báo thanh thiếu niên về các yêu cầu kết bạn đáng ngờ và ngăn chặn hoàn toàn việc gửi yêu cầu kết bạn khi nó đến từ một tài khoản không có bạn chung với một thanh thiếu niên hoặc nếu tài khoản đó có lịch sử truy cập Snapchat ở các địa điểm liên quan đến hoạt động lừa đảo. Chúng tôi cũng thực hiện các bước để ngăn chặn những kẻ vi phạm tạo tài khoản mới trên cùng một thiết bị, hoặc sử dụng cùng một địa chỉ email hoặc số điện thoại. 

• Làm việc với cơ quan thực thi pháp luật 

Đội ngũ Hoạt động Thực thi Pháp luật của chúng tôi đã phát triển đáng kể, cho phép chúng tôi hợp tác tốt hơn với các cơ quan chức năng để giúp giữ an toàn cho các Tín Đồ Snapchatter. Chúng tôi tổ chức một hội nghị thượng đỉnh thực thi pháp luật hàng năm tại Hoa Kỳ và làm việc với các cơ quan thực thi pháp luật quốc tế, bao gồm cả ở Tây Phi, nơi nhiều vụ tống tiền tình dục bắt nguồn. Khi có trường hợp khẩn cấp, chúng tôi thường phản hồi các yêu cầu tiết lộ dữ liệu liên quan từ cơ quan thực thi pháp luật trong vòng 30 phút. Ngoài ra, khi chúng tôi biết về hành vi bóc lột tình dục trẻ em – dù là khi được báo cáo cho chúng tôi và/hoặc chúng tôi chủ động xác định được – chúng tôi sẽ báo cáo cho NCMEC, cơ quan này sẽ phối hợp với các cơ quan thực thi pháp luật trong nước và quốc tế khi thích hợp.

• Giáo dục và Nhận thức 

Để giúp giáo dục trực tiếp cộng đồng của chúng tôi, chúng tôi đã ra mắt các video dạng ngắn trong ứng dụng về các rủi ro tình dục và các tác hại tiềm ẩn thông qua kênh “Safety Snapshot” của chúng tôi trên Khám Phá. Các chủ đề bao gồm đe dọa phát tán hình ảnh nhạy cảm để tống tiền và hậu quả của việc chụp và chia sẻ ảnh khỏa thân. Ngoài ra, chúng tôi đã phát triển các tài nguyên cho phụ huynh và nhà giáo dục để giúp họ hiểu cách thanh thiếu niên sử dụng Snapchat và các biện pháp bảo vệ hiện có để giúp giữ an toàn cho họ. Snap của chúng tôi Hội đồng vì Sức khỏe Kỹ thuật số quy tụ các thanh thiếu niên để ủng hộ các thói quen trực tuyến an toàn hơn trong trường học và cộng đồng của họ. Chúng tôi cũng hợp tác với các chuyên gia để hỗ trợ các sáng kiến như Know2Protect, một chiến dịch nâng cao nhận thức cộng đồng quốc gia do Bộ An ninh Nội địa Hoa Kỳ phát động nhằm giúp ngăn chặn và chống lại các tội phạm như đe dọa phát tán hình ảnh nhạy cảm để tống tiền. 

Cam kết không ngừng của chúng tôi 

Mặc dù chúng tôi hài lòng với những tiến bộ của mình, chúng tôi biết rằng công việc của mình có thể không bao giờ kết thúc. Tại Snap, chúng tôi sẽ tiếp tục nâng cao nhận thức về các tác hại tiềm ẩn trên mạng, phát triển các công nghệ mới để phát hiện nội dung vi phạm và hợp tác với các đối tác trong ngành, các cơ quan chính phủ, cơ quan thực thi pháp luật, xã hội dân sự, phụ huynh và chính những người trẻ tuổi. 

Bằng cách hỗ trợ Đạo luật TAKE IT DOWN và tiếp tục các nỗ lực an toàn của mình, chúng tôi đang hướng tới một tương lai nơi mọi người có thể tận hưởng việc kết nối với bạn bè và gia đình trực tuyến mà không sợ bị bóc lột hoặc lạm dụng. 

Chúng tôi quan tâm sâu sắc đến sự an toàn của mọi Tín Đồ Snapchatter và vẫn cam kết biến nền tảng của chúng tôi thành một môi trường không thân thiện đối với những kẻ xấu và một không gian lành mạnh cho sự kết nối chân thực.