Ngày 5 tháng 12 năm 2024

Ngày 5 tháng 12 năm 2024

Chúng tôi công bố báo cáo minh bạch này hai lần một năm để cung cấp thông tin chi tiết về những nỗ lực đảm bảo an toàn của Snap. Chúng tôi cam kết thực hiện những nỗ lực này và không ngừng phấn đấu để các báo cáo này toàn diện hơn và cung cấp nhiều thông tin hơn cho nhiều bên liên quan, những người quan tâm sâu sắc đến việc kiểm duyệt nội dung, các hoạt động thực thi pháp luật cũng như sự an toàn và phúc lợi của cộng đồng Snapchat. 

Báo cáo minh bạch này bao gồm nửa đầu năm 2024 (1 tháng 1 - 30 tháng 6). Giống như các báo cáo trước đây, chúng tôi chia sẻ dữ liệu về khối lượng nội dung trong ứng dụng trên toàn cầu và báo cáo cấp tài khoản mà các nhóm Tin cậy và An toàn của chúng tôi đã nhận được và thực thi theo các danh mục vi phạm Nguyên tắc Cộng đồng cụ thể; cách chúng tôi phản hồi các yêu cầu từ cơ quan thực thi pháp luật và chính phủ; và cách chúng tôi phản hồi các thông báo về vi phạm bản quyền và nhãn hiệu. Chúng tôi cũng cung cấp thông tin chi tiết theo từng quốc gia trong các tệp được liên kết ở cuối trang này.

Là một phần trong cam kết liên tục cải thiện các báo cáo minh bạch, chúng tôi cũng giới thiệu dữ liệu mới nêu bật những nỗ lực chủ động của mình nhằm phát hiện và xử lý nhiều hành vi vi phạm Nguyên tắc Cộng đồng hơn. Chúng tôi đã đưa dữ liệu này vào báo cáo này ở cả cấp độ toàn cầu và quốc gia và sẽ tiếp tục làm như vậy trong tương lai. Chúng tôi cũng đã sửa lỗi ghi nhãn trong các báo cáo trước đây: trước đây chúng tôi đề cập đến “Tổng số nội dung đã xử lý”, giờ chúng tôi đề cập đến “Tổng số hành động thực thi” để phản ánh thực tế rằng dữ liệu được cung cấp trong các cột có liên quan bao gồm cả các hành động thực thi ở cấp độ nội dung và cấp độ tài khoản.

Để biết thêm thông tin về chính sách của chúng tôi nhằm chống lại các tác hại tiềm ẩn trực tuyến và kế hoạch tiếp tục phát triển các hoạt động báo cáo, vui lòng đọc blog An toàn và Tác động gần đây của chúng tôi về Báo cáo Minh bạch này. Để tìm kiếm thêm các nguồn lực hỗ trợ an toàn và quyền riêng tư trên Snapchat, hãy xem tab Giới thiệu về Báo cáo Minh bạch ở cuối trang.

Xin lưu ý rằng phiên bản cập nhật nhất của Báo Cáo Minh Bạch này có thể được tìm thấy trong phần ngôn ngữ Anh-Mỹ.

Các nhóm Tin cậy và An toàn của chúng tôi thực thi Nguyên tắc Cộng đồng theo cả cách chủ động (thông qua việc sử dụng các công cụ tự động) và phản ứng (để phản hồi các báo cáo), sẽ được trình bày chi tiết hơn trong các phần sau của báo cáo này. Trong chu kỳ báo cáo này (nửa đầu 2024), các nhóm Tin cậy và An toàn của chúng tôi đã thực hiện các hành động thực thi sau: 

Dưới đây là phân tích chi tiết theo từng loại vi phạm Nguyên tắc Cộng đồng liên quan, bao gồm thời gian xử lý trung bình giữa thời điểm chúng tôi phát hiện vi phạm (chủ động hoặc sau khi nhận được báo cáo) và thời điểm chúng tôi thực hiện hành động cuối cùng đối với nội dung hoặc tài khoản có liên quan:

Trong thời gian báo cáo, chúng tôi thấy Tỷ lệ lượt xem vi phạm (VVR) là 0,01 phần trăm, điều này có nghĩa là trong mỗi 10.000 lượt xem Snap và Story trên Snapchat thì có 1 lượt xem chứa nội dung vi phạm Nguyên tắc Cộng đồng của chúng tôi.

Từ ngày 1 tháng 1 đến ngày 30 tháng 6 năm 2024, để phản hồi các báo cáo trong ứng dụng về hành vi vi phạm Nguyên tắc cộng đồng, các nhóm Tin cậy và An toàn của Snap đã thực hiện tổng cộng 6.223.618 hành động thực thi trên toàn cầu, bao gồm thực thi đối với 3.842.507 tài khoản độc nhất. Thời gian xử lý trung bình để các nhóm Tin cậy và An toàn của chúng tôi thực hiện hành động thực thi để phản hồi các báo cáo đó là khoảng 24 phút. Dưới đây là thông tin chi tiết về từng danh mục báo cáo. 

Tổng khối lượng báo cáo của chúng tôi vẫn khá ổn định trong nửa đầu năm 2024 so với sáu tháng trước. Trong chu kỳ này, chúng tôi đã chứng kiến sự gia tăng về tổng số hành động thực thi và tổng số tài khoản độc nhất bị xử lý khoảng 16%.

Trong 12 tháng qua, Snap đã giới thiệu các cơ chế báo cáo mới cho người dùng, dẫn đến những thay đổi trong khối lượng báo cáo và thực thi của chúng tôi cũng như sự gia tăng thời gian xử lý trong giai đoạn báo cáo này (nửa đầu 2024). Cụ thể:

• Báo cáo Nhóm Chat: Chúng tôi đã giới thiệu Báo cáo Nhóm Chat nhóm vào ngày 13 tháng 10 năm 2023, cho phép người dùng báo cáo hành vi lạm dụng xảy ra trong cuộc trò chuyện nhiều người. Thay đổi này tác động đến thành phần số liệu của chúng tôi trong các danh mục báo cáo (vì một số tác hại tiềm ẩn có nhiều khả năng xảy ra trong bối cảnh trò chuyện) và tăng khả năng thực hiện báo cáo. 

• Cải tiến Báo cáo Tài khoản: Chúng tôi cũng đã phát triển tính năng Báo cáo Tài khoản để cung cấp cho người dùng báo cáo một tùy chọn gửi bằng chứng trò chuyện khi người này báo cáo tài khoản bị nghi ngờ do kẻ xấu điều hành. Thay đổi này, cung cấp cho chúng tôi nhiều bằng chứng và bối cảnh hơn để đánh giá báo cáo tài khoản, được triển khai vào ngày 29 tháng 2 năm 2024. 

Báo cáo Chat, và đặc biệt là Báo cáo Nhóm Chat là một trong những báo cáo phức tạp và tốn thời gian nhất để xem xét, làm tăng thời gian xử lý trên diện rộng. 

Báo cáo về nghi ngờ Lạm dụng và Bóc lột Tình dục Trẻ em (CSEA), Quấy rối và Bắt nạt, cũng như Phát ngôn Thù hận đặc biệt bị ảnh hưởng bởi hai thay đổi được mô tả ở trên, và bởi những thay đổi trong hệ sinh thái rộng lớn hơn. Cụ thể:

• CSEA: Chúng tôi đã quan sát thấy sự gia tăng các báo cáo và hành động thực thi liên quan đến CSEA trong nửa đầu năm 2024. Cụ thể, chúng tôi đã thấy tổng số báo cáo của người dùng trong ứng dụng tăng 64%, tổng số hành động thực thi tăng 82% và tổng số tài khoản độc nhất bị xử lý tăng 108%. Những sự gia tăng này phần lớn là do sự ra mắt của các chức năng Nhóm Chat và Báo cáo Tài khoản. Do tính chất nhạy cảm của hàng đợi kiểm duyệt này, một nhóm các nhân viên được đào tạo bài bản được giao nhiệm vụ xem xét các báo cáo về các vi phạm tiềm ẩn liên quan đến CSEA. Việc có thêm nhiều báo cáo kết hợp với việc các nhóm của chúng tôi phải thích nghi với các khóa đào tạo mới đã dẫn đến việc tăng thời gian xử lý. Trong tương lai, chúng tôi đã tăng đáng kể quy mô của các nhóm nhà cung cấp toàn cầu nhằm giảm thời gian xử lý và thực thi chính xác các báo cáo về hành vi CSEA tiềm ẩn. Chúng tôi hy vọng Báo cáo Minh bạch nửa đầu năm 2024 của chúng tôi sẽ phản ánh thành quả của nỗ lực này với thời gian xử lý được cải thiện đáng kể. 
  

• Quấy rối và Bắt nạt: Dựa trên các báo cáo, chúng tôi nhận thấy Quấy rối và Bắt nạt xảy ra nhiều hơn trong các cuộc trò chuyện, đặc biệt là các cuộc trò chuyện nhóm. Những cải tiến mà chúng tôi đã giới thiệu cho Báo cáo Nhóm Chat và Báo cáo Tài khoản giúp chúng tôi thực hiện hành động toàn diện hơn khi đánh giá báo cáo trong danh mục báo cáo này. Thêm vào đó, kể từ thời điểm này, chúng tôi yêu cầu người dùng nhập bình luận khi gửi báo cáo về quấy rối và bắt nạt. Chúng tôi xem xét bình luận này để ngữ cảnh hóa từng báo cáo. Những thay đổi này cùng nhau dẫn đến sự gia tăng đáng kể về tổng số hành động thực thi (+91%), tổng số tài khoản độc nhất bị xử lý (+82%) và thời gian xử lý (+245 phút) cho các báo cáo tương ứng. 
  

• Phát ngôn Thù hận: Trong nửa đầu năm 2024, chúng tôi đã quan sát thấy sự gia tăng về nội dung được báo cáo, tổng số hành động thực thi và thời gian xử lý Phát ngôn Thù hận. Cụ thể, chúng tôi thấy số lượng báo cáo trong ứng dụng tăng 61%, tổng số hành động thực thi tăng 127% và tổng số tài khoản độc nhất bị xử lý tăng 125%. Điều này một phần là do những cải tiến trong cơ chế báo cáo trò chuyện của chúng tôi (như đã thảo luận trước đó) và càng trở nên trầm trọng hơn do môi trường địa chính trị, đặc biệt là sự tiếp diễn của xung đột Israel-Hamas. 

Trong giai đoạn báo cáo này, chúng tôi đã chứng kiến mức giảm khoảng 65% về tổng số hành động thực thi và mức giảm khoảng 60% về tổng số tài khoản độc nhất bị xử lý để phản hồi các báo cáo về nghi ngờ Tin rác và Lạm dụng, phản ánh sự cải tiến trong các công cụ phát hiện và thực thi chủ động của chúng tôi. Chúng tôi đã chứng kiến sự sụt giảm tương tự về tổng số hành động thực thi khi phản hồi các báo cáo về nội dung liên quan đến Tự gây thương tích và Tự tử (giảm khoảng 80%), phản ánh cách tiếp cận lấy nạn nhân làm trung tâm đã được cập nhật của chúng tôi, theo đó, trong những trường hợp thích hợp, nhóm Tin cậy và An toàn của chúng tôi sẽ gửi cho người dùng có liên quan các nguồn lực tự trợ giúp, thay vì thực hiện hành động thực thi đối với những người dùng đó. Cách tiếp cận này được đưa ra bởi các thành viên trong Ban cố vấn an toàn của chúng tôi, bao gồm giáo sư nhi khoa và bác sĩ y khoa chuyên về các rối loạn truyền thông và internet tương tác.

Chúng tôi triển khai các công cụ tự động để chủ động phát hiện và trong một số trường hợp, xử lý các hành vi vi phạm Nguyên tắc Cộng đồng của chúng tôi. Những công cụ này bao gồm các công cụ so khớp băm (bao gồm PhotoDNA và Công nghệ so khớp Hình ảnh Lạm dụng Tình dục Trẻ em (CSAI) của Google), các công cụ phát hiện ngôn ngữ lăng mạ (phát hiện và thực thi dựa trên danh sách các từ khóa và biểu tượng cảm xúc lăng mạ đã xác định và được cập nhật thường xuyên) và công nghệ trí tuệ nhân tạo / máy học đa phương thức. 

Trong nửa đầu năm 2024, chúng tôi đã áp dụng các biện pháp xử lý sau đây sau khi chủ động phát hiện các hành vi vi phạm Nguyên tắc Cộng đồng của chúng tôi thông qua việc sử dụng công cụ tự động:

Việc lạm dụng tình dục bất kỳ thành viên nào trong cộng đồng của chúng tôi, đặc biệt là trẻ vị thành niên, là bất hợp pháp, ghê tởm và bị cấm theo Cẩm nang Cộng đồng của chúng tôi. Việc ngăn ngừa, phát hiện và xóa bỏ Lạm dụng và Khai thác Tình dục Trẻ em (CSEA) trên nền tảng là ưu tiên hàng đầu của Snap và chúng tôi liên tục phát triển khả năng của mình để chống lại loại tội phạm này, cũng như các loại tội phạm khác.

Chúng tôi sử dụng các công cụ phát hiện công nghệ chủ động, chẳng hạn như công nghệ so khớp băm mạnh mẽ PhotoDNA và Công nghệ so khớp Hình ảnh Lạm dụng Tình dục Trẻ em (CSAI) của Google để xác định các hình ảnh và video bất hợp pháp đã biết về CSEA. Ngoài ra, trong một số trường hợp, chúng tôi sử dụng các tín hiệu hành vi để thực thi chống lại các hoạt động CSEA bất hợp pháp tiềm ẩn khác. Chúng tôi báo cáo nội dung liên quan đến CSEA cho Trung tâm Quốc gia Hoa Kỳ về Trẻ em Mất tích và Bị bóc lột (NCMEC) theo yêu cầu của pháp luật. NCMEC sau đó sẽ phối hợp với cơ quan thực thi pháp luật trong nước hoặc quốc tế theo yêu cầu.

Trong nửa đầu năm 2024, chúng tôi đã thực hiện các hành động sau đây khi phát hiện CSEA trên Snapchat (chủ động hoặc sau khi nhận được báo cáo):

Chúng tôi quan tâm sâu sắc đến sức khỏe tinh thần và hạnh phúc của Tín đồ Snapchatter và liên tục thông báo về các quyết định của chúng tôi để xây dựng Snapchat một cách khác biệt. Là nền tảng được thiết kế để giao tiếp giữa những người bạn thực sự, chúng tôi tin rằng Snapchat có thể đóng một vai trò độc nhất trong việc tạo điều kiện cho bạn bè giúp đỡ nhau trong thời điểm khó khăn. Đây là lý do tại sao chúng tôi phát triển các nguồn lực và hỗ trợ cho các Tín đồ Snapchatter đang cần được giúp đỡ. 

Công cụ tìm kiếm Here For You của chúng tôi hiển thị các nguồn lực từ các đối tác chuyên gia địa phương khi người dùng tìm kiếm các chủ đề nhất định liên quan đến sức khỏe tâm thần, lo lắng, trầm cảm, căng thẳng, ý định tự tử, đau buồn và bắt nạt. Chúng tôi cũng đã phát triển một trang dành riêng cho thủ đoạn đe dọa tống tiền bằng hình ảnh nhạy cảm và các rủi ro, tác hại tình dục khác trong nỗ lực hỗ trợ những người đang gặp nạn. Danh sách các nguồn lực an toàn toàn toàn cầu của chúng tôi được cung cấp công khai cho tất cả Tín đồ Snapchatter tại Trung tâm Quyền riêng tư, An toàn và Chính sách của chúng tôi. 

Khi nhóm Tin cậy và An toàn của chúng tôi biết có một Tín đồ Snapchatter đang gặp nạn, họ có thể chuyển tiếp các nguồn lực hỗ trợ và phòng ngừa tự gây hại, đồng thời thông báo cho nhân viên ứng phó khẩn cấp khi cần thiết. Các nguồn lực mà chúng tôi chia sẻ đều có sẵn trong danh sách các nguồn lực an toàn toàn cầu của chúng tôi và được cung cấp công khai cho tất cả Tín đồ Snapchatter.

Dưới đây chúng tôi cung cấp thông tin về các khiếu nại mà chúng tôi nhận được từ người dùng về việc yêu cầu chúng tôi xem xét lại quyết định khóa tài khoản của họ:

Phần này cung cấp tổng quan về hành động của các nhóm Tin cậy và An toàn nhằm thực thi Nguyên tắc Cộng đồng của chúng tôi, mang tính chủ động và phản hồi về các báo cáo vi phạm trong ứng dụng, tại một số khu vực địa lý. Nguyên tắc Cộng đồng của chúng tôi áp dụng cho tất cả nội dung trên Snapchat và tất cả các Tín đồ Snapchatter trên toàn cầu, bất kể vị trí.

Bạn có thể tải xuống thông tin về các quốc gia riêng lẻ, bao gồm tất cả các Quốc gia Thành viên Châu Âu, qua tệp CSV đính kèm.

Snap cam kết đảm bảo rằng tất cả các quảng cáo đều tuân thủ đầy đủ các chính sách quảng cáo của chúng tôi. Chúng tôi tin vào cách tiếp cận có trách nhiệm và tôn trọng đối với quảng cáo, tạo ra một trải nghiệm an toàn và thú vị cho mọi người dùng. Tất cả các quảng cáo phải được chúng tôi xem xét và phê duyệt. Ngoài ra, chúng tôi có quyền xóa quảng cáo, bao gồm cả việc trả lời lại phản hồi của người dùng, điều mà chúng tôi rất coi trọng. 

Dưới đây, chúng tôi đã đưa ra thông tin chi tiết về hoạt động kiểm duyệt của chúng tôi đối với các quảng cáo trả phí được báo cáo sau khi chúng được đăng trên Snapchat. Xin lưu ý rằng các quảng cáo trên Snapchat có thể bị gỡ bỏ vì nhiều lý do khác nhau như được nêu trong Chính sách Quảng cáo của Snap, bao gồm cả nội dung lừa đảo, nội dung người lớn, nội dung bạo lực hoặc quấy rối, phát ngôn thù ghét, và vi phạm sở hữu trí tuệ. Thêm vào đó, giờ bạn có thể tìm thấy Thư viện Quảng cáo của Snapchat trong thanh điều hướng của báo cáo minh bạch này.