2023년 6월 20일

2023년 6월 20일

안전을 위한 당사의 노력과 플랫폼에서 신고된 콘텐츠의 성격 및 규모에 대한 이해를 돕기 위해 Snap은 연 2회 투명성 보고서를 발행합니다. 당사는 커뮤니티의 웰빙과 더불어 콘텐츠 조정 및 법 집행 관행에 깊은 관심을 가지고 있는 많은 이해 관계자들을 위해 이 보고서를 더욱 포괄적이며 유익한 것으로 만들기 위해 최선을 다하고 있습니다. 

이번 보고서는 2022년 하반기(7월 1일 ~ 12월 31일)를 다루고 있습니다. 이전 보고서와 마찬가지로, 특정 범주의 정책 위반 사례 전반에 대해 접수 및 조치된 앱 내 콘텐츠 및 계정 수준의 글로벌 신고 건수, 법 집행 기관 및 정부의 요청에 대한 대응 방식, 그리고 국가별 제재 조치 내역에 관한 데이터를 공유합니다. 또한 Snapchat 콘텐츠의 위반 조회율, 잠재적 상표권 침해, 플랫폼 상의 허위 정보 발생 건수 등 최근 추가된 항목들도 보고서에 포함되어 있습니다.

투명성 보고서를 지속적으로 개선하기 위한 노력의 일환으로, 이번 보고서에는 몇 가지 새로운 요소가 도입되었습니다. 이전 보고 기간 대비 주요 데이터 변화를 평가하는 '콘텐츠 및 계정 위반 분석' 섹션을 추가했습니다. 

또한 랜딩 페이지와 국가별 하위 페이지의 콘텐츠 및 계정 위반 표에서 데이터를 표시하는 방법을 업데이트했습니다. 이전에는 콘텐츠 제재 건수가 가장 많은 순서에서 적은 순서로 위반 사례를 정리했습니다. 일관성을 높이기 위해, 위반 사례 배열 순서를 커뮤니티 가이드라인의 구성과 동일하게 맞췄습니다. 이는 Snap의 안전 자문 위원회의 제안에 따른 것입니다. 안전 자문 위원회는 Snapchat 커뮤니티의 안전을 유지하는 방법에 대해 독립적으로 교육, 이의 및 문제를 제기하고 Snap에 조언을 제공합니다.

마지막으로, 플랫폼 정책 및 운영 활동에 대한 추가적인 이해를 제공하기 위해 커뮤니티 가이드라인 설명서 링크를 추가하여 용어집을 업데이트했습니다. 

온라인 유해 콘텐츠 대응에 관한 당사의 정책 및 신고 절차의 지속적인 개선 계획에 대한 자세한 내용은 본 투명성 보고서에 관한 최근 안전 및 영향 블로그를 참고하시기 바랍니다. 

Snapchat에서 안전 및 개인정보 보호에 관한 추가 자료를 찾으시려면 해당 페이지 하단에 있는 투명성 보고서 소개 탭을 참고하십시오.

Snap은 2022년 7월 1일부터 12월까지, 전 세계적으로 자사 정책을 위반한 콘텐츠 6,360,594건에 대해 조치를 취했습니다. 

보고 기간 중에 Snapchat의 위반 조회율(VVR)은 0.03%였으며, 이는 Snap 및 스토리 조회수 10,000개당 3개의 콘텐츠가 저희 정책을 위반한 것이었음을 의미합니다.

*허위 정보에 대해 정확하고 일관되게 조치하는 일은, 계속해서 변화하는 상황을 반영하여 세심하게 주의를 기울여야 하는 역동적인 절차입니다.  이 분야에서 당사 상담원의 조치 정확도를 높이기 위해, 당사는 2022년 상반기부터 허위 정보 조치 사례 중 통계적으로 의미 있는 부분을 엄격하게 품질 검증한 후, '조치된 콘텐츠'와 '조치된 고유 계정' 수치로 추정하여 보고하고 있습니다. 특히, 각 국가의 허위 정보 조치 사례 중 통계적으로 유의미한 부분을 표본으로 추출하여, 해당 조치 결정의 품질을 검토하고 있습니다. 그런 다음, 품질 검토를 마친 조치 사례를 기반으로 95% 신뢰 구간(+/- 5% 오차 범위)으로 조치율을 산출합니다. 이 수치는 투명성 보고서에 포함되는 허위 정보 조치 건수를 산출하는 데 사용합니다.

이번 주기에는 전체 콘텐츠 및 계정 신고 건수가 38% 증가했습니다. 이는 계정 신고를 위한 앱 내 메뉴를 개선하여, Snapchat 사용자가 다양한 방식으로 문제를 신고할 수 있게 된 결과입니다. 그 결과, 전체 콘텐츠에 대한 조치가 12% 증가했으며, 고유 계정에 대한 조치는 40% 증가했습니다. 특히, 괴롭힘 및 따돌림, 기타 규제 대상 품목 카테고리에서 Snapchat 사용자들의 콘텐츠 및 계정 신고가 증가했습니다. 해당 카테고리에서 신고 건수가 각각 약 300%, 약 100% 증가했고, 콘텐츠 조치도 각각 약 83%, 약 86% 증가했습니다. 또한 스팸에 대한 신고 건수가 약 68% 증가했으며, 콘텐츠 조치 건수는 약 88% 증가했습니다. 

또한 콘텐츠 및 계정 신고 건수가 증가하면서, 관련 조치에 소요되는 시간 또한 증가했습니다. 모든 카테고리의 콘텐츠 및 계정에 대한 중간 처리 시간은 여전히 1시간 이내로 유지되고 있습니다.

전반적으로 모든 지표에서 증가세가 나타났지만, 당사는 커뮤니티가 플랫폼 내 위반 사항을 감지했을 때 이를 적극적이고 정확하게 신고할 수 있도록 관련 도구를 지속적으로 개선하는 것이 중요하다고 생각합니다.

커뮤니티의 모든 구성원, 특히 미성년자에 대한 성적 착취는 불법적이고 혐오스러운 행위이며 커뮤니티 가이드라인에 의해 금지됩니다. Snap은 자사 플랫폼에서 아동 성 착취 및 학대(CSEAI)를 예방, 탐지, 근절하는 것을 최우선 순위로 삼고 있으며, 이러한 범죄를 비롯한 기타 범죄에 대응하기 위한 역량을 지속적으로 강화하고 있습니다.

Snap의 신뢰 및 안전팀은 능동적 기술 탐지 도구(예: PhotoDNA의 강력한 해시 매칭, Google의 아동 성적 학대 이미지(CSAI) 매치 기술)를 활용해, 이미 알려진 불법 아동 성 착취 이미지와 동영상을 식별하고, 법에 따라 미국 실종학대아동방지센터(NCMEC)에 신고합니다. 그런 다음 NCMEC는 필요한 경우 국내/국제법 집행기관과 협력합니다.

2022년 하반기 동안, 여기에 보고된 전체 아동 성 착취 및 학대 위반 사례의 94%를 선제적으로 감지하고 조치했습니다.

**NCMEC에 제출하는 각 제출 건에는 여러 콘텐츠가 포함될 수 있습니다. NCMEC에 제출된 모든 개별 미디어는 조치가 취해진 총 콘텐츠와 동일합니다.

보고 기간 동안, 당사는 테러 및 폭력 극단주의 콘텐츠 금지 정책을 위반한 132개의 계정을 삭제했습니다.

Snap에서 저희는 여러 채널을 통해 신고된 테러 및 폭력 극단주의 콘텐츠를 삭제합니다. 여기에는 사용자가 앱 내 신고 메뉴를 통해 테러 및 폭력 극단주의 콘텐츠를 신고하도록 유도하는 것이 포함되며, Snap에 테러 및 폭력 극단주의 콘텐츠가 게시될 경우, 이를 해결하기 위해 법 집행 기관과 긴밀히 협력합니다.

당사는 Snapchat 사용자의 정신 건강과 웰빙에 깊은 관심을 갖고 있습니다. 이러한 가치는 Snapchat을 차별화된 방식으로 구축하겠다는 결정에 지속적으로 중요한 영향을 주고 있습니다. Snapchat은 진정한 친구 간의 소통을 위해 설계된 플랫폼으로, 친구들이 어려운 순간에 서로를 도울 수 있도록 지원하는 고유한 역할을 할 수 있다고 믿습니다.

당사의 신뢰 및 안전 팀은 Snapchat 사용자가 위급한 상황에 처해 있다고 판단될 경우, 자해 예방 및 지원 자료를 전달하고, 필요 시 긴급 구조 기관에 알릴 수 있습니다. Snap이 제공하는 자료는 글로벌 안전 리소스 목록에서 확인할 수 있으며, 모든 Snapchat 사용자에게 공개되어 있습니다.

이 부문에서는 샘플 지역에서 Snpa의 커뮤니티 가이드라인 시행에 대해 간략히 살펴봅니다. 당사의 가이드라인은 장소에 관계없이 전 세계 Snapchat의 모든 콘텐츠 및 사용자에게 적용됩니다.

개별 국가에 대한 정보는 첨부된 CSV 파일을 다운로드하여 확인할 수 있습니다.