2025년 6월 20일

2025년 7월 1일

Snap은 당사의 안전 조치에 대한 이해를 돕기 위해 본 투명성 보고서를 연 2회 발행합니다. 당사는 안전성과 투명성에 대한 약속의 일환으로 콘텐츠 조정, 법 집행 대응, Snapchat 커뮤니티의 안전 및 웰빙에 관심을 가진 여러 이해관계자를 위해 본 보고서에서 보다 포괄적이고 유익한 정보를 제공하고자 지속적으로 노력하고 있습니다. 

본 투명성 보고서는 2024년 하반기(7월 1일~12월 31일)를 다룹니다. 당사는 사용자 신고 및 사전 탐지에 대한 글로벌 데이터, 커뮤니티 가이드라인 위반 항목별로 안전팀이 취한 조치, 법 집행 기관 및 정부 요청에 대한 대응 현황, 저작권 및 상표권 침해 신고에 대한 처리 결과를 공유합니다. 또한 일련의 관련 페이지 링크를 통해 국가별 정보도 제공합니다.

Snapchat에서 안전 및 개인정보보호에 관한 추가 자료를 찾으시려면 해당 페이지 하단에 있는 당사의 투명성 보고서 소개 탭을 참고하십시오.

본 투명성 보고서의 가장 최신 버전은 영어 버전이라는 점에 유의하시기 바랍니다.

Snap의 안전팀은 자동 탐지 도구를 활용한 선제 조치와 신고 기반의 사후 대응을 통해 커뮤니티 가이드라인을 집행하고 있습니다. 이에 대한 구체적인 내용은 본 보고서의 다음 섹션에 설명되어 있습니다. 이번 보고 기간(2024년 하반기)에서 당사 안전팀이 처리한 조치 건수는 다음과 같습니다.

다음은 커뮤니티 가이드라인 위반 유형별 세부 내역으로, 해당 위반을 선제적으로 탐지하거나 신고가 접수된 시점부터 관련 콘텐츠 또는 계정에 대해 최종 조치를 취하기까지 걸린 처리 시간 중앙값이 포함됩니다.

보고 기간 동안 Snapchat의 위반 조회 비율(VVR)은 0.01%로, 이는 커뮤니티 가이드라인을 위반한 콘텐츠가 Snap 및 스토리 조회수 10,000건당 1건 수준임을 의미합니다.

2024년 7월 1일부터 12월 31일까지 Snap의 안전팀은 커뮤니티 가이드라인 위반 사항에 대한 앱 내 신고에 대응하여 전 세계적으로 총 6,346,508건의 제재 조치를 취했으며, 여기에는 고유 계정에 대한 4,075,838건의 조치가 포함됩니다. 이러한 신고에 당사 안전팀이 조치를 취하는 데 걸리는 평균 처리 시간은 약 6분이었습니다. 신고 범주별 분석은 아래에서 확인할 수 있습니다. 

Snap은 모든 정책 범주에서 이전 보고 기간과 비교해 대응 시간을 평균 90% 단축했습니다. 이러한 시간 단축은 검토 역량을 확대하기 위한 집중적인 노력과, 피해의 심각도에 따라 신고 건의 우선순위를 효과적으로 개선한 결과입니다. 또한 보고 기간 동안 커뮤니티 가이드라인 위반 사용자의 아이디 및 표시 이름에 대한 제재 확대, Snapchat 내 커뮤니티 기능에 대한 신고 및 보호 기능 강화, 음성 메시지 등 신규 유형 미디어에 대한 앱 내 직접 신고 옵션 도입 등을 비롯한 안전 관련 조치에서 여러 변화를 단행했으며, 이러한 조치의 성과가 본 보고 데이터에 영향을 미쳤습니다. 

이러한 변화는 기타 안전 조치 및 외부 요인과 마찬가지로 특정 정책 영역에서 이전 보고 기간보다 더욱 뚜렷한 영향을 미쳤습니다. 해당 정책 범주에는 아동 성 착취 및 학대(CSEA)로 의심되는 콘텐츠, 유해한 허위 정보 및 스팸 관련 콘텐츠가 포함됩니다. 구체적으로 보자면:

• CSEA: 2024년 하반기에 CSEA 관련 신고 건수는 12% 감소했으며, 해당 신고에 대한 평균 대응 시간은 99% 단축되었습니다. 이러한 추세는 CSEA 콘텐츠에 대한 사전 탐지 기술이 지속적으로 발전하여 사용자의 신고 이전에 해당 콘텐츠를 선제적으로 처리할 수 있었던 점, 그리고 CSEA 관련 신고를 더욱 신속하고 효율적으로 처리할 수 있도록 절차를 개선한 점에서 비롯된 성과입니다. 하지만 이러한 개선에도 불구하고, 다른 정책 영역에 비해 CSEA 관련 콘텐츠 조치에는 더 많은 시간이 소요되는데, 이는 해당 콘텐츠가 전문 교육을 받은 전담 요원들이 참여하는 이중 검토 등 보다 전문화된 프로세스를 거치기 때문입니다.

• 유해한 허위 정보: 2024년 11월 미국 대선을 비롯한 정치적 사건들의 영향으로, 유해한 허위 정보 관련 신고 건수가 26% 증가한 것으로 나타났습니다.

• 스팸: 이번 보고 기간 동안 스팸으로 의심되는 신고에 대한 총 처리 건수는 50%, 총 규제 계정 수는 46% 감소하여 당사의 선제적 감지 및 조치 도구의 개선 효과가 반영것으로 확인되었습니다. 이는 계정 신호를 바탕으로 스팸 계정을 타겟팅하고, 스팸 행위자의 플랫폼 활동 초기 단계에서 해당 계정을 신속히 차단하기 위한 노력의 일환입니다. 이러한 노력은 이전 보고 기간부터 이미 시행되고 있었으며, 해당 기간 동안 스팸 관련 전체 처리 건수 및 제재 대상 고유 계정 수가 각각 65% 및 60% 정도 감소했습니다.

Snap은 자동화 도구를 사용해 커뮤니티 가이드라인 위반 여부를 선제적으로 탐지하고, 경우에 따라 제재 조치를 취합니다. 이러한 도구에는 PhotoDNA 및 Google의 CSAI Match와 같은 해시 매칭 기술, Google Content Safety API 및 AI와 머신러닝을 활용해 학대성 텍스트 및 미디어를 식별하도록 설계된 기타 맞춤형 기술이 포함됩니다. 

2024년 하반기 동안 당사는 자동 탐지 도구를 통해 커뮤니티 가이드라인 위반 사례를 선제적으로 탐지하고, 이에 대해 다음의 조치를 취했습니다.

저희 커뮤니티의 모든 구성원, 특히 미성년자에 대한 성적 착취는 불법적이고 혐오스러운 행위이며 커뮤니티 가이드라인에 의해 금지됩니다. Snap은 자사 플랫폼 내 아동 성적 착취 및 학대(CSEA)의 예방, 탐지 및 근절을 최우선 과제로 삼고 있으며, 그 외 범죄에 대한 대응 역량도 지속적으로 강화하고 있습니다.

Snap은 능동적 기술 감지 도구를 활용하여 CSEA 관련 콘텐츠를 식별합니다. 알려진 CSEA 관련 불법 이미지 및 영상 식별에는 PhotoDNA 및 Google의 CSAI Match와 같은 해시 매칭 도구를 활용하며, 기존에 해시화되지 않은 새로운 유형의 불법 이미지를 탐지하는 데는 Google Content Safety API를 사용합니다. 또한 기타 의심되는 CSEA 활동에는, 경우에 따라 행동 신호를 활용합니다. 저희는 법률에 따라 미국 국립 아동 실종 및 학대 방지 센터(NCMEC)에 CSEA와 관련된 내용을 신고합니다. 이후 NCMEC는 필요한 경우 국내 또는 국제 법 집행 기관과 협력합니다.

Snap은 2024년 하반기에 Snapchat에서 CSEA를 식별하고(사전 예방적으로 또는 신고 접수 뒤) 다음과 같은 조치를 취했습니다.

Snapchat은 도움이 필요한 Snapchat 사용자를 대상으로 리소스와 지원을 제공하여 친구들이 어려운 시기에 서로를 도울 수 있도록 지원합니다. 

Snap의 Here For You 검색 도구는 사용자가 정신 건강, 불안, 우울, 스트레스, 자살 충동, 슬픔 및 따돌림 등에 관련된 특정 검색어를 사용할 경우 전문가의 리소스를 제공합니다. 또한 고통받는 사람들을 지원하기 위한 노력의 일환으로 금전적 성착취 및 기타 성적인 위험과 피해에 대한 전용 페이지도 개발했습니다. 안전 자료 글로벌 리스트는 개인정보 보호, 안전 및 정책 허브에서 모든 Snapchat 사용자가 공개적으로 이용할 수 있습니다. 
당사 안전팀은 곤경에 처한 Snapchat 사용자를 인지할 경우, 자해 예방 및 지원 리소스를 제공하고 필요시 응급 구조 기관에 연락할 수 있는 체계를 갖추고 있습니다. Snap이 제공하는 자료는 글로벌 안전 자료 리스트에서 확인할 수 있으며, 모든 Snapchat 사용자에게 공개되어 있습니다.

아래는 2024년 하반기 동안 계정 잠금 조치에 대해 사용자가 이의를 제기하고 재검토를 요청한 사례에 대한 정보를 기술합니다.

이 항목에서는 일부 지역을 대상으로 커뮤니티 가이드라인 위반에 대해 선제적 조치 또는 앱 내 신고를 바탕으로 취한 조치 현황을 개괄적으로 설명합니다. Snap의 커뮤니티 가이드라인은 전 세계 모든 지역의 Snapchat 콘텐츠와 사용자에게 적용됩니다.

모든 EU 회원국을 포함한 개별 국가의 정보는 첨부된 CSV 파일에서 다운로드할 수 있습니다.

Snap은 모든 광고가 당사의 광고 정책을 완벽하게 준수하도록 최선을 다하고 있습니다. 당사는 모든 Snapchat 사용자가 안심하고 이용할 수 있는 환경을 조성하기 위해 책임 있는 광고 운영 원칙을 지향합니다. 모든 광고는 Snapchat의 검토와 승인을 거쳐야 합니다. 또한 사용자 의견에 대응하여 광고를 삭제할 권한을 갖고 있으며, 이를 신중하게 검토합니다. 

아래에는 Snapchat에 게시된 후 당사에 신고된 유료 광고에 대한 조정 관련 인사이트가 포함되어 있습니다. Snapchat의 광고 정책에 명시된 대로 사기성 콘텐츠, 성인용 콘텐츠, 폭력적이거나 불쾌한 콘텐츠, 혐오 발언, 지적 재산권 침해와 같은 다양한 이유로 Snapchat에서 광고가 삭제될 수 있습니다. 또한 Snap의 투명성 허브에서 Shapchat 광고 갤러리를 확인할 수 있으며, 탐색 바를 통해 바로 접속할 수 있습니다.