2024년 12월 5일

2024년 12월 5일

당사는 Snap의 안전 노력에 대한 통찰력을 제공하기 위해 연 2회 이 투명성 보고서를 발행합니다. 이러한 노력에 최선을 다하고 있으며, 콘텐츠 조정, 법 집행 관행, Snapchat 커뮤니티의 안전과 웰빙에 깊은 관심이 깊은 이해 관계자를 위해 이러한 보고서를 보다 포괄적이고 유익하게 제공하기 위해 지속적으로 노력하고 있습니다. 

이 투명성 보고서는 2024년 상반기(1월 1일 ~ 6월 30일)를 다루고 있습니다. 이전 보고서와 마찬가지로, 저희 신뢰 및 안전팀은 전 세계적으로 접수된 앱 내 콘텐츠 및 계정 관련 신고 건수와 특정 커뮤니티 가이드라인 위반 사항에 대해 공유합니다. 또한 법 집행 기관 및 정부의 요청에 어떻게 대응했는지에 대한 데이터를 공유합니다. 저작권 및 상표권 침해 고지에 대한 대응 방식 관련 데이터를 공유합니다. 또한 이 페이지 하단에 링크된 파일에서 국가별 인사이트를 제공합니다.

투명성 보고서를 지속적으로 개선하기 위한 노력의 일환으로, 더 넓은 범주의 커뮤니티 가이드라인 위반을 감지하고 시행하며 사전 예방적 노력을 강조하는 새로운 데이터도 도입하고 있습니다. 이 보고서에는 글로벌 및. 국가 수준의 데이터가 모두 포함되어 있으며, 앞으로도 계속 그렇게 할 것입니다. 또한 이전 보고서의 라벨 오류도 수정했습니다. 이전에 '시행된 총 콘텐츠'라고 표기했던 것을 '총 시행 건수'로 변경해, 해당 열의 데이터가 콘텐츠와 계정 수준의 시행을 모두 포함한다는 점을 반영했습니다.

잠재적인 온라인 피해 방지정책과 신고 관행을 지속적으로 발전시키기 위한 계획에 대한 자세한 내용은 이 투명성 보고서에 대한 최근 안전 및 영향 블로그를 읽어보십시오. Snapchat에서 안전 및 개인정보보호에 관한 추가 자료를 찾으시려면 해당 페이지 하단에 있는 당사의 투명성 보고서 소개 탭을 참고하십시오.

이러한 투명성 보고서의 최신 버전은 en-US 지역 설정에서 찾을 수 있습니다.

신뢰 및 안전팀은 이 보고서의 다음 섹션에 자세히 설명된 대로 사전 예방적(자동화된 도구 사용) 및 사후 대응적(신고에 대한 대응)으로 커뮤니티 가이드라인을 시행합니다. 이 보고 주기(2024년 상반기)에 신뢰 및 안전팀은 다음 시행 조치를 취했습니다. 

다음은 위반 사항 유형별 분석으로, 해당 사항을 감지한 시점(사전 예방 차원 또는 신고 접수 시점)부터 관련 콘텐츠 또는 계정에 대해 최종 조치를 취한 시점까지의 평균 처리 시간이 포함됩니다.

보고 기간 중, Snapchat의 위반 조회 비율(VVR)은 0.01%였으며, 이는 Snap 및 스토리 조회수 10,000개당 1개의 콘텐츠가 당사 커뮤니티 가이드라인을 위반한 것임을 의미합니다.

2024년 1월 1일부터 6월 30일까지 Snap의 신뢰 및 안전팀은 커뮤니티 가이드라인 위반 사항에 대한 앱 내 신고에 대응해 3,842,507개의 고유 계정에 대한 조치를 포함하여 전 세계적으로 총 6,223,618건의 시행 조치를 취했습니다. 신뢰 및 안전팀이 이러한 신고에 대응하여 집행 조치를 취하는 데 걸리는 평균 처리 시간은 약 24분이었습니다. 신고 범주별 분석은 아래에서 확인할 수 있습니다. 

전체적인 신고 건수는 지난 6개월과 비교하여 2024년 상반기에 상당히 안정적으로 유지되었습니다. 이번 주기에는 총 시행 건수와 시행된 고유 계정 수가 약 16% 증가했습니다.

지난 12개월 동안 Snap은 사용자를 위해 새로운 신고 메커니즘을 도입했으며, 이는 이 신고 기간(2024년 상반기) 동안 신고 및 시행 건수의 변화와 처리 시간 증가를 설명합니다. 구체적으로 보자면:

• 그룹 채팅 신고: 2023년 10월 13일에 그룹 채팅 신고를 도입하여 여러 사람이 참여하는 채팅에서 발생하는 부적절한 행위를 신고할 수 있게 되었습니다. 이러한 변경은(일부 잠재적 피해는 채팅 상황에서 발생할 가능성이 더 높기 때문에) 신고 범주 전반의 지표 체계에 영향을 미쳤고 신고 조치 가능성을 높였습니다. 

• 계정 신고 개선: 또한, 신고한 사용자가 악의적인 행위자가 운영하는 것으로 의심되는 계정을 신고할 때 채팅 증거를 제출할 수 있도록 신고 기능을 개선하였습니다. 계정 신고를 평가할 수 있도록 더 많은 상황과 증거를 제공하는 이 변경 사항은 2024년 2월 29일부터 시행되었습니다. 

채팅 신고, 특히 그룹 채팅 신고는 검토하는 데 가장 복잡하여 시간이 많이 걸리기 때문에 전반적으로 처리 시간이 길어졌습니다. 

아동 성적 착취 및 학대(CSEA), 괴롭힘/추행 및 따돌림, 혐오 발언에 대한 신고는 특히 위에서 설명한 두 가지 변경 사항과 더 광범위한 에코시스템 변화로 인해 영향을 받았습니다. 구체적으로 보자면:

• CSEA: 2024년 상반기에 CSEA 관련 신고 및 집행 건수가 증가했습니다. 특히 사용자의 앱 내 총 신고 건수는 64%, 총 시행 건수는 82%, 시행 조치가 취해진 총 고유 계정 수는 108% 증가했습니다. 이러한 증가는 주로 그룹 채팅 및 계정 신고 기능 도입으로 인한 것입니다. 이 조정 대기열의 민감한 특성을 감안하여, 고도로 훈련된 에이전트로 구성된 선별 팀이 잠재적 CSEA 위반 신고를 검토하도록 배정되었습니다. 팀이 새로운 교육에 적응하는 과정에서 신고량이 증가해 처리 시간이 길어지고 있습니다. 앞으로 처리 시간을 단축하고 잠재적인 CSEA 신고를 정확하게 처리하기 위해 글로벌 벤더 팀의 규모를 크게 늘렸습니다. 2024년 하반기 투명성 보고서에는 이러한 노력의 결실이 반영되어 처리 시간이 크게 개선될 것으로 예상됩니다. 
  

• 괴롭힘/추행 및 따돌림: 신고에 따르면 괴롭힘/추행과 따돌림은 채팅, 특히 그룹 채팅에서 집중적으로 발생하는 것으로 확인되었습니다. 그룹 채팅 신고와 계정 신고 기능에 도입된 개선 사항을 통해 이 신고 범주를 보다 철저히 평가하고 적절한 조치를 취할 수 있게 되었습니다 또한 이 기간부터 괴롭힘/추행 및 따돌림 신고를 제출할 때 사용자가 의견을 입력해야 합니다. 우리는 각 신고의 맥락을 파악하기 위해 신고된 의견을 검토합니다. 종합적으로 이러한 변화 덕분에 해당 신고에 대한 총 시행 건수(+91%), 시행 조치가 취해진 고유 계정 수(+82%), 처리 시간(+245분)이 크게 증가했습니다. 
  

• 혐오 발언: 2024년 상반기에는 혐오 발언에 대해 신고된 콘텐츠, 총 시행 건수, 처리 시간이 증가했습니다. 명확히 보면, 앱 내 신고가 61%, 총 시행 건수가 127%, 시행된 고유 계정 수가 125% 증가했습니다. 이는 앞서 설명했던 채팅 신고 메커니즘의 개선 덕분이며, 지정학적 환경, 특히 이스라엘-하마스 분쟁의 지속으로 인해 더욱 심화되었습니다. 

이 보고 기간 동안 스팸 및 남용 의심 신고에 대한 총 시행 건수는 최대 65%, 시행된 총 고유 계정 수는 최대 60% 감소했으며, 이는 사전 예방감지와 조치 도구의 개선이 반영된 결과입니다. 자해 및 자살 관련 콘텐츠 신고에 대한 총 시행 건수는 비슷한 감소세를 보여 최대 80% 감소했으며, 이는 피해자 중심 접근 방식을 업데이트한 결과를 반영합니다. 필요에 따라 신뢰 및 안전팀은 해당 사용자에게 시행 조치를 취하는 대신 자가 관리 지원 리소스를 제공합니다. 이러한 접근 방식은 상호작용형 미디어와 인터넷 중독을 전문으로 하는 소아과 교수와 의사를 포함한 안전 자문위원회 위원들의 조언을 받았습니다.

Snap은 자동화 도구를 배포하여 커뮤니티 가이드라인 위반 사항을 사전에 감지하고, 필요에 따라 조치를 취합니다. 이러한 도구에는 해시 매칭 도구(PhotoDNA 및 Google CSAI Match 포함), 악용 언어 감지 도구(식별되고 정기적으로 업데이트되는 악용 키워드 및 이모티콘 목록을 기반으로 감지하고 거부), 다중 모드 인공지능/머신 러닝 기술 등이 있습니다. 

2024년 상반기, 자동화된 시스템을 통해 커뮤니티 가이드라인 위반 사항을 사전에 감지하고, 이에 대한 대응 조치를 취했습니다.

저희 커뮤니티의 모든 구성원, 특히 미성년자에 대한 성적 착취는 불법적이고 혐오스러운 행위이며 커뮤니티 가이드라인에 의해 금지됩니다. Snap은 플랫폼에서 아동 성적 착취 및 학대(CSEA)를 예방하고 탐지하며 근절하는 것을 최우선 과제로 삼고 있으며, 다른 범죄를 퇴치할 수 있는 역량도 지속적으로 강화하고 있습니다.

PhotoDNA의 강력한 해시 매칭 기술과 Google의 아동 성적 학대 이미지 매치(CSAI)를 활용해 CSEA 관련 불법 이미지와 동영상을 식별합니다. 또한 경우에 따라 행동적 신호를 사용하여 다른 잠재적인 불법 CSEA 활동에 대한 조치를 취합니다. 저희는 법률에 따라 미국 국립 아동 실종 및 학대 방지 센터(NCMEC)에 CSEA와 관련된 내용을 신고합니다. 그런 다음 NCMEC는 필요한 경우 국내/국제법 집행기관과 협력합니다.

2024년 상반기에 Snapchat에서 CSEA를 (사전 예방적으로 또는 신고를 받은 시점에) 감지한 후 다음과 같은 조치를 취했습니다.

저희는 Snapchat 사용자의 정신 건강과 웰빙에 깊은 관심을 갖고 있으며, 이는 Snapchat을 새로운 방식으로 구축하겠다는 결정에 반영되었습니다. 앞으로도 계속 그렇게 할 것입니다. 저희는 실제 친구 간의 의사소통을 위해 설계된 플랫폼으로서, Snapchat은 어려운 순간에 친구가 서로 도울 수 있도록 지원하는 고유한 역할을 할 수 있다고 믿습니다. 그래서 도움이 필요한 Snapchat 사용자를 위한 리소스와 지원을 개발해 왔습니다. 

Here For You 검색 도구는 사용자가 정신 건강, 불안, 우울증, 스트레스, 자살 충동, 슬픔, 괴롭힘과 관련된 특정 주제를 검색할 때 현지 전문가 파트너가 제공하는 리소스를 표시합니다. 또한 고통받는 사람들을 지원하기 위한 노력의 일환으로 금전적 성착취 및 기타 성적인 위험과 피해에 대한 전용 페이지도 개발했습니다. 안전 자료 글로벌 리스트는 개인정보 보호, 안전 및 정책 허브에서 모든 Snapchat 사용자가 공개적으로 이용할 수 있습니다. 

신뢰 및 안전팀이 고통 받고 있는 Snapchat 사용자를 확인하게 되는 경우, 자해 예방 및 지원 자료를 제공하고, 필요시 대응 요원에게 알릴 수 있습니다. Snap이 제공하는 자료는 글로벌 안전 자료 리스트에서 확인할 수 있으며, 모든 Snapchat 사용자에게 공개되어 있습니다.

아래에서는 계정 정지 결정에 대한 검토를 요청하는 사용자로부터 접수된 이의 제기에 대한 정보를 제공합니다.

이 섹션에서는 일부 지역에서 앱 내 위반 신고에 대응하고 사전에 커뮤니티 가이드라인을 시행하기 위한 신뢰 및 안전팀의 조치를 간략히 설명합니다. 당사의 커뮤니티 가이드라인은 전 세계 모든 지역의 Snapchat 콘텐츠와 사용자에게 적용됩니다.

모든 EU 회원국을 포함한 개별 국가의 정보는 첨부된 CSV 파일에서 다운로드할 수 있습니다.

Snap은 모든 광고가 당사의 광고 정책을 완벽하게 준수하도록 최선을 다하고 있습니다. 저희는 모든 사용자에게 안전하고 즐거운 경험을 제공하기 위해 책임감 있고 신중한 방식으로 광고를 운영하고 있습니다. 모든 광고는 Snapchat의 검토와 승인을 거쳐야 합니다. 또한 사용자 의견에 대응하여 광고를 삭제할 권한을 갖고 있으며, 이를 신중하게 검토합니다. 

아래에는 Snapchat에 게시된 후 당사에 신고된 유료 광고에 대한 조정 관련 인사이트가 포함되어 있습니다. Snapchat의 광고 정책에 명시된 대로 사기성 콘텐츠, 성인용 콘텐츠, 폭력적이거나 불쾌한 콘텐츠, 혐오 발언, 지적 재산권 침해와 같은 다양한 이유로 Snapchat에서 광고가 삭제될 수 있습니다. 또한 이제 이 투명성 보고서의 탐색 표시줄에서 Snapchat의 광고 갤러리를 찾을 수 있습니다.