Snap은 Snapchat 커뮤니티의 안전을 위해 최선을 다하고 있습니다. Snap의 목표는 아동 성 착취 및 학대(CSEA)와 관련된 혐오스러운 범죄를 포함하여 디지털 생태계 전반에 걸쳐 있는 다양한 온라인 위험과 잠재적 유해로부터 사용자를 보호하는 것입니다. Snap은 수년간 Snapchat 앱 전반에 걸쳐 사전 감지 및 사후 대응 조치를 모두 사용하여 이러한 불법 콘텐츠와 사악한 범죄 행위에 맞서 싸워왔습니다. 지난 한 해 동안 Snap은 가해자를 법의 심판대에 세우는 데 도움이 되도록 관련 정책과 절차를 추가로 변경했습니다. 이 자리에서 해당 노력에 대해 더 자세히 공유하고자 합니다.

CSEA란 무엇인가요?

아동 성 착취 및 학대는 미성년자에 대한 성적 피해와 관련된 다양한 불법 행위를 포함하며, 여기에는 다음이 포함됩니다. AI 생성 사진 및 동영상이라는 새로운 위협을 포함한 아동 성 착취 및 학대 이미지(CSEAI)의 시청, 제작 및 배포, 성적인 목적을 위한 미성년자의 온라인 그루밍 또는 유인, ¹성 착취, ²아동 성매매, 아동이 성적으로 학대받고 고문당하는 실시간 스트리밍. ³이러한 혐오스러운 현실이 실제로 존재한다는 것을 이해하기는 어렵습니다. 하지만 슬프게도 이러한 학대는 항상 존재해 왔으며, 이제 디지털 세계는 학대의 대안적인 수단을 제공하여 범죄의 방식을 더 빠르고 광범위하게 확장하고 있습니다.

런던에 본사를 둔 WeProtect 글로벌 얼라이언스(WeProtect Global Alliance)의 의장인 어니 앨런(Ernie Allen)은 "기술은 아동에게 성적 관심을 가진 사람들이 아동에 대해 환상을 품고, 접근하고, 희생시키는 방식을 근본적으로 바꾸어 놓았습니다."라고 말했습니다.WeProtect 글로벌 얼라이언스.뉴욕 타임스는 '온라인 아동 성 착취 위기가 한계점에 이르렀다'고 썼습니다. 또한 신고 건수가 급증하고, 범죄자들이 더 어린 피해자의 이미지와 더 흉악한 범죄를 공유하고 있으며, 법 집행 기관이 이를 따라잡기 위해 고군분투하고 있다고 지적했습니다. FBI가 7,200% 증가했다고 보고한 성 착취, 실시간 스트리밍 학대 등과 같은 새로운 변종을 이 문제에 추가한다면, 이 문제가 전 세계 정책 의제의 최상위에 있어야 한다는 것은 분명합니다."라고 덧붙였습니다.

기술 기업의 법적 의무

미국 기술 기업이 자사 플랫폼이나 서비스에서 CSEA를 인지하게 되면 미국 실종 및 착취 아동 방지 센터(NCMEC)에 신고할 법적 의무가 있습니다. 그러면 NCMEC는 이러한 사이버팁(CyberTip)을 검토하고 국내외 법 집행 기관과 협력하여 아동 피해자를 보호하고 가해자를 처벌하는 데 도움을 줍니다.

작년까지 NCMEC에 접수된 사이버팁의 연간 총 건수는 매년 크게 증가하여 2023년에는 사상 최고치인 3,620만 건에 달했습니다. ⁴이는 2022년 3,200만 건을 약간 상회하는 수치이며, NCMEC의 사이버팁라인(CyberTipline)이 만들어진 1998년의 4,560건에서 크게 증가한 수치입니다. 전 세계적인 성 착취의 지속적인 급증과 Snap 자체 사이버팁의 조치 가능성에 대해 법 집행 기관으로부터 받은 피드백 등 다른 요인들과 더불어, 이러한 사이버팁의 기록적인 증가는 Snap이 2024년에 사이버팁 보고를 재조정하기 위해 NCMEC에 처음 접근하게 된 계기가 되었습니다.

저는 수년간 사이버팁 보고를 모니터링해 왔으며, 일부 기술 기업의 관행이 NCMEC에모든 것을 보고하는 추세로 가고 있다고 굳게 믿습니다. 심지어 법적 의무를 넘어서서라도 말입니다. 이는무언가를 놓쳤다는 비난을 받을까 두려워서입니다. ⁵법에 따라 신고하지 않는 회사는 무거운 벌금에 처해질 수 있습니다. 그러나 이러한 보고 방식은 많은 보고서의 낮은 조치 가능성(사이버팁에 법 집행 기관이 조치를 취하기에 충분한 맥락이 부족하거나 보고된 행위가 경우에 따라 우선순위가 아니기 때문)과 결합되어 사이버팁의 증가, 여러 차례의 광범위한 검토, 법 집행 기관의 좌절감 증가로 이어졌습니다.

목표: 가치 높은 사이버팁

NCMEC와의 재조정 목표는 Snap 자체 플랫폼 정책과 NCMEC에 보고하기 위해 마련한 프로토콜을 개선하여 Snap 사이버팁의 조치 가능성과 가치를 더욱 높이는 것이었습니다. 초기 재조정은 2024년 5월에 이루어졌으며, Snap의 정책 변경은 작년 하반기에 완전히 발효되었습니다.

보고서의 순수한 수치에만 너무 많은 중점을 두는 것은 피해야 하지만, 정책 개선을 시행한 이후 Snap은 NCMEC에 대한 전체 보고량이 크게 감소하고 온라인 유인에 대한 에스컬레이션도 비슷하게 감소했다는 소식을 전하게 되어 기쁩니다. 이 모든 것은 사이버팁에서 CSEA를 보고해야 하는 법적 의무를 여전히 이행하면서 이루어졌습니다. 그러나 2024년 후반에 변경 사항이 시행되어 수정 사항을 반영할 수 있는 기간이 몇 달밖에 남지 않았기 때문에 낮은 총계는 아직 NCMEC의 연간 보고량에 반영되지 않았습니다.

이와 병행하여 Snap 팀은 사이버팁의 데이터와 라벨링을 개선하기 위해 노력해 왔습니다. 이러한 명확화는 혐의가 있는 범죄와 관련된 개인을 더 잘 식별하는 데 도움이 될 수 있으며, 결과적으로 NCMEC와 법 집행 기관이 보고서를 더 빠르고 정확하게 분류할 수 있도록 합니다. NCMEC에 보고할 필요가 없는 경우에도 Snap은 위반 콘텐츠 제거, 계정 비활성화, 새 계정 생성 차단 등의 조치를 통해 플랫폼 정책에 위배되는 이미지와 행동을 계속해서 처리할 것입니다.

재조정 점검

지난달, Snap은 NCMEC와 두 번째 재조정을 실시했습니다. 이 자리에서 Snap 팀은 작년의 내부 정책 변경 사항을 요약하고, 진행 상황에 대해 NCMEC에 업데이트했으며, 몇 가지 추가 운영 지침을 확인하고, 앞으로 몇 달 동안의 기대치를 설정하는 데 도움을 주었습니다. 또한 NCMEC와 법 집행 기관 모두에 대한 보고서의 가치를 계속 향상시키기를 바라는 몇 가지 추가 계획된 정책 및 보고 추가 사항을 미리 살펴보았습니다. 당연히 이는 반복적인 과정이지만, 지난 한 해 동안의 진전에 고무되어 있습니다.

향후 전망

시간이 지남에 따라 NCMEC와 법 집행 기관은 이전 연도에 비해 Snap으로부터의 사이버팁 양이 계속 감소할 것으로 예상하지만, 그들이 받는 보고서 중 더 많은 비율이실제로더 높은 품질의 정보를 포함하고 더 조치 가능해야 합니다.

Snap은 안전 작업의 모든 측면에서 지속적인 개선을 위해 최선을 다하고 있습니다. Snap은 CSEA나 기타 잠재적인 온라인 피해에 맞서 싸우는 것과 관련하여 모든 해답을 가지고 있는 척하지 않습니다. 누구도 그래서는 안 되며, 누구도 그렇지 않기 때문입니다. 매일매일 Snap은 사회 전체의 문제와 싸우고 있으며, 위험을 완화하고 피해를 줄이는 궁극적인 두 가지 목표를 가지고회사전체의 접근 방식을 취합니다.

사이버팁과 관련하여, Snap은 그리 멀지 않은 미래에 대한 뚜렷한 목표를 가지고 있습니다. 주 아동 대상 인터넷 범죄 태스크포스(ICAC) 사령관이든, 연방 수사관이든, 지구 반대편에 있는 법 집행 기관의 구성원이든, Snap은 주, 연방 및 국제 당국이 Snap의 보고서가 일관되게 조치 가능하고, 가치 있고, 철저하다는 것을 알기 때문에 자신 있게 Snap의 사이버팁을 추적하기를 바랍니다. 그리고 Snap의 희망은 이러한 노력이 관련 체포의 상응하는 증가를 촉진하는 데 도움이 되는 것입니다. ⁶와 전 세계적인 유죄 판결로 이어지는 것입니다.

NCMEC, WeProtect, 미국의 61개 ICAC 태스크포스, 전 세계 법 집행 기관, 그리고 CSEA 퇴치 분야의 모든 동료 및 협력자에게 큰 감사를 드립니다. 또한 Snap의 전략과 접근 방식을 더욱 개선하기 위해 여러분의 피드백을 언제나 환영하며 간절히 기다리고 있다는 점을 덧붙입니다. 우리는 모두 함께합니다.

- 재클린 보셰어, 플랫폼 안전 글로벌 책임자