누구나 온라인에서 안전함을 느끼고 자신의 이미지를 통제할 권리가 있습니다. Snapchat에서는 비동의 친밀 이미지(NCII)를 포함한 성적으로 노골적인 콘텐츠의 공유, 홍보 또는 배포를 명시적으로 금지합니다. 하지만 입법자들의 도움으로 업계 표준을 법제화하고 강화하며 이러한 유형의 피해에 대해 더 강력한 보호를 제공할 수 있습니다. 이것이 바로 저희가 자랑스럽게 지지하는 이유입니다. H.R. 633, TAKE IT DOWN(웹사이트 및 네트워크에서 기술적 딥페이크를 무력화하여 알려진 착취를 해결하기 위한 도구) 법안으로도 알려져 있습니다.

TAKE IT DOWN 법안은 NCII 및 유사한 이미지의 게시를 연방 범죄로 규정합니다. 또한 Snapchat과 같은 웹사이트 및 플랫폼이 피해자의 요청 후 48시간 이내에 해당 이미지를 삭제하고, 이미지 사본을 식별하고 삭제하기 위해 합리적인 노력을 기울이도록 요구합니다. 이 법은 개인의 사적인 이미지가 허락 없이 공유되는 것을 방지하는 데 도움이 될 뿐만 아니라, 그에 못지않게 해로울 수 있는 AI 생성 친밀 이미지의 유포를 제한하는 데에도 중요한 단계입니다.

Snap은 커뮤니티, 특히 청소년 사용자를 보호하는 것을 최우선 과제로 삼고 있습니다. TAKE IT DOWN 법안은 온라인에서 NCII(비동의 친밀 이미지) 및 아동 성 착취 및 학대 이미지(CSEAI)를 유포하는 악의적인 행위자를 막기 위한 Snap의 지속적인 노력과 일치하며 이를 보완합니다. 저희의 노력은 다음과 같습니다. 

• 신고에 대한 신속한 조치 

저희의 연중무휴 안전팀은 괴롭힘이나 성적인 콘텐츠 신고에 신속하게 대응하여 Snapchat 사용자가 도움이 필요할 때 신속한 조치를 보장하는 것을 목표로 합니다. 저희는 앱 내에서 쉽게 신고할 수 있도록 하여 Snapchat 사용자가 대화에서 직접 개별 메시지, 스토리 또는 계정을 신고할 수 있도록 합니다. 또한 사용자가 NCII 및 CSEAI를 신고할 수 있는 특정 카테고리를 마련하여 안전팀이 해당 신고를 우선적으로 처리하고 신속하게 조치할 수 있도록 합니다.

• 업계 전반의 파트너십을 통한 피해자 지원

저희는 미국 실종 및 착취 아동 센터(NCMEC)의 Take It Down 프로그램에 적극적으로 참여하고 있습니다. 이 프로그램은 미성년자가 실제 이미지를 공유하지 않고도 친밀한 이미지의 디지털 '지문'을 생성할 수 있도록 합니다. 저희는 이 지문을 사용하여 Snapchat에서 일치하는 콘텐츠를 감지하고 정책을 위반하는 모든 것을 제거합니다. 또한 영국에서 미성년자 이미지를 대상으로 하는 Report Remove 및 18세 이상을 위한 StopNCII와 같은 유사한 프로그램에 참여하여 플랫폼 전반에 걸쳐 친밀한 이미지의 확산을 방지하는 데 도움을 주고 있습니다.

• 유해 콘텐츠를 감지하고 제거하는 첨단 기술 

저희는 알려진 불법 이미지를 감지하기 위해 PhotoDNA와 같은 전문 기술을 사용하고, 알려진 불법 동영상에는 Google의 CSAI Match를 사용합니다. 또한 이전에 신고되거나 해시 처리되지 않은 불법 이미지를 식별하는 데 도움이 되도록 Google의 Content Safety API를 사용합니다. 

• 낯선 사람과 의심스러운 계정으로부터 청소년 보호

최근 성착취 사기 추세에 대응하기 위해, 저희는 낯선 사람이 청소년 사용자의 프로필을 찾고 연락하는 것을 방지하는 보호 기능을 출시했습니다. 저희는 청소년에게 의심스러운 친구 요청에 대해 경고하고, 청소년에게 공통 친구가 없는 계정에서 친구 요청이 오거나 해당 계정이 사기 활동과 관련된 위치에서 Snapchat에 접속한 이력이 있는 경우 친구 요청 전달을 완전히 차단합니다. 또한 위반자가 동일한 기기에서 새 계정을 만들거나 동일한 이메일 주소 또는 전화번호를 사용하는 것을 막기 위한 조치를 취합니다. 

• 법 집행 기관과의 협력 

저희의 법 집행 운영팀은 상당히 성장하여 당국과 더 잘 협력하여 Snapchat 사용자를 안전하게 보호할 수 있게 되었습니다. 저희는 미국에서 매년 법 집행 기관 서밋을 개최하고, 많은 성착취 사건이 발생하는 서아프리카를 포함한 국제 법 집행 기관과 협력합니다. 긴급 상황이 발생하면 일반적으로 법 집행 기관의 관련 데이터 공개 요청에 30분 이내에 응답합니다. 또한, 아동 성 착취를 인지하게 되면(신고를 받거나 사전에 식별한 경우) NCMEC에 보고하며, NCMEC는 적절하게 국내 및 국제 법 집행 기관과 협력합니다.

• 교육 및 인식 제고 

커뮤니티를 직접 교육하기 위해 저희는 “Safety Snapshot” 둘러보기 채널을 통해 성적 위험과 잠재적 피해에 대한 인앱 짧은 형식의 동영상을 출시했습니다. 주제에는 금전적 성착취와 누드 사진을 찍고 공유하는 것의 결과가 포함됩니다. 또한, 부모와 교육자가 청소년이 Snapchat을 어떻게 사용하고 어떤 안전 장치가 있는지 이해하는 데 도움이 되는 자료를 개발했습니다. 저희 Snap 디지털 웰빙 위원회는 청소년들을 모아 학교와 지역 사회에서 더 안전한 온라인 습관을 옹호합니다. 또한 전문가들과 협력하여 다음과 같은 이니셔티브를 지원합니다. Know2Protect, 미국 국토안보부가 금전적 성착취와 같은 범죄를 예방하고 퇴치하기 위해 시작한 전국적인 공공 인식 캠페인입니다. 

저희의 지속적인 노력 

저희는 지금까지의 성과에 만족하지만, 저희의 노력이 결코 끝나지 않을 수도 있다는 것을 알고 있습니다. Snap은 잠재적인 온라인 피해에 대한 인식을 계속 높이고, 위반 콘텐츠를 감지하는 새로운 기술을 개발하며, 업계 파트너, 정부 기관, 법 집행 기관, 시민 사회, 부모 및 청소년 자신과 협력할 것입니다. 

TAKE IT DOWN 법안을 지지하고 안전 노력을 계속함으로써, 저희는 모든 사람이 착취나 학대에 대한 두려움 없이 온라인에서 친구 및 가족과 연결을 즐길 수 있는 미래를 향해 노력하고 있습니다. 

저희는 모든 Snapchat 사용자의 안전을 깊이 생각하며, 저희 플랫폼을 악의적인 행위자에게는 적대적인 환경으로, 진정한 연결을 위한 건강한 공간으로 만들기 위해 계속 노력할 것입니다.