Snap은 악의적인 행위자가 플랫폼을 오용하는 것을 제한하기 위해 안전 메커니즘과 플랫폼 정책을 지속적으로 발전시키고 있습니다. 저희는 규정 위반 행위를 감지하고 차단하기 위해 첨단 기술을 활용하고, 친구 추가 과정에서 제약을 발생시키는 디자인 원칙을 적용하며, 법 집행을 지원하고, 정부 당국과 협력하고, 청소년 및 모든 지역 사회 구성원에게 영향을 미치는 가장 심각한 피해에 대한 인식을 제고하고 이에 대한 교육을 제공하기 위해 노력합니다.

저희는 청소년 보호에 대한 책임을 매우 중요하게 생각합니다. 이를 위해 다음 사항을 포함한 다양한 업무를 수행합니다.

I. Snapchat을 악의적 행위자에게 적대적인 환경으로 만들기

올해 초, 저희는 커뮤니티, 특히 10대 사용자를 더욱 안전하게 보호하며 현실 세계와의 관계를 강화하여 Snapchat을 더욱 독특하게 만드는 새로운 기능을 발표하였습니다. 해당 업데이트에는 의심스러운 연락처에 대한 앱 내 경고 기능 확대, 청소년을 위해 특별히 고안된 친구 추가 보호 기능 강화, 원치 않는 연락 차단 기능 개선 등의 사항이 포함됩니다.

이러한 변화는 온라인 상의 성적 착취에 대항하는 데 중점을 두고 있으며, 모든 형태의 아동 성 착취 및 학대를 퇴치하기 위한 지속적인 투자를 바탕으로 이루어집니다. 예:

저희는 성적 착취 행위를 식별하는 신호를 사용하여 악의적인 행위자가 타인을 목표로 피해를 가할 기회를 포착하기 전에 해당 행위를 적극적으로 저지합니다. 또한, 이러한 사항에는 Snaphat에 알려져 있는 아동 성 착취 및 학대 이미지(CSEAI)의 확산을 방지하도록 설계된 기술 PhotoDNA(알려져 있는 불법 이미지의 복제를 감지함), CSAI Match(알려져 있는 불법 동영상의 복제를 감지함), Content Safety API('이전에 해시되지 않은' 새로운 이미지 감지 지원)를 활용하고 배포하는 작업 등이 포함됩니다.

규정 위반 콘텐츠 및 계정을 앱에서 간편하게 신고하는 기능을 오랫동안 제공해왔지만, 2023년에는 성적 착취 관련 피해에 대항하기 위해 더욱 강화된 개선 조치를 취했습니다. 작년에는 앱 내 채팅 문자 신고 기능을 출시했습니다. 이를 통해 Snapchat 사용자는 대화 중에 직접 개별 메시지를 신고할 수 있습니다. 또한 앱 내 신고 도구의 기능을 확대하여 성적 착취에 대한 구체적이고 맞춤화된 신고 사유를 추가했으며, 아동 성 착취 및 학대(CSEA) 퇴치를 위한 NGO인 Thorn이 제공하는 조언과 지침에 따라 10대와 청소년이 공감할 수 있는 언어로 신고 옵션을 제공했습니다('내 누드 사진을 유출했어요/유출하겠다고 위협했어요'). 이러한 신고는 신호 기반 감지 및 규정 집행 등을 포함하여 저희의 규정 집행에 대한 노력을 알리는 데 사용됩니다. 저희는 추세, 패턴, 성적 착취 가해자의 수법을 분석하며, 계정이 어떠한 특징을 보이는 경우 성적 착취로 간주하여 계정을 잠금 처리 합니다.

저희는 2022년 출시한 패밀리 센터 도구 모음을 지속적으로 개선 및 추가하고 있습니다. 이를 통해 부모님은 자녀가 Snapchat에서 누구와 친구를 맺고 있는지, 최근에 누구와 채팅했는지 확인할 수 있으며, 문제가 될 수 있는 계정을 쉽게 신고할 수 있습니다. 패밀리 센터의 목표는 부모님/보호자와 청소년 사용자가 온라인에서 안전을 유지하는 방법에 대한 개방적이고 건설적인 대화를 유도하는 것입니다.

저희는 법 집행 기관과 긴밀히 협력하고 있으며, 지역 사회의 안전을 지키기 위해 전 세계에서 24시간 운영되는 안전 및 법 집행 운영 팀에 많은 투자를 하고 있습니다. 예를 들어, 2020년 이후 신뢰 및 안전 팀의 규모를 두 배 이상 증강했으며, 법 집행 운영 팀의 규모는 같은 기간 동안 세 배 이상 증강했습니다. 미국 법 집행 기관을 대상으로 연례 회의를 주최하여 플랫폼에서 발생할 수 있는 불법 활동에 대해 경찰 및 기관이 적절한 조치를 취하려면 어떻게 해야 하는지 이해하도록 돕습니다.

또한 다수의 성적 착취 사건이 발생하고 있는 나이지리아의 법 집행 기관과 직접 협력하여 가해자를 조사하고 기소하기 위한 역량 및 지식을 쌓고 있으며, 해당 분야에서 더욱 긴밀히 협력하기 위해 나이지리아 정부와 계속 소통할 계획입니다. 또한 International Justice Mission, NCMEC, 업계의 다른 구성원, NGO 등과 협력하여 미국 이외에 성적 착취가 만연한 국가의 법 집행 기관을 대상으로 CyberTip 관련 수사를 수행하는 방법을 교육하고 있습니다.

또한, 저희는 수년 동안 'Trusted Flaggers(신뢰할 수 있는 신고자)'로 구성된 강력한 주요 그룹들과 협력해왔습니다. 이는 비영리 단체, NGO, 일부 정부 기관 등으로 이루어져 있으며, Snapchat 사용자를 대신하여 최우선 순위 채널을 통해 학대 사례, 생명에 대한 긴급한 위협 및 기타 비상 상황을 신고하고 있습니다. 이러한 Trusted Flagger 프로그램의 참여자 대부분은 성적 착취를 포함하여 미성년자에 대한 성적 피해와 관련된 콘텐츠 및 사례를 신고하고 있습니다.

II. 업계 전문가 및 연합체의 참여

저희는 자체 투자를 수행하고 있을 뿐만 아니라 전 세계의 전문가들과 협력하고 있기도 합니다. 어떤 단체나 조직도 단독으로 이러한 문제를 의미 있게 해결할 수 없다는 점을 알고 있기 때문입니다. 예를 들어, Snap은 WeProtect Global Alliance의 국제 정책 위원회에서 업계를 대표하고 있습니다. 또한 INHOPE의 자문위원회 회원이며, 영국 인터넷 감시 재단(IWF) 이사회에 참여하고 있습니다. 이러한 모든 조직은 온라인 CSEA 근절을 임무의 핵심으로 두고 있습니다.

저희는 온라인 상의 성적 착취 및 학대에 대항하는 데 집중하고 있는 글로벌 산업 연합 Tech Coalition에서 적극적인 회원으로 활동하고 있으며, 최근 이사회 집행 위원으로서 2년의 임기를 완료했습니다. 또한 회사들이 자신의 아동 안전 정책 시행 방법을 강화하기 위한 최초의 교차 플랫폼 신호 공유 프로그램인 Tech Coalition의 Lantern 이니셔티브의 창립 멤버로 활동했습니다. 이 프로그램에 적극적으로 참여함으로써 기업들은 성적 착취자를 포함한 악의적인 행위자를 교차 점검하도록 서로 도울 수 있습니다.

또한 국립 실종 및 착취 아동 센터(NCMEC) Take It Down 데이터베이스를 활용하여 미성년자들이 자신의 기기에서 직접 선택한 이미지 또는 동영상의 디지털 지문을 생성할 수 있도록 지원합니다. 이러한 지문은 '해시'라고 합니다. Snap을 포함한 참여 회사는 이러한 해시를 사용하여 커뮤니티 가이드라인을 위반하는 중복 이미지를 찾고 제거할 수 있습니다. 영국에서 신고 후 제거하십시오(Report Remove)라는 유사한 프로그램에 참여하며, 작년에는 SWGfL의 StopNCII 협력에 합류하여 해당 그룹의 해시 데이터베이스를 활용하여 Snapchat에서 합의되지 않은 은밀한 이미지(NCII)가 확산되는 것을 방지했습니다. StopNCII는 18세 이상의 은밀한 이미지 확산을 막고 있으며, 피해자에게 가장 은밀한 사진 및 동영상에 대한 프라이버시를 회복할 수 있는 능력을 제공합니다.

또한, 올해에는 미국 전역의 18명의 청소년 그룹으로 구성된 최초의 디지털 웰빙을 위한 Snap 위원회(Snap Council for Digital Well-Being)를 시작했으며, 학교 및 커뮤니티에서 더욱 안전한 온라인 습관과 관행을 옹호하는 1년간의 파일럿 프로그램에 참여하기로 했습니다. 7월, 이 그룹에서는 최소 한 명의 부모 또는 보호자와 함께 캘리포니아주 산타 모니카의 Snap 본사에 모여 온라인 위험과 사회적 역학, 부모 도구 등의 주제에 대한 흥미로운 통찰력을 제공하는 토론을 했습니다. 이는 Snap의 안전 자문 위원회과는 별개로, 16명의 전문가 및 3명의 청소년 옹호자로 구성되어 안전 문제에 대해 Snap에게 직접적인 지침과 방향을 제시합니다. 2025년에는 두 그룹의 구성원들이 함께 모여 추가적인 통찰력을 얻을 수 있는 더 많은 기회를 만들기를 바랍니다.

III. 인식 제고

내부 투자, 그리고 전문가 및 여러 산업 전반과 함께하는 작업 외에도 온라인 성적 학대 및 성적 착취 계획에 대항하는 데 중요한 구성 요소는 대중 및 Snapchat 사용자의 인식 수준을 높이는 것입니다.

2022년에는 업계 선도적 연구인 디지털 웰빙 지수(Digital Well-Being Index)를 시작하여 청소년 및 청년들이 모든 플랫폼에 걸쳐 온라인상에서 어떻게 행동하고 있는지에 대한 통찰력을 제공했습니다. 이 연구의 일환으로 지난 2년 동안 저희는 성적 착취에 대해 심층적으로 조사했습니다. 이 연구는 Snapchat뿐만 아니라, 온라인상의 경험에 대한 일반적인 내용을 다루므로 저희 작업에 대한 정보를 제공할 뿐만 아니라 기술 생태계 전반의 다른 사람들에게도 통찰력을 제공하기를 바랍니다. 이번 달 말, 저희는 2년 차의 성적 착취에 대한 심층 연구 결과를 제공하며, 미성년자의 재정적 착취에 대한 Technology Coalition의 예정된 가상 다중 이해관계자 포럼과 함께 공유합니다.

올해 초에는 미국 국토안보부(DHS)가 올해 초 시작한 최초의 대중 인식 캠페인인 Know2Protect를 지원한 최초의 단체가 된 것을 영광으로 생각합니다. 이 캠페인은 청소년, 부모, 신뢰할 수 있는 성인, 정책 입안자를 교육하고 이들에게 권한을 부여함으로써 금전적 성착취 등의 범죄를 예방하고 퇴치할 수 있도록 합니다. Snapchat에서 K2P 교육 리소스를 위한 광고 공간을 기부하는 것 외에도, 미국 내 청소년 및 청년들과 함께 추가 연구를 수행하여 캠페인을 더욱 자세히 알리고 있습니다. 또한 증강 현실 Snapchat 렌즈를 공동 출시하여 상호 작용형 Know2Protect 퀴즈를 통해 Snapchat 사용자를 교육하는 데 도움을 주고 있습니다. 또한, 영국에서는 현재까지 이러한 문제에 대한 IWF의 대중 인식 제고 캠페인을 광범위하게 지원했습니다. 걸즈 아웃 라우드(Gurls Out Loud)는 11세에서 13세 사이의 소녀들에게 온라인 성적 그루밍, 섹스팅, 누드 사진 전송에 대해 알리기 위해 고안되었습니다. 또한, 최근에는 Snapchat 교육자 가이드를 출시하고, 안전하고 건강한 학교(Safe and Sound Schools)와 협력하여 성적 착취에 대처하는 방법에 대한 정보와 지침을 포함하는 교육자를 위한 포괄적인 툴킷을 개발합니다.

수년간 실시한 연구를 바탕으로 인식 제고 및 지역 사회 교육이 온라인 피해를 예방하는 데 도움이 되는 강력한 도구임을 알고 있습니다. 또한, Snapchat을 통해 청소년 및 청년들에게 직접 도달하기 위한 앱 내 리소스를 개발하고 홍보하고 있습니다. 2023년 9월에는 금전적 성착취 등 성적 위험과 피해에 초점을 맞춘 앱 내 'Safety Snapshot' 에피소드 4개를 새롭게 출시했습니다. 또한 섹스팅, 누드 사진 생성 및 공유, 성적 목적을 위한 온라인 아동 그루밍, 아동 성매매에 대한 결과를 담은 에피소드도 제공합니다. 이러한 모든 리소스는 국립 실종 및 착취 아동 센터(NCMEC)의 전문가들이 검토한 것으로, 주요 지역에서 관련 핫라인 및 헬프라인과 협력하여 제작했습니다.

저희는 온라인 아동 성적 착취와 학대에 맞서 계속 싸우고 있지만, 여전히 해야 할 일이 많습니다. 2025년에도 잠재적 온라인 피해에 대한 인식을 지속적으로 높이고, 누구나 잠재적 표적이 될 수 있음을 계속해서 강조할 것입니다. 저희는 초기에, 그리고 자주 악의적인 행위자를 방해하고 저지하기를 원하며, 법 집행 기관을 위해 훨씬 더 실행 가능한 CyberTips을 제작하고 싶습니다.

위조 약 판매, 폭력 위협, 자살, 자해 콘텐츠 등 불법 마약 활동과 같은 다른 심각한 피해에 맞서 싸울 때 이러한 동일한 전략 중 많은 부분을 사용하고 있다는 점에 유의해야 합니다. 이 분야에서 할 일이 결코 끝나지 않을 것임을 알고 있지만, Snapchat 사용자의 안전을 가장 중요하게 생각합니다. 또한, 업계, 정부, 법 집행 기관과 지속적으로 협력하여 정보를 교환하고 방어 체계를 강화해 나갈 것입니다.