이번 달 초 다른 주요 기술 회사와 함께 Snap은 200개 이상의 시민 사회 단체, 연구자 및 언론인으로부터 2024년 선거의 무결성을 보호하기 위한 노력을 강화할 것을 촉구하는 서신을 받았습니다. 저희는 이들의 지지에 감사드리며, 전 세계 사람들이 선거에 참여할 수 있도록 보장하고, 민주주의를 보호하기 위해 할 수 있는 모든 일을 하겠다는 약속을 공유합니다.

이러한 문제의 중요성, 그리고 Snapchat을 사용하여 친구 및 가족과 소통하고 콘텐츠를 통해 세상에 대해 더 많은 것을 배우는 수억 명의 사람들에 대한 깊은 책임을 감안할 때, 저희는 응답을 공개하는 것이 중요하다고 생각했습니다. 아래에서 저희의 편지를 읽고, 여기에서 올해 선거 계획에 대해 자세히 알아볼 수 있습니다.

***

2024년 4월 21일

친애하는 시민 사회 단체 여러분께

전 세계 전역의 전례 없는 선거 활동이 벌어지는 올해에 지속적인 감시와 지지에 감사드립니다. 저희는 Snap이 이 환경에서 우리의 책임에 어떻게 접근하고 있는지, 그리고 이러한 노력이 회사의 오랜 가치에 어떻게 반영되는지 더 자세히 공유할 수 있는 기회를 갖게 된 것에 대해 감사드립니다. 

Snapchat 접근 방식 개요

선거 관련 플랫폼 무결성에 대한 저희의 접근 방식은 계층화되어 있습니다. 높은 수준에서 핵심 요소는 다음과 같습니다.

• 의도적 제품 보호 장치,

• 명확하고 사려 깊은 정책,

• 정치 광고에 대한 성실한 접근,

• 협력, 조율된 운영 및

• Snapchat 사용자에게 역량을 강화할 수 있는 도구와 리소스를 제공합니다.

종합하면, 이러한 원칙은 광범위한 선거 관련 위험을 완화하기 위한 저희의 접근 방식을 뒷받침하며, Snapchat 사용자가 전 세계의 민주적 프로세스에 참여하는 것을 지원하는 도구와 정보에 액세스할 수 있도록 보장합니다. 

1. 의도적 제품 보호 장치

처음부터 Snapchat은 전통적인 소셜 미디어와 다르게 설계되었습니다. Snapchat은 심사 받지 않은 끝없는 콘텐츠의 피드를 열지 않으며, 사람들의 라이브 스트리밍을 허용하지 않습니다. 

저희는 오랫동안 유해한 디지털 허위 정보로 인한 가장 큰 위협은 일부 디지털 플랫폼이 이를 확산할 수 있는 속도와 규모에서 비롯된다는 것을 인식해 왔습니다. 저희의 플랫폼 정책 및 아키텍처는 심사 받지 않거나 조정되지 않은 콘텐츠가 확인되지 않은 채 의미 있는 규모로 확산될 수 있는 기회를 제한합니다. 대신 저희는 많은 시청자에게 노출되기 전에 콘텐츠를 미리 검토하며, 신뢰할 수 있는 게시자 및 크리에이터(예: 미국의 월스트리트 저널, 미국의 워싱턴 포스트, 프랑스의 르 몽드, 인도의 타임즈 나우 포함)로부터 나온 경우가 아니라면 뉴스 및 정치 정보의 배포를 광범위하게 제한합니다. 

지난 해 Snapchat에 생성형 AI 기능이 도입된 것은 동일한 수준의 의도를 충족시켰습니다. 저희는 시민의 절차를 훼손하거나 유권자를 속이는 데 사용될 수 있는 콘텐츠 또는 이미지를 생성하는 AI 제품의 기능을 제한합니다. 예를 들어, 저희의 챗봇인 My AI는 사회 문제를 둘러싼 정치 사건 또는 맥락에 대한 정보를 제공할 수 있지만, 정치 후보자에게 의견을 제공하거나 Snapchat 사용자가 특정 결과에 투표하도록 장려하지 않도록 프로그램되어 있습니다. 그리고 텍스트 투 이미지 기능에서 저희는 알려진 정치인의 모습을 포함하여 위험한 콘텐츠 범주의 생성에 시스템 수준 제한을 채택했습니다. 

10년 이상 그리고 여러 선거를 거치며 저희의 제품 아키텍처는 시민 절차를 방해하거나 정보 환경을 훼손하려는 행위자에게 매우 불편한 환경을 조성하는 데 핵심적인 역할을 했습니다. 그리고 잘 작동한다는 것이 입증되었습니다. 가장 최근의 데이터에 따르면 2023년 1월 1일부터 6월 30일까지 유해한 허위 정보(선거 무결성에 대한 위험 포함)에 대한 전 세계적인 집행 건수가 집행된 총 콘텐츠의 0.0038%를 차지하며, 이는 플랫폼에서 해를 입을 가능성이 가장 낮은 범주 내에 해당합니다.

저희는 2024년 선거에서 AI의 사기성 사용을 근절하기 위한 기술 협약의 서명인으로서의 약속을 포함하여 2024년 플랫폼 무결성 노력에 제품 지향적 접근 방식을 계속 도입할 것입니다.

2. 명확하고 사려 깊은 정책

제품 보호 장치를 보완하기 위해 저희는 선거와 같은 중요한 행사의 맥락에서 안전과 무결성을 향상시키는 다양한 정책을 구현했습니다. 저희의 커뮤니티 가이드라인은 예를 들어, 유해한 허위 정보, 증오 발언, 위협 또는 폭력에 대한 촉구를 금지합니다. 

선거와 관련된 유해한 콘텐츠에 대한 주제에 대해 저희의 외부 정책은 강력하고 정보 무결성 분야의 선도적인 연구자들로부터 정보를 얻습니다. 여기서는 다음을 포함하여 금지된 유해한 콘텐츠의 특정 범주를 정합니다.

• 절차의 개입: 중요한 일자와 시간의 잘못된 전달 혹은 참여의 자격 요건 등 실제 선거 또는 시민의 절차와 관련된 잘못된 정보.

• 참여 방해: 개인의 안전을 위협하는 콘텐츠 혹은 선거 또는 시민 절차에서 참여를 저지하기 위한 소문을 퍼뜨리는 콘텐츠.

• 거짓이나 불법 참여: 사람들이 시민 절차에 참여하기 위해 자신의 잘못된 정보를 제공하도록 부추기거나, 불법적으로 투표를 하거나 투표 용지를 파손하는 것을 장려하는 콘텐츠.

• 시민 절차에서 불법 행위: 예를 들어 거짓을 기반으로, 혹은 선거 결과에 대한 잘못된 주장을 바탕으로 민주 제도를 불법화하려는 콘텐츠.

또한 선거 위험이 증오 발언, 여성 혐오, 표적 괴롭힘/추행 또는 심지어 사칭을 포함한 다른 범주의 피해와 종종 교차하는 방식을 조정 팀이 이해할 수 있도록 내부 지침을 제공합니다.

모든 정책은 사용자가 생성했든 AI가 생성했든 상관없이 플랫폼의 모든 형태의 콘텐츠에 적용됩니다. ¹ 또한 모든 정책이 Snapchat 사용자의 명성에 관계없이 모든 Snapchat 사용자에게 동등하게 적용됨을 분명히 합니다. 모든 경우에 유해하고 기만적인 콘텐츠에 대한 저희의 접근 방식은 간단합니다. 저희는 이를 삭제합니다. 저희는 라벨을 붙이거나 순위를 낮추지 않으며, 삭제해 버립니다. 콘텐츠 규칙을 위반하는 Snapchat 사용자는 반대 및 경고 메시지를 받게 되며, 이러한 위반을 지속하는 경우 계정 권한을 잃을 수 있습니다(모든 Snapchat 사용자는 집행 결정에 항의할 수 있는 기회가 제공됨). 

3. 정치 광고에 대한 성실한 접근 방식

민주적 선거와 관련하여 정치 광고를 허용하는 플랫폼으로서 선거 무결성에 대한 위험을 완화하기 위한 엄격한 관행을 채택하는 데 주의를 기울였습니다. 가장 주목할 점은 Snapchat의 모든 정치 광고는 플랫폼에 배치될 자격이 있기 전에 사람이 검토하고 사실 확인을 수행합니다. 이러한 노력을 지원하기 위해 저희는 Poynter 및 기타 국제 팩트 체킹 네트워크 회원 조직과 필요에 따라 협력하여 광고주의 주장이 입증될 수 있는지에 대한 독립적이고 초당파적인 평가를 제공합니다. 정치 광고에 대한 저희의 심사 프로세스에는 기만적인 이미지 또는 콘텐츠를 생성하기 위해 AI를 오도하는 사용에 대한 철저한 점검이 포함됩니다.

투명성을 지원하기 위해 광고는 누가 비용을 지불했는지 명확하게 공개해야 합니다. 그리고 정치 광고 정책에 따라 저희는 외국 정부나 선거가 진행되는 국가 이외의 국가에 위치한 개인 또는 단체가 광고에 비용을 지불하는 것을 허용하지 않습니다. 저희는 어떤 정치 광고가 게재되도록 승인되는지 확인하고, 타겟팅, 비용 및 기타 통찰에 대한 정보가 포함된 정치 광고 라이브러리를 유지하는 것이 대중의 이익에 부합한다고 생각합니다.

이러한 모든 프로세스를 준수하기 위해 저희의 상업 콘텐츠 정책은 영향력 있는 사용자가 기존 광고 형식에서 벗어난 유료 정치 콘텐츠를 홍보하는 것을 허용하지 않습니다. 이를 통해 모든 유료 정치 콘텐츠가 저희의 광고 검토 관행 및 면책 조항 요구 사항의 적용을 받습니다.

4. 협력, 조율된 운영

Snap에서 저희는 선거 무결성 보호 장치를 운영하기 위해 고도로 협력적인 접근 방식을 취합니다. 내부적으로 저희는 잘못된 정보, 정치 광고, 사이버 보안 전문가를 포함한 교차 기능 선거 무결성 팀을 소집하여 2024년 전 세계 선거와 관련된 모든 관련 진행 상황을 모니터링했습니다. 이 그룹의 대표들은 신뢰 및 안전, 콘텐츠 조정, 엔지니어링, 제품, 법률, 정책, 개인정보 보호 운영, 보안 및 기타 업체의 대표와 함께 플랫폼 무결성을 보호하기 위해 취하는 전사적 접근 방식을 반영합니다.

콘텐츠 조정 및 집행 전반에 걸쳐 저희는 Snap이 운영되는 모든 국가에 상응하는 언어 역량을 유지합니다. 또한 저희는 고위험 글로벌 이벤트에 직면하여 운영 민첩성을 보장하기 위해 위기 대응 프로토콜을 운영합니다.

이러한 조정 정신은 외부 협력으로도 확대됩니다. 저희는 정기적으로 조언, 연구 통찰력을 위해 민주주의 이해 관계자 및 시민 사회 조직과 협력하여 우려를 듣거나 사건 보고를 받습니다. (여러분의 서신의 많은 서명자들은 이러한 목적을 위해 저희에게 소중한 파트너로 남아 있습니다.) 저희는 종종 플랫폼 무결성에 대한 저희의 접근 방식에 대해 정부와 선거 관리들에게 간략히 설명합니다. 또한 저희는 올해 여러 이해 관계자 이니셔티브에 참여하며, 예를 들어, 시민 사회, 선거 당국 및 동료 업계 이해 관계자와 협력하여 기술 회사를 위한 자발적 선거 무결성 가이드라인을 함께 제작합니다. 그리고 저희는 시민 절차에 대한 디지털 위험을 완화하는 것을 지원하기 위해 모든 이해 관계자와 건설적으로 참여할 수 있는 추가 기회를 환영합니다. 

5. Snapchat 사용자의 역량을 강화할 수 있는 도구와 리소스 제공

Snap에서는 항상 시민 참여가 가장 강력한 자기 표현의 형태 중 하나라고 믿어 왔습니다. 사람들이 자신을 표현할 수 있도록 돕고 신규 및 최초 유권자에게 상당한 영향력을 가진 플랫폼으로서, 저희는 커뮤니티가 지역 선거에서 투표 할 수 있는 장소와 방법을 포함하여 뉴스 및 세계 이벤트에 대한 정확하고 신뢰할 수 있는 정보에 액세스할 수 있도록 돕는 것을 최우선 순위로 생각합니다.

2024년에 이러한 노력은 수년 동안 변하지 않은 세 가지 원칙에 초점을 맞출 것입니다. 

• 교육: 둘러보기의 콘텐츠 및 인재 파트너십을 통해 선거, 후보자 및 문제에 대한 사실적이고 관련성 있는 콘텐츠를 제공합니다.

• 등록: Snapchat 사용자에게 신뢰할 수 있는 제3자의 시민 인프라를 활용하여 투표에 등록하도록 장려합니다. 

• 참여: 시민들 주위에 앱 내에서 흥미와 에너지를 생성하고 선거 전/당일에 투표하도록 Snapchat 사용자를 장려합니다. 

이러한 계획 중 많은 부분이 현재 2024년 작업에 포함되어 있지만, Snapchat 사용자와 유익한 리소스를 연결함으로써 수년 동안 이룩한 많은 성공을 기반으로 할 것입니다.

결론

전 세계 민주주의와 강력한 신기술의 가속화에 있어 중요한 순간에 플랫폼이 그들의 가치에 대해 투명하다는 것은 그 어느 때보다 중요합니다. 그리고 이 시점에서 저희의 가치는 아주 명확합니다. 저희는 시민 절차를 훼손하거나 Snapchat 사용자의 안전에 위험을 초래할 수 있는 플랫폼의 남용을 거부합니다.  현재까지 저희의 기록을 자랑스럽게 생각하지만, 선거 관련 위험에 계속 경계해야 합니다. 이를 위해 이러한 문제에 대한 건설적인 참여에 다시 한번 감사드립니다. 

진심을 담아, 

Kip Wainscott

플랫폼 정책 책임자