이번 달 초 다른 주요 기술 회사와 함께 Snap은 200개 이상의 시민 사회 단체, 연구자 및 언론인으로부터 2024년 선거의 무결성을 보호하기 위한 노력을 강화할 것을 촉구하는 서신을 받았습니다. 저희는 이들의 지지에 감사드리며, 전 세계 사람들이 선거에 참여할 수 있도록 보장하고, 민주주의를 보호하기 위해 할 수 있는 모든 일을 하겠다는 약속을 공유합니다.

이러한 문제의 중요성, 그리고 Snapchat을 사용하여 친구 및 가족과 소통하고 콘텐츠를 통해 세상에 대해 더 많은 것을 배우는 수억 명의 사람들에 대한 깊은 책임을 감안할 때, 저희는 응답을 공개하는 것이 중요하다고 생각했습니다. 아래에서 저희의 편지를 읽고, 여기에서 올해 선거 계획에 대해 자세히 알아볼 수 있습니다.

***

2024년 4월 21일

친애하는 시민 사회 단체 여러분께

전 세계 전역의 전례 없는 선거 활동이 벌어지는 올해에 지속적인 감시와 지지에 감사드립니다. 저희는 Snap이 이 환경에서 우리의 책임에 어떻게 접근하고 있는지, 그리고 이러한 노력이 회사의 오랜 가치에 어떻게 반영되는지 더 자세히 공유할 수 있는 기회를 갖게 된 것에 대해 감사드립니다. 

Snapchat 접근 방식 개요

선거 관련 플랫폼 무결성에 대한 저희의 접근 방식은 계층화되어 있습니다. 높은 수준에서 핵심 요소는 다음과 같습니다.

• 의도적 제품 보호 장치,

• 명확하고 사려 깊은 정책,

• 정치 광고에 대한 성실한 접근,

• 협력, 조율된 운영 및

• Snapchat 사용자에게 역량을 강화할 수 있는 도구와 리소스를 제공합니다.

종합하면, 이러한 원칙은 광범위한 선거 관련 위험을 완화하기 위한 저희의 접근 방식을 뒷받침하며, Snapchat 사용자가 전 세계의 민주적 프로세스에 참여하는 것을 지원하는 도구와 정보에 액세스할 수 있도록 보장합니다. 

1. 의도적 제품 보호 장치

처음부터 Snapchat은 전통적인 소셜 미디어와 다르게 설계되었습니다. Snapchat은 심사 받지 않은 끝없는 콘텐츠의 피드를 열지 않으며, 사람들의 라이브 스트리밍을 허용하지 않습니다. 

저희는 오랫동안 유해한 디지털 허위 정보로 인한 가장 큰 위협은 일부 디지털 플랫폼이 이를 확산할 수 있는 속도와 규모에서 비롯된다는 것을 인식해 왔습니다. 저희의 플랫폼 정책 및 아키텍처는 심사 받지 않거나 조정되지 않은 콘텐츠가 확인되지 않은 채 의미 있는 규모로 확산될 수 있는 기회를 제한합니다. 대신 저희는 많은 시청자에게 노출되기 전에 콘텐츠를 미리 검토하며, 신뢰할 수 있는 게시자 및 크리에이터(예: 미국의 월스트리트 저널, 미국의 워싱턴 포스트, 프랑스의 르 몽드, 인도의 타임즈 나우 포함)로부터 나온 경우가 아니라면 뉴스 및 정치 정보의 배포를 광범위하게 제한합니다. 

지난 해 Snapchat에 생성형 AI 기능이 도입된 것은 동일한 수준의 의도를 충족시켰습니다. 저희는 시민의 절차를 훼손하거나 유권자를 속이는 데 사용될 수 있는 콘텐츠 또는 이미지를 생성하는 AI 제품의 기능을 제한합니다. 예를 들어, 저희의 챗봇인 My AI는 사회 문제를 둘러싼 정치 사건 또는 맥락에 대한 정보를 제공할 수 있지만, 정치 후보자에게 의견을 제공하거나 Snapchat 사용자가 특정 결과에 투표하도록 장려하지 않도록 프로그램되어 있습니다. 그리고 텍스트 투 이미지 기능에서 저희는 알려진 정치인의 모습을 포함하여 위험한 콘텐츠 범주의 생성에 시스템 수준 제한을 채택했습니다. 

10년 이상 그리고 여러 선거를 거치며 저희의 제품 아키텍처는 시민 절차를 방해하거나 정보 환경을 훼손하려는 행위자에게 매우 불편한 환경을 조성하는 데 핵심적인 역할을 했습니다. 그리고 잘 작동한다는 것이 입증되었습니다. 가장 최근의 데이터에 따르면 2023년 1월 1일부터 6월 30일까지 유해한 허위 정보(선거 무결성에 대한 위험 포함)에 대한 전 세계적인 집행 건수가 집행된 총 콘텐츠의 0.0038%를 차지하며, 이는 플랫폼에서 해를 입을 가능성이 가장 낮은 범주 내에 해당합니다.

저희는 2024년 선거에서 AI의 사기성 사용을 근절하기 위한 기술 협약의 서명인으로서의 약속을 포함하여 2024년 플랫폼 무결성 노력에 제품 지향적 접근 방식을 계속 도입할 것입니다.

2. 명확하고 사려 깊은 정책

제품 보호 장치를 보완하기 위해 저희는 선거와 같은 중요한 행사의 맥락에서 안전과 무결성을 향상시키는 다양한 정책을 구현했습니다. 저희의 커뮤니티 가이드라인은 예를 들어, 유해한 허위 정보, 증오 발언, 위협 또는 폭력에 대한 촉구를 금지합니다. 

선거와 관련된 유해한 콘텐츠에 대한 주제에 대해 저희의 외부 정책은 강력하고 정보 무결성 분야의 선도적인 연구자들로부터 정보를 얻습니다. 여기서는 다음을 포함하여 금지된 유해한 콘텐츠의 특정 범주를 정합니다.

• 절차의 개입: 중요한 일자와 시간의 잘못된 전달 혹은 참여의 자격 요건 등 실제 선거 또는 시민의 절차와 관련된 잘못된 정보.

• 참여 방해: 개인의 안전을 위협하는 콘텐츠 혹은 선거 또는 시민 절차에서 참여를 저지하기 위한 소문을 퍼뜨리는 콘텐츠.

• 거짓이나 불법 참여: 사람들이 시민 절차에 참여하기 위해 자신의 잘못된 정보를 제공하도록 부추기거나, 불법적으로 투표를 하거나 투표 용지를 파손하는 것을 장려하는 콘텐츠.

• 시민 절차에서 불법 행위: 예를 들어 거짓을 기반으로, 혹은 선거 결과에 대한 잘못된 주장을 바탕으로 민주 제도를 불법화하려는 콘텐츠.