오늘 Global Public Policy의 VP Jennifer Stout는 플랫폼에서 젊은이를 보호하기 위한 Snap의 접근 방식에 관한 상원 상무 위원회 소비자 보호, 제품 안전 및 데이터 보안 관련 분과 위원회 전에 다른 기술 플랫폼과 함께 증언에 합류했습니다.

Snapchat이 전통적인 소셜 미디어 플랫폼과 다르게 만든 의도, 플랫폼과 제품의 디자인에 안전과 개인정보 보호를 구축한 방법, 커뮤니티의 웰빙을 더 잘 보호하기 위해 개선해야 할 곳을 설명할 기회가 생겨 감사했습니다. 저희는 항상 사용자의 이익을 우선으로 할 도덕적 책임이 있다고 믿어 왔고, 모든 기술 기업이 자신의 커뮤니티에 대한 책임감을 갖고, 능동적으로 커뮤니티를 보호해야 한다고 믿습니다.

저희는 분과 위원회의 이러한 중요한 문제를 조사하는 지속적인 활동을 환영합니다. Jennifer의 시작 진술 전문은 아래에서 읽을 수 있습니다. 진술 전문 PDF는 여기에서 볼 수 있습니다.

****

Jennifer Stout 진술, 글로벌 공공 정책 부사장, Snap Inc.

서문

Blumenthal 회장님, Blackburn 간부 회원, 분과 위원회 위원 여러분, 오늘 이렇게 나올 기회를 주셔서 감사합니다. 제 이름은 Jennifer Stout이며, Snapchat 모회사인 Snap Inc.의 글로벌 공공 정책 부분 부사장으로 근무하고 있습니다. 23년 만에 상원에 돌아오게 되어 영광입니다. 저는 상원 의원의 직원으로 공공 서비스 부문을 시작했고, 이번에는 전혀 다른 역할로 이 자리에 섰습니다. 개인정보 보호 및 안전, 특히 가장 어린 커뮤니티 구성원에 관련된 사안에 Snap의 접근 방식에 대해 이야기하려 합니다. 저는 이 자리에서 거의 5년 동안 일했고, 그 전에는 거의 20년 동안 공공 서비스에서 일했으며, 의회에서는 10년 넘게 일했습니다. 저는 기술 플랫폼이 안전하고 건강한 경험을 할 수 있도록 이 기관과 여러분, 그리고 여러분의 직원이 하시는 일을 엄청나게 존경합니다.

플랫폼에서 젊은이를 보호하기 위한 Snap의 접근 방법을 이해하려면 처음부터 시작하는 것이 도움이 됩니다. Snapchat의 창립자는 소셜 미디어와 함께 성장한 1세대였습니다. 많은 또래처럼 그들도 소셜 미디어가 긍정적인 영향을 미치는 능력을 보았지만, 우정에 부정적인 영향을 미치는 특정 기능도 있었습니다. 이러한 플랫폼은 자신의 생각이나 감정을 영원히 공개적으로 알리도록 사람들에게 장려합니다. 창립자들은 사람들이 끊임 없이 ‘좋아요’와 댓글로 다른 사람과 비교하고, 완벽하게 고른 이미지를 통해 자신을 내보이려 하고, 사회적인 압박 때문에 콘텐츠의 대본을 조심스럽게 작성하는 것을 보았습니다. 또한 소셜 미디어에는 검증되지 않은 콘텐츠 피드가 무한히 나오도록 진화했으며, 해롭고, 사실을 호도하며 유해한 콘텐츠의 홍수를 사람들에게 노출합니다.

Snapchat은 소셜 미디어에 해독제 역할을 위해 만들어졌습니다. 사실 저희는 저희 회사를 카메라 회사로 설명합니다. Snapchat의 아키텍처는 사람들이 현실의 친구들과 예쁘고 완벽한 순간 뿐만 아니라 모든 경험과 감정을 표현할 수 있게 의도적으로 설계되었습니다. 저희 회사는 성장하면서 저희 팀이 온라인 개인정보 보호 및 안전을 우선시하는 새로운 창의력을 개척하는 3가지 주요 방법이 있었습니다.

먼저 Snapchat이 콘텐츠 피드 대신 카메라에 열려 있도록 했습니다. 이는 시작적으로 친구와 대화하도록 빈 캔버스를 만들었고, 문자를 보내는 것보다 더 몰입되고 창의적인 방법입니다.

둘째, 저희는 강력한 개인정보 보호 원칙, 데이터 최소화, 사라짐의 아이디어를 수용하여 이미지가 삭제되는 것을 기본값으로 설정했습니다. 이로써 사람들은 공원에서 친구들과 놀 때처럼 자신을 진심으로 표현할 수 있습니다. 소셜 미디어에서는 온라인 대화를 영구적으로 기록하는 것이 보통일이 되었지만, 현실에서 친구들은 대중적인 소비나 영구적인 보관을 위해 녹음기나 문서에 기록하지 않습니다.

셋째, 저희는 기본적으로 Snapchatter들이 대화하기 위해 들어오게 하여 이미 친구인 사람들을 연결하는 데 집중하였습니다. 현실에서 우정은 상호 작용이기 때문입니다. 한 사람이 다른 사람을 팔로우하는 것이 아니며, 허락이나 초대 없이 낯선 사람이 우리 삶에 들어오지도 않습니다.

책임 있는 진화

초기 단계부터 저희는 책임감을 갖고 진화하기 위해 노력해 왔습니다. 소셜 미디어의 잠재적인 부정적 영향을 이해하기 때문에, 앞으로의 모든 제품에 초기 가치를 반영하도록 사전에 선택하게 하였습니다.

이를 위해 바퀴를 다시 발명할 필요는 없었습니다. 저희 팀은 새로운 기술로 유발한 어려움에 직면했을 때 역사에서 배울 수 있었습니다. Snapchat이 시간이 지나며 진화함에 따라 사용자가 콘텐츠를 다수에 공유할 수도 있는 앱의 부분을 개발할 때 방송과 통신을 통제하는 기존 규제 프레임워크에 영향을 받았습니다. 예를 들어 친구와 전화 통화를 할 때는 개인정보 보호에 대해 높은 기대치가 있는데, 반대로 다수의 마음과 의견에 영향을 줄 잠재력이 있는 공개 방송인이라면 다양한 기준과 규제 요건을 따라야 합니다.

이런 이분법은 방송 규정에 영감을 받아 Snapchat의 더 공개적인 부분에 대한 규칙을 개발하는데 도움이 되었습니다. 이러한 규칙은 저희의 방문자를 보호하고, 저희가 다른 플랫폼과 차별화되는 이유입니다. 예를 들어 Snapchatter가 뉴스와 엔터테인먼트 소식을 얻는 저희의 닫혀 있는 콘텐츠 플랫폼 둘러보기는 저희와 파트너인 전문적인 미디어 발행인, 혹은 저희가 같이 일하기로 선택한 예술가, 크리에이터, 운동선수의 콘텐츠를 독점적으로 제공합니다. 이러한 콘텐츠 제공자 모두는 저희의 커뮤니티 가이드라인을 준수하며, 이는 플랫폼에 있는 모든 콘텐츠에 적용됩니다. 그리고 둘러보기 발행인 파트너는 발행인 가이드라인을 반드시 준수해야 하며, 여기에는 콘텐츠의 사실 관계를 확인하거나 정확해야 하고, 적절한 경우 나이 제한을 해야 하는 규정이 있습니다. 둘러보기에 있는 개인 크리에이터는 사람 관리 팀이 그들의 스토리를 플랫폼에 홍보를 허용하기 전에 검토합니다. 개인의 관심사를 기반으로 콘텐츠를 제공하는 알고리즘을 이용하지만, 이런 알고리즘은 제한되고 검증된 콘텐츠에 적용되고, 다른 플랫폼과는 다른 접근 방법입니다.

스포트라이트에서는 크리에이터가 창의적이고 재미있는 영상을 올려 Snapchat의 더 넓은 커뮤니티와 공유하는데, 모든 콘텐츠는 배포되기 전에 먼저 인공지능이 자동으로 검토하고, 25명 이상이 보기 전에 사람이 직접 검토하고 관리합니다. 이를 통해 잘못된 정보, 증오 발언, 혹은 기타 잠재적 유해 콘텐츠 확산의 위험을 줄입니다.

모든 것을 즉시 잡아내지는 못하지만, 그래서 저희의 가치에 부응하지 못할 때 Snapchat의 부분을 다시 디자인합니다. 2017년에 그런 일이 있었는데, 저희 제품 중 하나인 스토리에서 유명인과 친구의 콘텐츠가 같은 사용자 인터페이스에 있었기 때문에 Snapchatter가 유명인 및 인플루언서와 경쟁해야 하는 느낌을 받는다는 사실을 발견했습니다. 그래서 저희는 친구들이 만드는 "소셜" 콘텐츠와 유명인이 만드는 "미디어" 콘텐츠를 분리하여 플랫폼에서 사회적인 비교를 줄이도록 했습니다. 이런 재디자인은 는 단기적으로 사용자 성장에 영향을 주었지만, 커뮤니티를 위한 옳은 일이었습니다.

Snapchat에서 젊은 사람 보호

사람들이 자신을 표현하고, 현재를 즐기며, 세상에 대해 배우고, 함께 즐기도록 하고 싶다는 저희의 사명은 Snapchat의 기본 아키텍처에 영향을 미쳤습니다. 이 사명에 충실함으로써 저희는 인간의 본성을 반영하고, 진정한 우정을 키우는 플랫폼을 만들 수 있었습니다. 이는 계속해서 저희의 디자인 과정과 원칙, 정책과 업무, 그리고 커뮤니티에 제공하는 자원과 도구에 영향을 미쳤습니다. 그리고 거대한 온라인 커뮤니티를 운영하면서 고유한 위험 및 어려움을 해결하는 방법을 개선하기 위한 저희의 지속적인 노력을 뒷받침해줍니다.

저희의 사명을 실행하는 큰 부분은 커뮤니티와 파트너, 그리고 보호자, 입법자, 안전 전문가와 신뢰를 구축하고 유지하는 것입니다. 이런 관계는 개인정보 보호와 안전을 제품 디자인 과정의 중심에 놓는 신중하고 일관된 결정을 통해 구축됩니다.

예를 들어 개발 단계의 시작부터 새로운 제품과 기능의 개인정보 보호와 안전을 고려하는 책임감 있는 디자인 원칙을 도입했습니다. 그리고 철저한 절차를 통해 그러한 원칙을 현실로 만들었습니다. Snapchat의 새로운 기능은 모두 규정된 개인정보 보호 및 안전 검토를 공개되기 한참 전에 거치고, 이는 Snap에 있는 팀이 담당합니다. 이 팀에는 디자이너, 데이터 과학자, 엔지니어, 제품 관리자, 제품 상담원, 정책 리드, 개인정보 보호 엔지니어가 있습니다.

미국에 있는 저희 커뮤니티의 80%가 18세 이상이지만, 저희는 10대를 보호하기 위해 엄청난 시간과 자원을 들였습니다. 10대를 안전하게 보호하기 위해 추가적인 개인정보 보호 및 안전 정책과 디자인 원칙을 적용하기 위해 사려 깊고 의도가 있는 선택을 했습니다. 여기에는:

• 제품을 디자인할 때 미성년자의 고유한 민감함과 고려 사항을 생각했습니다. 그래서 저희는 의도적으로 낯선 사람이 미성년자를 찾기 힘들도록 18세 이하의 공개 프로필을 금지했고, 빠른 추가(친구 추천)에서 미성년자 발견을 제한하는 기능을 시작했습니다. 그리고 미성년자가 연령 제한 콘텐츠 및 광고를 보지 못하게 막기 위해 오랫동안 연령 제한 도구를 배치했습니다.

• 기본적으로 꺼져 있는 위치 공유 설정, 우려되는 콘텐츠 혹은 행위를 신뢰 및 안전 팀에 신고하기 위해 사용자 신고를 앱 내에서 간소화하는 등 일정하고 사용하기 쉬운 컨트롤을 제공하여 힘을 실어주었습니다. 신고된 후에는 유해성을 최소화하기 위해 대부분의 콘텐츠가 2시간 이내에 조치됩니다.

• 개인정보 보호를 희생하지 않고 보호자에게 더 많이 감독할 수 있도록 하는 도구를 개발하기 위해 노력합니다. 여기에는 보호자에게 10대의 친구들을 보는 기능, 개인정보 보호 및 위치 설정 관리, 대화 상대 보기 기능을 제공할 계획이 있습니다.

• Friend Check Up 및 Here For You 등 커뮤니티의 안전과 정신 건강을 지원하는 교육 프로그램 및 계획에 투자합니다. Friend Check Up은 Snapchatter가 누구와 친구인지 검토하고, 아는 사람이고 계속 연결되어 있고 싶은 사람으로 목록이 구성되어 있는지 확인하도록 유도합니다. Here For You는 정신 건강 혹은 감정적인 위기를 겪는 사용자에게 전문가의 도구 및 자원을 제공하여 지원합니다.

• 미성년자 사용 방지. 저희는 어린이에게 광고할 생각과 계획이 없으며, 13세 이하 개인은 Snapchat 계정을 생성할 수 없습니다. 계정을 등록할 때 개인은 생년월일을 제공해야 하며, 13세 이하의 나이를 입력하면 등록이 되지 않습니다. 그리고 13세에서 17세 사이의 Snapchat 사용자가 자신의 생일을 수정하여 18세 이상으로 만드는 행위를 방지하는 새로운 보호 장치를 마련했습니다. 특히 미성년자가 자신의 출생 연도를 바꿔 18세 이상으로 만들려는 시도를 하는 경우, Snapchat 내에서 나이에 맞지 않는 콘텐츠를 이용할 수 없도록 그 변경을 막을 것입니다.

결론 및 통찰

저희는 커뮤니티를 안전하게 지키기 위해 새로운 방법을 늘 찾고 있으며, 할 일이 아직 많이 남아 있습니다. 온라인 안전은 공유된 책임이며, 다양한 부문과 행위자에 걸쳐 있습니다. 안전 자문 위원회, 기술 산업 동료, 정부, 시민 사회 등 안전 파트너와 협력하여 저희의 역할을 다하려 노력하고 있습니다. 기술 중심 및 인식 제고 계획에서 연구 및 모범 사례 공유까지 온라인에서 미성년자 보호 전문 조직과 활발히 관계를 맺고 있습니다. 그리고 미성년자의 연령 확인 등 이 산업에서 복잡한 문제와 기술적인 어려움이 많다는 것도 알고 있고, 산업 전체의 탄탄한 해결책을 찾으려 파트너 및 정책 입안자와 협력하여 노력하고 있습니다.

Snapchatter의 웰빙을 보호하는 것은 겸손과 확고한 결심으로 접근하고 있습니다. 전 세계 5억 명 이상이 매달 Snapchat을 이용하고, 사용자 95%가 Snapchat 덕분에 행복하다고 말하기 때문에, 저희가 하는 모든 일에 사용자의 최선을 고려해야 할 도덕적인 책임이 있습니다. 이는 특히 증강 현실로 혁신을 이루었기 때문에 사실이며, 일하고, 쇼핑하고, 배우고, 소통하는 방법에 긍정적으로 기여할 수 있는 잠재력이 있습니다. 다음 세대의 증강 현실과 같은 새로운 기술을 실험하면서도 기본 가치와 원칙을 적용할 것입니다.

미래를 보면 컴퓨터 및 기술은 우리의 일상에 점점 더 들어올 것입니다. 규정이 필요하다고 생각하지만, 기술의 발전 속도와 규정이 적용될 수 있는 속도를 생각하면 규정 만으로는 충분하지 않습니다. 기술 회사는 반드시 책임감을 가져야 하며, 커뮤니티를 적극적으로 보호해야 합니다.

그렇지 않다면 정부가 신속하게 그들이 책임을 지도록 만들어야 합니다. 분과 위원회의 활동을 전적으로 지원하여 이러한 문제를 조사하고, 우리 사회를 안전하게 지키는 문제 해결에 협력하는 접근 방식을 환영합니다.

오늘 여러분 앞에 설 수 있는 기회를 주시고, 이런 중요한 문제를 논의할 수 있게 되어 다시 한번 감사드립니다. 여러분의 질문에 기꺼이 답하겠습니다.