젊은 세대가 디지털 세상에서 성공적으로 성장할 수 있도록 지원하려면 온라인 생활을 본질적으로 좋거나 나쁜 것으로만 바라보는 단순한 관점을 넘어설 필요가 있습니다. 또한 Z세대가 건강하게 성장할 수 있도록 하는 요인을 이해하기 위해 이들의 실제 일상 경험에 초점을 맞춰야 합니다. 생성형 AI의 급속한 확산으로 새로운 시대에 접어들면서, 객관적인 연구를 바탕으로 안전 관련 활동을 추진하겠다는 당사의 약속은 그 어느 때보다 중요합니다. 또한 이는 Snapchat이 진정성, 연결성, 소속감 및 자신이 중요한 존재라는 인식을 중심으로 하는 커뮤니케이션 서비스로 남을 수 있도록 하는 데 도움이 될 것입니다.

오늘 당사는 디지털 웰빙 지수(DWBI) 연구의 5년 차이자 마지막 해에 얻은 몇 가지 새로운 인사이트를 공유합니다. 특히 AI 생성 콘텐츠의 변화 양상과 이것이 대인 관계에 미치는 영향을 중점적으로 다룬 결과입니다.

지난 5년 동안 Snap은 Z세대의 온라인 심리적 웰빙을 추적하고 측정하기 위해 플랫폼에 관계없이 연구를 실시했습니다. 당사는 젊은 세대의 디지털 습관 및 이용 방식에 대한 글로벌 근거 자료를 축적하고, 새롭게 대두되는 우려 사항에 대한 인식을 높이기 위해 이 설문조사를 실시합니다. 이를 통해 부모, 교육자, 기술 기업, 정부 및 시민 사회가 위험을 완화하고 잠재적인 피해를 줄이며 재발을 방지하기 위해 더욱 효과적으로 협력할 수 있습니다. DWBI는 Snapchat을 포함한 특정 플랫폼 하나에 초점을 맞추는 것이 아니라, 광범위한 디지털 생태계 전반에서 6개국의 13~24세가 겪는 경험을 조사합니다. 호주, 프랑스, 독일, 인도, 영국 및 미국의 최신 조사 결과에는 Z세대 내 딥페이크 이미지의 생성 및 유포에 대한 새로운 인사이트가 포함되어 있습니다.

AI를 둘러싼 사회적 논의는 종종 무조건적인 낙관론과 깊은 우려 사이를 오갑니다. 최신 DWBI 조사 결과는 어느 한쪽의 극단적인 관점에 의존하기보다는, 6개 지역의 13~24세 청소년과 청년이 생성형 AI를 어떻게 활용하고 있는지에 대한 근거 기반의 시각을 제공합니다. 이러한 조사 결과는 딥페이크와 관련된 또래 간 상호작용이 복잡하고 때로는 우려스러운 양상을 보인다는 점을 보여줍니다. 예를 들어,

• 13~24세 응답자의 거의 3분의 1(30%)이 다른 사람의 딥페이크를 제작한 적이 있다고 답했습니다.

• 딥페이크를 제작한 사람 중 절반 이상(53%)이 해당 행동으로 인해 자신의 사회적 관계에서 '분란' 또는 '갈등'이 발생했다고 답했으며, 

• 대다수가 창의적인 활동, 재미 및 오락을 위해 생성형 AI 도구를 사용했지만, 3분의 1이 넘는 응답자(순 35%)는 자신이 제작한 딥페이크가 악의적인 의도로 만들어졌다고 답했습니다. 구체적으로는 누군가를 나쁜 사람으로 보이게 하거나 화나게 하기 위해(12%), 보복하기 위해(12%), 또는 다른 사람을 놀리거나 괴롭히기 위해(11%) 제작했다고 답했습니다. 

자신을 대상으로 한 성적 딥페이크에 어떻게 대응할 것인지 구체적으로 질문했을 때, 미성년 청소년의 압도적인 다수(순 81%)는 누군가에게 이야기하겠다고 답했으며, 그중 부모(65%)와 이야기를 나눌 것이라고 답했습니다. 한편 Z세대 청년 10명 중 7명(70%)은 해당 콘텐츠를 신고하겠다고 답했으며, 주요 신고처로는 법 집행 기관(53%)과 기술 플랫폼(51%)을 꼽았습니다. 미성년 청소년 10명 중 1명 이상(18%)과 18~24세 10명 중 2명 이상(22%)은 이를 그저 무시하거나 제시된 대응 방법 중 어떤 것도 취하지 않겠다고 답했습니다. 아래 차트는 제시된 대응 방법을 정리한 것입니다.

이러한 결과는 중요한 사실을 강조합니다. 21세기의 디지털 웰빙을 위해서는 기존의 안전 도구와 리소스만으로는 충분하지 않으며, 이를 위해서는 깊이 있고 실용적인 AI 문해력이 필요합니다. 젊은 세대 중 30%가 또래가 포함된 합성 미디어를 제작한 적이 있다고 응답한 가운데, 이러한 활동은 개인적 관계와 평판, 그리고 자신이 묘사되는 방식에 대한 통제감에 영향을 미칠 수 있습니다.

따라서 정책 중심의 논의는 두려움에 기반한 반응에서 벗어나, 오늘날 온라인에서 살아가는 청소년을 '온전한 인격체'로 바라보는 프레임워크를 지향해야 합니다. 다음과 같은 세 가지 핵심 구성 요소를 고려할 수 있습니다.

1. AI 문해력: 젊은 사람들이 AI 사용 방법뿐만 아니라, 타인의 동의 없이 그 사람이 포함된 콘텐츠를 제작할 때 발생할 수 있는 윤리적 및 사회적 결과를 이해하도록 돕습니다.

2. 개인적 통제: 젊은 세대가 경계를 인식하고 자신의 디지털 모습에 대한 통제권을 유지하려 노력하도록 지원합니다.

3. 열린 소통: 청소년, 부모, 교육자 및 기타 신뢰할 수 있는 성인이 디지털 상호작용의 양과 질에 대해 개방적이고 신중하게 대화하도록 장려하며, '농담으로' 만든 딥페이크라도 다른 사람에게 지속적인 영향을 미칠 수 있음을 인식하도록 합니다.

참고로, 어디에서 누구에게 AI 도구를 안전하고 책임감 있게 사용하는 방법을 배우고 있는지 묻는 질문에 13~24세 응답자 10명 중 8명(순 81%)은 스스로 학습했다고 답했습니다. 13~17세 청소년 중 4분의 1(27%)은 부모로부터 배우고 있다고 답했으며, 교사는 청소년(11%)과 청년(10%) 모두의 지식 습득 경로에서 10% 정도를 차지했습니다.

이러한 결과는 Snap이 다양한 플랫폼에서 5년에 걸쳐 Z세대의 온라인 심리적 웰빙을 연구한 결과의 일부이며, 6개국의 청소년(13~17세)과 청년(18~24세)이 온라인에서 어떻게 지내고 있는지 측정하는 디지털 웰빙 지수(DWBI)의 최신이자 최종 조사 결과입니다. 또한 13~19세 청소년의 부모를 대상으로 자녀의 온라인 경험에 관한 설문조사를 실시합니다. 이번 조사는 2026년 5월 11일부터 5월 30일까지 진행되었으며, 3개 연령대와 6개 지역에 걸쳐 총 9,005명이 응답했습니다. 각 국가의 최신 DWBI 수치와 6개국 전체를 종합한 결과를 포함한 전체 결과는 2027년 2월 인터넷 안전의 날에 발표될 예정입니다. 당사는 이러한 여러 문제에 대한 글로벌 논의가 계속되고 있는 점을 고려하여 이러한 AI 관련 결과를 조기에 제공하기로 결정했습니다.

당사가 5년에 걸친 디지털 웰빙 연구의 한 챕터를 마무리하고 향후 수년간 연구의 초점을 발전시켜 나가는 가운데, 당사의 생태계 전반에 걸친 사명은 여전히 분명합니다. 젊은 세대가 최대한 안전하고 진정성 있게 배우고, 웃으며, 소통할 수 있는 온라인 공간을 구축하는 것입니다. 딥페이크의 확산은 기술이 발전함에 따라 당사의 운영 및 교육 활동도 이에 맞춰 발전해야 한다는 점을 상기시켜 줍니다. 당사는 문해력, 회복탄력성 및 비판적 사고에 지속적으로 초점을 맞춤으로써, 다음 세대가 온라인에서 단순히 '그럭저럭 지내는' 데 그치지 않고 진정으로 성장할 수 있도록 지원할 수 있습니다.

이러한 노력을 뒷받침하기 위해, 지난달 Snap은 완전히 AI로 생성된 동영상이 더 이상 Snapchat의 스포트라이트 기능에서 추천 대상이 아니라고 발표했습니다. 실제로 저품질의 반복적인 AI 생성 콘텐츠가 온라인 공간에서 점점 더 흔해짐에 따라, Snap은 스포트라이트가 실제 사람들이 발휘하는 진정한 창의성을 발견할 수 있는 공간으로 계속 남기를 바랍니다. 또한 AI 생성 콘텐츠와 관련하여 부모와 청소년을 위한 간략한 정보 자료도 마련했습니다.“멈추고 생각해 보세요. 이것이 AI일 수 있을까요?"이는 청소년, 부모 및 기타 신뢰할 수 있는 성인이 AI 도구를 안전하고 책임감 있게 사용하는 방법에 대해 대화를 나눌 수 있도록 마련되었습니다. 또한 당사는 다양한 단체 및 기관과 협력하고 있으며, 아동 성착취 및 학대에 대한 인식을 높이는 미국 국토안보부의 Know2Protect 캠페인을 최초로 지원한 기업이기도 합니다. Know2Protect는 여기에서 딥페이크에 관한 입문 자료를 공개했습니다.   

공공 정책 분야에서 Snap은 2025년 5월 발효된 Take It Down Act를 지지했으며, 이 법은 AI로 생성된 콘텐츠를 포함한 동의 없는 사적인 이미지를 다루기 위한 미국 연방 차원의 체계를 마련했습니다. 이 법은 해당 자료가 실제 촬영물이든 합성물이든 관계없이, 동의 없이 사적인 이미지를 고의로 게시하거나 게시하겠다고 협박하는 행위를 연방 범죄로 규정하며, 적용 대상 플랫폼이 신고 절차를 제공하고 48시간 이내에 신고된 콘텐츠를 삭제하도록 요구합니다.

유사한 우려는 2026년 인터넷 안전의 날(Safer Internet Day)에 출범한 'No to Nudify' 캠페인에도 반영되었습니다. 이 캠페인에는 아동 안전 및 시민사회 단체가 참여했으며, 이들 중 다수는 Snap의 파트너이자 협력 기관입니다. WeProtect Global Alliance, INHOPE, Internet Watch Foundation, NCMEC, Child Helpline International, Offlimits, Safe Online은 AI 누드화 도구의 금지를 촉구했습니다. 캠페인은 소위 'nudify' 앱이 실제로 무해한 실험이 아니라, 일반 사진을 기반으로 동의 없이 성적 이미지를 생성하는 데 사용되며, 여성과 소녀, 아동에게 영향을 미치는 괴롭힘, 강요, 성적 협박 및 학대와 점점 더 연관되어 있다고 주장합니다.

또한 Snap은 Snapchat에서 이러한 콘텐츠의 확산을 제한하기 위해 마련된 실질적인 업계 간 프로그램에도 참여하고 있습니다. 당사는 미성년자를 위한 NCMEC의 Take It Down 프로그램과 18세 이상을 위한 SWGfL의 StopNCII 활동에 참여하고 있으며, 고유한 디지털 서명, 즉 '해시'를 전달받아 이를 활용함으로써 중복된 사적 이미지를 탐지하고 당사 규정을 위반하는 콘텐츠를 삭제하고 있습니다. 이러한 노력은 초기 탐지뿐만 아니라, 이미 확인된 사적 이미지와 성적 딥페이크가 일단 유포되기 시작한 이후 다시 확산되는 것을 방지하는 데도 초점을 맞추기 때문에 중요합니다.

– Jacqueline Beauchere, Snap Inc. 플랫폼 안전 글로벌 책임자