Việc giúp thanh thiếu niên phát triển trong thế giới kỹ thuật số bao gồm việc nhìn xa hơn những quan niệm đơn giản cho rằng cuộc sống trực tuyến là hoàn toàn tốt hoặc hoàn toàn xấu. Chúng ta cũng phải tập trung vào những trải nghiệm thực tế hàng ngày của Thế hệ Z để hiểu được điều gì giúp họ phát triển mạnh mẽ. Khi bước vào kỷ nguyên mới, được xác định bởi sự phát triển nhanh chóng của AI tạo sinh, cam kết của chúng tôi trong việc củng cố nỗ lực an toàn bằng nghiên cứu khách quan là điều quan trọng hơn bao giờ hết – và cam kết này sẽ giúp đảm bảo rằng Snapchat vẫn là dịch vụ liên lạc, tập trung vào tính xác thực, kết nối, sự thuộc về và tầm quan trọng.

Hôm nay, chúng tôi chia sẻ một số thông tin chi tiết mới từ năm thứ năm và là năm cuối cùng của nghiên cứu Chỉ số sức khỏe kỹ thuật số (DWBI), đặc biệt là các kết quả tập trung vào bối cảnh phát triển của nội dung do AI tạo ra và tác động của nó đến mối quan hệ giữa các cá nhân.

Trong năm năm qua, Snap đã tiến hành nghiên cứu không phụ thuộc vào nền tảng để giúp theo dõi và đo lường sức khỏe tâm lý trực tuyến của Thế hệ Z. Chúng tôi tiến hành khảo sát này để bổ sung vào cơ sở bằng chứng toàn cầu về thói quen và thực tiễn kỹ thuật số của thanh thiếu niên, cũng như giúp nâng cao nhận thức về các mối quan ngại dần hiện hữu để phụ huynh, nhà giáo, công ty công nghệ, chính phủ và xã hội dân sự có thể hợp tác hiệu quả hơn nhằm giảm thiểu rủi ro, giảm bớt tác hại tiềm ẩn và ngăn ngừa tái diễn. DWBI khảo sát trải nghiệm của các em từ 13 đến 24 tuổi tại sáu quốc gia trên toàn bộ hệ sinh thái kỹ thuật số rộng lớn hơn, thay vì tập trung vào bất kỳ nền tảng nào, bao gồm cả Snapchat. Các phát hiện mới nhất từ Úc, Pháp, Đức, Ấn Độ, Anh và Mỹ bao gồm những hiểu biết mới về việc tạo và phát tán hình ảnh deepfake trong Thế hệ Z.

Các cuộc thảo luận công khai về AI thường dao động giữa sự lạc quan thái quá và nỗi lo ngại sâu sắc. Thay vì dựa vào một trong hai thái cực này, các phát hiện mới nhất từ DWBI mang đến quan điểm dựa trên bằng chứng về cách người từ 13 đến 24 tuổi tại sáu khu vực địa lý đang tương tác với AI tạo sinh. Những phát hiện này hé lộ một bức tranh phức tạp và đôi khi đáng lo ngại về các tương tác ngang hàng liên quan đến deepfake. Ví dụ:

• Gần một phần ba (30%) số người được khảo sát, từ 13 đến 24 tuổi, báo cáo đã tạo ra deepfake giả mạo người khác

• Hơn một nửa (53%) số người tạo ra deepfake cho biết hành động này đã gây ra “rắc rối” hoặc “xung đột” trong các mối quan hệ xã hội của họ, và

• Mặc dù đa số người dùng sử dụng các công cụ AI tạo sinh vì mục đích sáng tạo, giải trí và tiêu khiển, nhưng hơn một phần ba (tỷ lệ thực tế là 35%) cho biết họ tạo ra deepfake với ý đồ xấu; cụ thể là để bôi nhọ hoặc gây tổn thương cho người khác (12%), để trả đũa (12%), hoặc để trêu chọc hay quấy rối người khác (11%).

Khi được hỏi cụ thể về cách xử lý nếu gặp phải hình ảnh hoặc video deepfake mang tính chất khiêu dâm của bản thân, đại đa số thanh thiếu niên (81%) cho biết họ sẽ nói chuyện với ai đó, chủ yếu là cha mẹ (65%); trong khi đó, 70% người trẻ thuộc thế hệ Gen Z cho biết họ sẽ báo cáo sự việc, với các cơ quan thực thi pháp luật (53%) và các nền tảng công nghệ (51%) là những nơi họ ưu tiên liên hệ. Cứ 10 trẻ vị thành niên thì có hơn 1 trẻ (18%) và cứ 10 người trong độ tuổi từ 18 đến 24 thì có hơn 2 người (22%) cho biết họ sẽ đơn giản bỏ qua điều đó hoặc không thực hiện bất kỳ biện pháp nào được liệt kê. Biểu đồ dưới đây phác thảo các phương án hành động đề xuất.

Các phát hiện này nhấn mạnh một sự thật quan trọng: sức khỏe kỹ thuật số trong thế kỷ 21 yêu cầu không chỉ các công cụ và nguồn lực an toàn truyền thống; mà còn yêu cầu kiến thức sâu sắc và mang tính thực tiễn về AI. Khi 30% người trẻ báo cáo đã tạo ra nội dung phương tiện tổng hợp liên quan đến bạn bè cùng lứa, hoạt động này có thể ảnh hưởng đến các mối quan hệ cá nhân, danh tiếng cũng như cảm giác kiểm soát của cá nhân đối với cách họ được thể hiện trong mắt người khác.

Theo đó, các cuộc trò chuyện tập trung vào chính sách cần phải chuyển hướng khỏi các phản ứng dựa trên nỗi sợ hãi và hướng đến một khuôn khổ thể hiện "toàn bộ con người" của người trẻ hiện nay trên mạng. Chúng ta có thể xem xét ba thành phần cốt lõi:

1. Kiến thức về AI: Để giúp người trẻ hiểu không chỉ cách sử dụng AI, mà còn hiểu được hậu quả đạo đức và xã hội của việc tạo ra nội dung có thể liên quan đến người khác mà không có sự đồng ý của họ.

2. Kiểm soát cá nhân: Để trao quyền cho người trẻ nhận ra ranh giới và tìm cách duy trì quyền kiểm soát đối với hình ảnh kỹ thuật số của chính mình, và

3. Giao tiếp mở: Để khuyến khích người trẻ, phụ huynh, nhà giáo dục và những người lớn đáng tin cậy khác có những cuộc trò chuyện cởi mở và cân nhắc về chất lượng cũng như số lượng tương tác kỹ thuật số, nhận thức được rằng bất kỳ deepfake nào được tạo ra ngay cả khi chỉ để đùa giỡn, đều có thể có tác động lâu dài đến người khác.

Trùng hợp là, khi được hỏi các em học cách sử dụng các công cụ AI an toàn và có trách nhiệm ở đâu và từ ai, thì tám trong số 10 thanh thiếu niên từ 13 đến 24 tuổi (81%) cho biết các em tự học. Một phần tư (27%) thanh thiếu niên từ 13 đến 17 tuổi cho biết các em học hỏi từ cha mẹ, trong khi giáo viên đóng góp với tỷ lệ một trên 10 vào nguồn kiến thức của cả thiếu niên (11%) và thanh niên (10%).

Các phát hiện này là một phần trong nghiên cứu kéo dài năm năm của Snap về sức khỏe tâm lý trực tuyến của Thế hệ Z trên nhiều nền tảng khác nhau và đánh dấu phần mới nhất và cũng là phần cuối cùng của Chỉ số sức khỏe kỹ thuật số (DWBI), thước đo đánh giá trạng thái sức khỏe trực tuyến của thiếu niên (13-17 tuổi) và thanh niên (18-24 tuổi) tại sáu quốc gia. Chúng tôi cũng đã khảo sát các bậc phụ huynh có con em từ 13 đến 19 tuổi về những trải nghiệm trực tuyến của con em họ. Cuộc thăm dò mới nhất này được thực hiện từ ngày 11 tháng 5 đến ngày 30 tháng 5 năm 2026 và bao gồm 9.005 người được khảo sát thuộc ba nhóm tuổi và sáu khu vực địa lý. Kết quả đầy đủ, bao gồm cả số liệu DWBI mới nhất cho mỗi quốc gia và trên tất cả sáu quốc gia kết hợp, sẽ được công bố vào Ngày Internet an toàn hơn năm 2027 vào tháng 2. Chúng tôi chọn công bố sớm các phát hiện liên quan đến AI này do cuộc thảo luận toàn cầu đang diễn ra về nhiều vấn đề trong số đó.

Khi khép lại chặng đường năm năm nghiên cứu về sức khỏe kỹ thuật số và chuyển hướng trọng tâm nghiên cứu cho những năm tiếp theo, sứ mệnh xuyên suốt hệ sinh thái của chúng tôi vẫn luôn rõ ràng: kiến tạo không gian trực tuyến nơi người trẻ có thể học hỏi, vui cười và kết nối một cách an toàn cũng như chân thực nhất có thể. Sự gia tăng của deepfake là một lời nhắc nhở rằng khi công nghệ phát triển, các nỗ lực vận hành và giáo dục của chúng ta phải phát triển cùng với nó. Bằng cách tiếp tục chú trọng vào kiến thức, khả năng thích ứng và tư duy phản biện, chúng ta có thể giúp đảm bảo rằng thế hệ tương lai không chỉ "xoay xở được" trong môi trường trực tuyến mà còn thực sự phát triển mạnh mẽ.

Để ủng hộ những nỗ lực này, tháng trước, Snap đã thông báo rằng các video hoàn toàn do AI tạo ra sẽ không còn đủ điều kiện để được đề xuất trên tính năng Tâm điểm của Snapchat nữa. Thật vậy, khi nội dung có chất lượng thấp, lặp đi lặp lại, do AI tạo ra ngày càng trở nên phổ biến trên khắp các không gian trực tuyến, Snap muốn Tâm điểm vẫn là nơi mọi người có thể khám phá sự sáng tạo đích thực từ người thật. Chúng tôi cũng tạo ra một bảng thông tin ngắn gọn dành cho phụ huynh và thanh thiếu niên về tài liệu do AI tạo ra. “Dừng lại. Hãy suy nghĩ. ĐÂY có thể là AI không?” được thiết kế để khơi dậy các cuộc trò chuyện giữa thanh thiếu niên, phụ huynh và những người lớn đáng tin cậy khác về việc sử dụng các công cụ AI an toàn và có trách nhiệm. Chúng tôi cũng hợp tác với nhiều nhóm và tổ chức khác và là những người đầu tiên hỗ trợ chiến dịch Know2Protect của Bộ an ninh nội địa Hoa Kỳ để nâng cao nhận thức về nạn bóc lột và lạm dụng tình dục trẻ em. Know2Protect đã công bố một tài liệu về deepfake tại đây.   

Trong lĩnh vực chính sách công, Snap đã ủng hộ Đạo luật Gỡ bỏ nội dung (Take It Down Act), có hiệu lực vào tháng 5 năm 2025 để thiết lập khuôn khổ liên bang Hoa Kỳ nhằm giải quyết vấn đề hình ảnh nhạy cảm bị phát tán khi chưa có sự đồng thuận, bao gồm cả nội dung do AI tạo ra. Luật này quy định việc cố ý công bố hoặc đe dọa công bố hình ảnh nhạy cảm mà không có sự đồng ý là một tội danh cấp liên bang — bất kể hình ảnh đó là thật hay do công nghệ tạo ra — đồng thời yêu cầu các nền tảng thuộc phạm vi hiệu lực phải cung cấp quy trình báo cáo và gỡ bỏ nội dung bị báo cáo trong vòng 48 giờ.

Những mối quan ngại tương tự được phản ánh trong chiến dịch "No to Nudify" được phát động nhân Ngày Internet an toàn hơn năm 2026, quy tụ các tổ chức xã hội dân sự và an toàn cho trẻ em, trong đó có nhiều đơn vị là đối tác và cộng sự của Snap. WeProtect Global Alliance, INHOPE, Internet Watch Foundation, NCMEC, Child Helpline International, Offlimits và Safe Online đã kêu gọi cấm các công cụ AI tạo ảnh khỏa thân giả mạo. Chiến dịch này khẳng định rằng các ứng dụng được gọi là "tạo ảnh khỏa thân" (nudify) thực chất không phải là những thử nghiệm vô hại; thay vào đó, chúng bị lợi dụng để tạo ra các hình ảnh mang tính khiêu dâm từ những bức ảnh bình thường mà không có sự đồng thuận, đồng thời ngày càng liên quan đến các hành vi quấy rối, cưỡng ép, tống tiền tình dục và lạm dụng nhắm vào phụ nữ, trẻ em gái và trẻ em nói chung.

Snap cũng tham gia vào các chương trình thực tiễn liên ngành, được thiết kế nhằm hạn chế sự lan truyền của nội dung dạng này trên Snapchat. Chúng tôi là thành viên của chương trình Take It Down dành cho trẻ vị thành niên của NCMEC và hoạt động StopNCII dành cho người từ 18 tuổi trở lên của SWGfL, qua đó tiếp nhận và sử dụng các chữ ký số đặc thù (hay còn gọi là "hash") để hỗ trợ phát hiện các hình ảnh nhạy cảm trùng lặp và gỡ bỏ nội dung vi phạm quy tắc của chúng tôi. Những nỗ lực này rất quan trọng vì chúng không chỉ tập trung vào việc phát hiện ban đầu, mà còn ngăn chặn việc phát tán hình ảnh nhạy cảm đã biết và deepfake về tình dục sau khi chúng bắt đầu lan truyền.

– Jacqueline Beauchere, Giám đốc An toàn nền tảng toàn cầu, Snap Inc.