Khi Ống kính ra mắt vào năm 2015, công nghệ thực tế tăng cường (AR) đã mang phép màu đến cuộc sống trước mắt chúng ta, cách mạng hóa những gì chúng ta nghĩ là có thể. Ngày nay, trung bình hơn 300 triệu Snapchatter tương tác với AR mỗi ngày, vì chúng tôi mong đợi loại công nghệ này sẽ xuất hiện trong trải nghiệm camera hàng ngày của chúng ta. 

Giờ đây, những tiến bộ gần đây trong AI đang mở ra những khả năng vô hạn và ngoạn mục, một lần nữa chắp cánh cho những khả năng.

Đã có rất nhiều cách truyền cảm hứng để các Snapchatter thể hiện bản thân bằng AI, dù là tạo Hình nền Chat AI Sáng tạo riêng để cá nhân hóa giao diện của cuộc trò chuyện với bạn bè, chuyển đổi bản thân theo những cách giàu trí tưởng tượng với Ống kính do AI hỗ trợ, hay tìm hiểu về thế giới thông qua các cuộc trò chuyện với My AI. Chúng tôi rất vui mừng trước tiềm năng của công nghệ này để giúp cộng đồng tiếp tục mở khóa sự sáng tạo và trí tưởng tượng của họ. 

Minh bạch AI

Chúng tôi tin rằng các Snapchatter nên được thông báo về các loại công nghệ mà họ sử dụng để tạo các hình ảnh thú vị hoặc để tìm hiểu thông tin thông qua các cuộc trò chuyện bằng tin nhắn với My AI.

Chúng tôi sử dụng biểu tượng, ký hiệu và nhãn theo ngữ cảnh trong ứng dụng để cung cấp tính minh bạch ngữ cảnh cho các Snapchatter khi họ tương tác với một tính năng được cung cấp bởi công nghệ AI. Ví dụ, khi một Snapchatter chia sẻ hình ảnh Giấc mơ do AI tạo ra, người nhận sẽ thấy thẻ ngữ cảnh có nhiều thông tin hơn. Các tính năng khác, như công cụ mở rộng thúc đẩy AI làm cho một Snap xuất hiện thu nhỏ hơn, được phân định là một tính năng AI với biểu tượng lấp lánh để Snapchatter tạo ra Snap.

Chúng tôi cũng cẩn thận kiểm tra chặt chẽ tất cả các quảng cáo chính trị thông qua quy trình kiểm tra nghiêm ngặt bằng con người, bao gồm kiểm tra kỹ lưỡng bất kỳ việc sử dụng nội dung gây hiểu lầm nào, bao gồm AI để tạo hình ảnh hoặc nội dung lừa đảo. 

Sắp tới, chúng tôi sẽ chèn biểu tượng nhận biết hình ảnh do AI tạo ra. Nó sẽ xuất hiện trên các hình ảnh được tạo bằng công cụ AI Sáng tạo của Snap khi hình ảnh được xuất hoặc lưu vào cuộn camera. Người nhận hình ảnh do AI tạo ra trên Snapchat có thể thấy một biểu tượng chú ma nhỏ với biểu tượng lấp lánh thường thấy bên cạnh. Việc bổ sung các dấu hiệu nhận biết này sẽ giúp thông báo cho những người xem rằng hình ảnh được tạo bằng AI trên Snapchat. 

Kiểm tra An toàn & Giao thức được chuẩn hóa 

Chúng tôi thực hiện nghiêm túc trách nhiệm của mình trong việc thiết kế các sản phẩm và trải nghiệm ưu tiên sự riêng tư, an toàn và phù hợp với lứa tuổi. Giống như tất cả các sản phẩm của chúng tôi, các tính năng do AI cung cấp luôn trải qua quá trình xem xét nghiêm ngặt để đảm bảo chúng tuân thủ các nguyên tắc an toàn và quyền riêng tư của chúng tôi - và thông qua các bài học theo thời gian, chúng tôi đã phát triển các biện pháp bảo vệ bổ sung:

Đội đỏ

Đội đỏ AI là một chiến thuật ngày càng phổ biến được sử dụng để kiểm tra và xác định các lỗ hổng tiềm năng trong các mô hình AI và các tính năng hỗ trợ AI và thực hiện các giải pháp để cải thiện sự an toàn và tính nhất quán của đầu ra AI. 

Chúng tôi đã sớm áp dụng các phương pháp đội đỏ AI mới cho các mô hình hình ảnh sáng tạo, hợp tác với HackerOne trong hơn 2.500 giờ làm việc để kiểm tra tính hiệu quả của các biện pháp bảo vệ nghiêm ngặt của chúng tôi. 

Lọc an toàn & Ghi nhãn nhất quán

Khi chúng tôi mở rộng trải nghiệm hỗ trợ bởi AI Sáng Tạo trên Snapchat, chúng tôi cũng đã thiết lập các nguyên tắc quản trị có trách nhiệm và cũng cải thiện các biện pháp giảm thiểu an toàn. 

Chúng tôi đã tạo ra một quy trình đánh giá an toàn để phát hiện và gỡ bỏ các gợi ý có thể có vấn đề trong giai đoạn đầu tiên phát triển trải nghiệm Ống kính AI do đội ngũ của chúng tôi tạo ra. Tất cả Ống kính AI của chúng tôi tạo ra hình ảnh từ gợi ý đều trải qua quy trình này trước khi chúng được hoàn thiện và đưa ra cộng đồng của chúng tôi. 

Thử nghiệm hòa hợp

Chúng tôi muốn các Snapchatter từ mọi tầng lớp có quyền truy cập và kỳ vọng công bằng khi sử dụng tất cả các tính năng trong ứng dụng của chúng tôi, đặc biệt là trải nghiệm do AI cung cấp. 

Với ý nghĩ này, chúng tôi sẽ thực hiện thử nghiệm bổ sung để giảm thiểu kết quả AI có khả năng bị thiên vị. 

Cam kết không ngừng với việc phổ cập AI

Chúng tôi tin vào tiềm năng to lớn của công nghệ AI trong việc cải thiện khả năng thể hiện bản thân và kết nối với nhau của cộng đồng chúng tôi - và chúng tôi cam kết tiếp tục cải thiện các giao thức an toàn và minh bạch này. 

Mặc dù tất cả các công cụ AI của chúng tôi, dù dựa trên văn bản hay hình ảnh, đều được thiết kế để tránh tạo ra tài liệu không chính xác, có hại hoặc gây hiểu nhầm, nhưng vẫn có thể xảy ra sai sót. Các Snapchatter có thể báo cáo nội dung, và chúng tôi đánh giá cao phản hồi này. 

Cuối cùng, chúng tôi đã bổ sung thông tin và tài nguyên trên Trang Web Hỗ Trợ của mình như một phần trong cam kết liên tục này để giúp cộng đồng hiểu rõ hơn về các công cụ này.