เมื่อเลนส์เปิดให้ใช้งานในปี 2015 เทคโนโลยีความเป็นจริงเสริม (AR) ได้นำความมหัศจรรย์มาสู่สายตาของเราให้เป็นที่ประจักษ์ โดยเป็นการปฏิวัติสิ่งที่เราคิดว่าเป็นไปได้ ทุกวันนี้ Snapchatter โดยเฉลี่ยมากกว่า 300 ล้านคนใช้งาน AR ในแต่ละวัน ตามที่พวกเราคาดไว้แล้วว่าเทคโนโลยีประเภทนี้จะมีอยู่ในการใช้กล้องถ่ายรูปในชีวิตประจำวันของเรา

ขณะนี้ ความก้าวหน้าล่าสุดใน AI เปิดโอกาสให้เกิดความเป็นไปได้ใหม่ๆ อันไร้ขีดจำกัด เปลี่ยนความคิดเกี่ยวกับสิ่งที่เราคิดว่าเป็นไปได้อีกระลอก

มีวิธีที่น่าสนใจอยู่มากมายสำหรับ Snapchatter ในการแสดงออกโดยใช้ AI ไม่ว่าจะสร้างวอลเปเปอร์แชทแบบไม่ซ้ำใครด้วย AI สร้างข้อมูลเพื่อปรับแต่งลุคของการสนทนากับเพื่อน เปลี่ยนตนเองให้อยู่ในรูปแบบภาพจินตนาการด้วยเลนส์ที่ขับเคลื่อนด้วย AI หรือเรียนรู้เกี่ยวกับโลกผ่านการสนทนากับ My AI เรารู้สึกตื่นเต้นมากกับศักยภาพของเทคโนโลยีนี้ในการช่วยให้ชุมชนของเราเปิดกว้างต่อความคิดสร้างสรรค์และจินตนาการต่อไป

ความโปร่งใสของ AI

เราเชื่อว่า Snapchatter ควรได้รับแจ้งเกี่ยวกับประเภทของเทคโนโลยีที่กำลังใช้อยู่ ไม่ว่าจะเป็นการสร้างภาพสนุกๆ ขึ้นมาหรือการเรียนรู้ผ่านการสนทนาแบบข้อความด้วย My AI

เราใช้ไอคอน สัญลักษณ์ และป้ายกำกับตามบริบทในแอปเพื่อให้ Snapchat มีความโปร่งใสตามบริบท เมื่อ Snapchatter กำลังใช้งานฟีเจอร์ที่ขับเคลื่อนโดยเทคโนโลยี AI ตัวอย่างเช่น เมื่อ Snapchatter แชร์รูปภาพในโลกแห่งความฝันที่สร้างโดย AI ผู้รับจะเห็นบัตรคำอธิบายที่มีข้อมูลเพิ่มเติม ฟีเจอร์อื่นๆ เช่น เครื่องมือขยายซึ่งใช้ประโยชน์จาก AI เพื่อทำให้ Snap ปรากฏในแบบซูมออกจนเห็นภาพรวมมากขึ้น โดยจะถูกกำหนดเป็นฟีเจอร์ AI พร้อมด้วยไอคอนประกายระยิบระยับให้กับ Snapchatter ที่สร้าง Snap

นอกจากนี้ เรายังเอาใจใส่เป็นอย่างยิ่งในการตรวจสอบโฆษณาทางการเมืองทั้งหมดอย่างเข้มงวดผ่านกระบวนการตรวจสอบโดยเจ้าหน้าที่ รวมถึงการตรวจสอบอย่างละเอียดเกี่ยวกับการใช้เนื้อหาที่ทำให้เข้าใจผิด รวมถึง AI เพื่อสร้างภาพหรือเนื้อหาที่หลอกลวง

เร็วๆ นี้ เราจะเพิ่มลายน้ำให้กับรูปภาพที่สร้างโดย AI โดยจะปรากฏขึ้นบนรูปภาพที่สร้างด้วยเครื่องมือ AI สร้างข้อมูลของ Snap เมื่อมีการส่งออกรูปภาพหรือบันทึกลงในคลังภาพ ผู้รับรูปภาพที่สร้างโดย AI ที่ทำขึ้นบน Snapchat จะเห็นโลโก้รูปผีขนาดเล็กพร้อมไอคอนประกายระยิบระยับที่เป็นที่รู้จักกันดีอยู่ข้างๆ รูปภาพ การเพิ่มลายน้ำเหล่านี้จะช่วยแจ้งให้ผู้ที่ดูรูปภาพนั้นทราบว่ารูปภาพนั้นสร้างด้วย AI บน Snapchat

การทดสอบและโปรโตคอลรักษาความปลอดภัยที่ได้มาตรฐาน 

เรารับผิดชอบอย่างจริงจังในการออกแบบผลิตภัณฑ์และประสบการณ์ที่คำนึงถึงความเป็นส่วนตัว ความปลอดภัย และความเหมาะสมกับอายุเป็นหลัก เช่นเดียวกับผลิตภัณฑ์ทั้งหมดของเรา ฟีเจอร์ที่ขับเคลื่อนด้วย AI ได้รับการตรวจสอบอย่างเข้มงวดอยู่เสมอเพื่อให้แน่ใจว่าเป็นไปตามหลักการด้านความปลอดภัยและหลักการความเป็นส่วนตัวของเรา และจากการเรียนรู้ของเราเมื่อเวลาผ่านไป เราได้พัฒนาการป้องกันเพิ่มเติม ดังนี้:

การจำลองการเจาะระบบ

การจำลองการเจาะระบบด้วย AI เป็นกลยุทธ์ที่ใช้กันทั่วไปมากขึ้นเรื่อยๆ เพื่อทดสอบและระบุข้อบกพร่องที่อาจเกิดขึ้นในโมเดล AI และฟีเจอร์ที่ใช้งาน AI และนำโซลูชันมาใช้เพื่อเพิ่มความปลอดภัยและความเสมอต้นเสมอปลายของเอาต์พุต AI

เราเป็นผู้ที่นำการจำลองการเจาะระบบด้วย AI แบบใหม่มาใช้เป็นรายแรกๆ สำหรับแบบจำลองการสร้างภาพโดยร่วมมือกับ HackerOne ในการทำงานมากกว่า 2,500 ชั่วโมงเพื่อทดสอบประสิทธิภาพของการรักษาความปลอดภัยที่เข้มงวดของเรา

การคัดกรองเพื่อความปลอดภัยและการติดฉลากที่สอดคล้องกัน

ในขณะที่เราได้ขยายขอบเขตประสบการณ์การใช้งานที่ขับเคลื่อนด้วย AI สร้างข้อมูลบน Snapchat เราก็ได้กำหนดหลักการกำกับดูแลอย่างมีความรับผิดชอบและปรับปรุงการบรรเทาผลกระทบด้านความปลอดภัยของเราด้วยเช่นกัน

เราได้สร้างกระบวนการตรวจสอบความปลอดภัยเพื่อตรวจจับและลบคำสั่งที่ป้อนลงไปซึ่งอาจก่อให้เกิดปัญหาไว้ตั้งแต่ในระยะแรกของการพัฒนาประสบการณ์การใช้งานเลนส์ AI ที่ออกแบบโดยทีมงานของเรา เลนส์ AI ทั้งหมดของเราที่สร้างภาพจากคำสั่งที่ป้อนลงไปจะต้องผ่านกระบวนการนี้ก่อนที่จะเสร็จสมบูรณ์และเปิดให้ใช้งานในชุมชนของเรา

การทดสอบอย่างไม่แบ่งแยก

เราต้องการให้ Snapchatter จากทุกสาขาอาชีพสามารถเข้าถึงและคาดหวังได้อย่างเท่าเทียมกันเมื่อใช้ฟีเจอร์ทั้งหมดที่อยู่ภายในแอปของเรา โดยเฉพาะอย่างยิ่งประสบการณ์การใช้งานที่ขับเคลื่อนด้วย AI ของเรา

ด้วยเหตุนี้ เราจึงดำเนินการทดสอบเพิ่มเติมเพื่อลดผลลัพธ์จาก AI ที่อาจมีอคติให้เหลือน้อยที่สุด

ความมุ่งมั่นที่จะหาความรู้ด้าน AI อย่างต่อเนื่อง

เราเชื่อในศักยภาพอันยิ่งใหญ่ของเทคโนโลยี AI ที่มีต่อการเพิ่มความสามารถให้กับชุมชนในการแสดงออกและติดต่อกันและกัน และเรามุ่งมั่นที่จะปรับปรุงโปรโตคอลรักษาความปลอดภัยและความโปร่งใสเหล่านี้ต่อไป

แม้ว่าเครื่องมือ AI ทั้งหมดของเรา ทั้งแบบข้อความและแบบรูปภาพได้รับการออกแบบมาเพื่อหลีกเลี่ยงการผลิตเนื้อหาที่ไม่ถูกต้อง เป็นอันตราย หรือทำให้เข้าใจผิด แต่ข้อผิดพลาดยังอาจเกิดขึ้นได้ Snapchatter สามารถรายงานเนื้อหาได้ และเราขอน้อมรับคำติชมนี้

สุดท้ายนี้ ในฐานะส่วนหนึ่งของความมุ่งมั่นอย่างต่อเนื่องที่จะช่วยให้ชุมชนของเราเข้าใจเครื่องมือเหล่านี้ได้ดียิ่งขึ้น ขณะนี้ เรามีข้อมูลและแหล่งข้อมูลเพิ่มเติมอยู่ในเว็บไซต์สนับสนุนของเรา