Когато Обективите пристигнаха през 2015 г., технологията на обогатената реалност (ОР) превърна магията в реалност пред очите ни, като революционизира представите ни за това какво е възможно. Понастоящем средно над 300 милиона потребители на Snapchat използват ОР всеки ден и вече очакваме тази технология да присъства във всяка модерна камера. 

Сега неотдавнашният напредък в ИИ разкрива неограничени и спиращи дъха възможности, които отново преобръщат представите ни. 

Вече съществуват толкова много вдъхновяващи начини за потребителите на Snapchat да изразяват себе си чрез ИИ, независимо дали създават оригинален генериран от ИИ тапет за чата, за да персонализират разговорите си с приятел, преобразяват се по креативни начин чрез основаните на ИИ Обективи или изучават света чрез разговори с My AI. Вълнуваме се от потенциала на тази технология да помага на общността ни да продължи да отключва своята креативност и въображение. 

Прозрачност на ИИ

Смятаме, че потребителите на Snapchat трябва да бъдат информирани относно видовете технологии, които използват, независимо дали създават забавни визуални материали или учат чрез текстови разговори с My AI. 

Използваме контекстуални икони, символи и етикети в приложението, за да осигурим на потребителите на Snapchat контекстуална прозрачност, когато взаимодействат с дадена функция, основана на технологии за ИИ. Например, когато даден потребител на Snapchat споделя генерирано от ИИ изображение в Мечти, получателят вижда контекстна карта с повече информация. Други функции, като например инструментът за разширяване, който използва ИИ, за да създаде илюзия за отдалечаване на камерата на даден Snap, са обозначени за потребителя, създаващ Snap-а, като функция на ИИ чрез икона на искра. 

Също така полагаме големи усилия, за да проверяваме всички политически реклами чрез строг процес на преглед от страна на човек, включително щателна проверка за подвеждащо използване на съдържание, включително ИИ за създаване на измамни изображения или съдържание. 

Скоро ще добавим воден знак към генерираните от ИИ изображения. Той ще се появява на изображения, създадени с инструментите на Snap за генериране от ИИ, когато изображението бъде експортирано или запазено в ролката на камерата. Получателите на генерирано от ИИ изображение, създадено в Snapchat, може да видят малко прозрачно лого с добре познатата икона на искра до него. Добавянето на тези водни знаци ще помогне потребителите да се информират, че изображението е направено от ИИ в Snapchat. 

Стандартизирани тестове и протоколи за безопасност 

Гледаме сериозно на отговорността си да разработваме продукти и преживявания, в които поверителността, безопасността и съобразяването с възрастта имат приоритет. Както всички наши продукти, функциите, основани на ИИ, винаги са подложени на строг преглед, за да се гарантира, че отговарят на нашите принципи по отношение на безопасността и поверителността – а благодарение на опита си, придобит с времето, разработихме и допълнителни защити:

Тестова кибератака с цел подобряване на сигурността

Тестовата кибератака чрез ИИ с цел подобряване на сигурността е все по-често срещана тактика, използвана за тестване и откриване на потенциални недостатъци в моделите на ИИ и функциите, използващи ИИ, и въвеждане на решения за подобряване на безопасността и последователността на продуктите на ИИ. 

Още на ранен етап започнахме да използваме новите методи за тестова кибератака чрез ИИ по отношение на моделите за генериране на изображения, като заедно с партньорите ни от HackerOne сме отделили над 2500 часа работа за тестване на ефикасността на най-строгите си защити. 

Филтриране за безопасност и последователно етикетиране

С разширяването на наличните в Snapchat преживявания, използващи генериране от ИИ, ние също така установихме принципи за отговорно управление и подобрихме методите си за осигуряване на безопасност. 

Създадохме процес за проверка на безопасността, за да откриваме и премахваме потенциално проблематичните промптове още на най-ранните етапи от разработването на преживяванията на Обективите с ИИ, подготвени от екипа ни. Всички наши Обективи с ИИ, които генерират изображение от даден промпт, преминават през този процес, преди да бъдат финализирани и предоставени на нашата общност. 

Приобщаващи тестове

Искаме потребителите на Snapchat от всички сфери на живота да имат равностоен достъп и очаквания, когато използват всички функции в нашите приложения, по-специално преживяванията, основани на ИИ. 

С тази идея въвеждаме допълнителни тестове, за да сведем до минимум потенциално дискриминационните резултати от ИИ. 

Постоянен ангажимент към грамотността относно ИИ

Вярваме в огромния потенциал на технологиите за ИИ да подобрят възможностите на потребителите ни да изразяват себе си и да общуват един с друг – и се ангажираме да продължаваме да усъвършенстваме протоколите си относно сигурността и прозрачността. 

Въпреки че всичките ни текстови и визуални инструменти, използващи ИИ, са разработени така, че да се избягва създаването на неточни, вредни или подвеждащи материали, понякога се случват грешки. Потребителите на Snapchat могат да докладват съдържание и ние ценим тази обратна връзка. 

Най-накрая, като част от постоянния ни ангажимент да помагаме на общността ни да разбира по-добре тези инструменти, вече сме подготвили допълнителна информация и ресурси на нашия Уебсайт за помощ.