Когда в 2015 году появились линзы, технология дополненной реальности (AR) оживила магию на наших глазах, совершив революцию в том, что мы считали возможным. Сегодня в среднем более 300 миллионов снапчаттеров ежедневно используют AR, так как мы ожидаем использования этой технологии в нашей повседневной работе с камерой. 

Последние достижения в области искусственного интеллекта открывают безграничные и захватывающие дух возможности, в очередной раз пересматривая то, что мы считали возможным. 

Уже сейчас у пользователей Snapchat есть множество вдохновляющих способов самовыражения с помощью искусственного интеллекта, будь то создание оригинальных обоев для чата с генеративным ИИ для персонализации беседы с другом, преображение себя с помощью линз с искусственным интеллектом или изучение мира через беседы с My AI. Мы очень рады тому, что эта технология помогает нашему сообществу и дальше раскрывать свой творческий потенциал и проявлять воображение. 

Прозрачность ИИ

Мы считаем, что снапчаттеры должны быть информированы о типах технологий, которые они используют, будь то создание забавных визуальных образов или обучение с помощью текстовых бесед с My AI. 

Мы используем контекстные иконки, символы и ярлыки в приложении, чтобы обеспечить контекстную прозрачность для снапчаттеров, когда они взаимодействуют с функцией, работающей на базе технологии ИИ. Например, когда снапчаттер делится изображением Фантазии, сгенерированной ИИ, получатель видит контекстную карточку с дополнительной информацией. Другие функции, такие как программа расширения, которая использует ИИ для того, чтобы сделать Snap более заметным, обозначены как функция ИИ с помощью иконки искры для снапчаттера, создающего Snap. 

Мы также тщательно проверяем все политические объявления с помощью тщательного человеческого анализа, включая тщательную проверку на предмет использования вводящего в заблуждение контента, включая искусственный интеллект для создания обманчивых изображений или контента. 

Вскоре мы добавим водяной знак к изображениям, сгенерированным ИИ. Он будет отображаться на изображениях, созданных с помощью генеративного ИИ Snap при экспорте или сохранении в Фотоплёнке. Получатели изображения, сгенерированного ИИ в Snapchat, могут видеть небольшой логотип-призрак с широко известной иконкой искры рядом с ним. Добавление этих водяных знаков поможет проинформировать тех, кто его просматривает, о том, что изображение было сделано с помощью искусственного интеллекта в Snapchat. 

Стандартизированные испытания безопасности и протоколы 

Мы серьезно воспринимаем ответственность за разработку продуктов и впечатлений, отдавая при этом приоритет конфиденциальности, безопасности и соответствию контента возрасту. Как и все наши продукты, функции с искусственным интеллектом всегда проходят строгий контроль на предмет соблюдения принципов безопасности и конфиденциальности, и с течением времени мы разработали дополнительные меры защиты:

«Красная команда»

«Красная команда» ИИ становится все более распространенной тактикой, используемой для тестирования и выявления потенциальных недостатков в моделях ИИ и функциях, поддерживающих ИИ, а также реализации решений для повышения безопасности и согласованности результатов ИИ. 

Мы были первыми, кто применил новые методы ИИ для генеративных моделей изображений, сотрудничая с HackerOne в течение более чем 2500 часов работы, чтобы проверить эффективность наших строгих мер защиты. 

Фильтрация безопасности и последовательная маркировка

Расширяя возможности использования генеративного искусственного интеллекта в Snapchat, мы установили принципы ответственного управления и усовершенствовали меры безопасности. 

Мы создали процесс проверки безопасности, чтобы выявлять и удалять потенциально проблемные подсказки на самых ранних этапах разработки линз ИИ, стилизованных нашей командой. Все наши линзы ИИ, генерирующие изображение из подсказки, проходят этот процесс перед тем, как они будут доработаны и станут доступны нашему сообществу. 

Инклюзивное тестирование

Мы хотим, чтобы снапчаттеры из всех слоев общества имели равный доступ и ожидания при использовании всех функций нашего приложения, особенно при работе с искусственным интеллектом. 

Учитывая это, мы проводим дополнительное тестирование, чтобы свести к минимуму потенциально необъективные результаты ИИ. 

Постоянное стремление к повышению грамотности в области ИИ

Мы верим в огромный потенциал технологии ИИ для улучшения способности нашего общества выражать свои мысли и общаться друг с другом, и мы намерены продолжать совершенствовать эти протоколы безопасности и прозрачности. 

Хотя все наши инструменты искусственного интеллекта, как текстовые, так и визуальные, разработаны таким образом, чтобы избежать создания неправильных, вредных или вводящих в заблуждение материалов, ошибки все же могут возникнуть. Снапчаттеры могут отправлять жалобы на контент, и мы ценим эту обратную связь. 

Наконец, в рамках постоянного стремления помочь нашему сообществу лучше понять эти инструменты, мы разместили дополнительную информацию и ресурсы на нашем сайте поддержки.