Quando as Lentes chegaram em 2015, a tecnologia de realidade aumentada (RA) deu vida à magia diante de nossos olhos, revolucionando o que pensávamos ser impossível. Hoje, mais de 300 milhões de Snapchatters engajam com RA todos os dias, em média, pois esperamos esse tipo de tecnologia em nossa experiência diária com a câmera. 

Agora, os avanços recentes em IA estão abrindo possibilidades ilimitadas e de tirar o fôlego, reformulando o que pensávamos ser impossível mais uma vez. 

Já existem muitas maneiras inspiradoras para os Snapchatters se expressarem usando IA, seja criando um Papel de parede do chat de IA generativa original para personalizar o visual de uma conversa com um amigo, transformando a si mesmos de maneira imaginativa com as Lentes de IA ou aprendendo sobre o mundo por meio de conversas com a My AI. Estamos muito animados com o potencial dessa tecnologia de IA generativa para ajudar nossa comunidade a continuar expandindo as fronteiras da sua criatividade e imaginação.

Transparência de IA

Acreditamos que os Snapchatters devem ser informados sobre os tipos de tecnologias que estão usando, seja criando visuais divertidos ou aprendendo por meio de conversas baseadas em texto com a My AI.

Usamos ícones contextuais, símbolos e rótulos no aplicativo para fornecer transparência contextual aos Snapchatters quando eles estiverem interagindo com um recurso que é alimentado por tecnologia de IA. Por exemplo, quando um Snapchatter compartilha uma imagem de Sonhos gerada por IA, o destinatário vê um cartão de contexto com mais informações. Outros recursos, como a ferramenta de extensão que aproveita a IA para fazer um Snap parecer mais ampliado, são demarcados como um recurso de IA com um ícone de brilho para o Snapchatter que cria o Snap. 

Também fazemos questão de analisar todos os anúncios políticos por meio de um rigoroso processo de revisão humana, incluindo uma verificação completa de qualquer uso enganoso de conteúdo, incluindo IA para criar imagens ou conteúdo enganoso. 

Em breve, adicionaremos uma marca d'água às imagens geradas por IA. Ela aparecerá em imagens criadas com as ferramentas de IA generativa do Snap quando a imagem for exportada ou salva no Rolo da Câmera. Os destinatários de uma imagem gerada de IA feita no Snapchat podem ver um pequeno logotipo fantasma com o ícone de brilho amplamente reconhecido ao lado dele. A adição dessas marcas d'água ajudará a informar a quem a visualiza que a imagem foi feita com IA no Snapchat. 

Testes e protocolos de segurança padronizados 

Levamos a sério a nossa responsabilidade de criar produtos e experiências que priorizem a segurança, a privacidade e a adequação a idade. Como todos os nossos produtos, os recursos com IA sempre foram submetidos a revisão rigorosa para garantir que eles estejam em conformidade com nossos princípios de segurança e privacidade e, por meio de nossos aprendizados ao longo do tempo, desenvolvemos proteções adicionais:

Simulação de cenários de ataque

O simulação de cenários de ataque de IA é uma tática cada vez mais comum usada para testar e identificar possíveis falhas em modelos de IA e recursos habilitados por ela, além de implementar soluções para melhorar a segurança e a consistência dos resultados de IA. 

Fomos um dos primeiros a adotar novos métodos de simulação de cenários de ataque de IA para modelos de imagem generativa, fazendo uma parceria com a HackerOne em mais de 2.500 horas de trabalho para testar a eficácia de nossas proteções rigorosas. 

Filtragem de segurança e rotulagem consistente

À medida que expandimos as experiências habilitadas para IA generativa disponíveis no Snapchat, estabelecemos princípios de governança responsável e melhoramos nossas mitigações de segurança. 

Criamos um processo de revisão de segurança para detectar e remover comandos potencialmente problemáticos nos primeiros estágios de desenvolvimento de experiências de Lente de IA estilizadas por nossa equipe. Todas as nossas Lentes de IA que geram uma imagem a partir de um comando passam por esse processo antes de serem finalizadas e se tornarem disponíveis para nossa comunidade. 

Testes inclusivos

Queremos que os Snapchatters de todas as esferas de vida tenham acesso e expectativas equitativas ao usar todas as funcionalidades em nosso aplicativo, especialmente nossas experiências com IA. 

Com isso em mente, estamos implementando testes adicionais para minimizar os resultados de IA potencialmente tendenciosos. 

Compromisso contínuo com a alfabetização de IA

Acreditamos no tremendo potencial para a tecnologia de IA para melhorar a capacidade de nossa comunidade de se expressar e se conectar umas com as outras — e estamos comprometidos em continuar a melhorar esses protocolos de segurança e transparência. 

Embora todas as nossas ferramentas de IA, tanto baseadas em texto quanto visuais, sejam projetadas para evitar a produção de material incorreto, prejudicial ou enganoso, erros ainda podem ocorrer. Os Snapchatters podem denunciar conteúdo e apreciamos essa opinião. 

Por fim, como parte desse compromisso contínuo de ajudar nossa comunidade a entender melhor essas ferramentas, agora temos informações adicionais em nosso Site de Suporte.