Quando as Lentes chegaram em 2015, a tecnologia de realidade aumentada (RA) deu vida à magia diante dos nossos olhos, revolucionando o que pensávamos ser possível. Atualmente, mais de 300 milhões de Snapchatters, em média, interagem com a RA diariamente uma vez que este tipo de tecnologia é esperado na nossa experiência diária com a câmara. 

Agora, os recentes avanços na IA estão a abrir possibilidades ilimitadas e de cortar a respiração, reformulando, mais uma vez, o que pensávamos ser possível. 

Já existem muitas formas inspiradoras para os Snapchatters se expressarem através da IA, quer seja na criação de um papel de parede original do Chat de IA generativa para personalizar o visual de uma conversa com um amigo, na sua transformação criativa com as Lentes de IA, ou na aprendizagem sobre o mundo através de conversas com a My AI. Estamos muito entusiasmados com o potencial desta tecnologia para ajudar a nossa comunidade num desbloqueio contínuo da sua criatividade e imaginação. 

Transparência da IA

Acreditamos que os Snapchatters devem ser informados sobre os tipos de tecnologias que estão a utilizar, quer estejam a criar imagens divertidas ou a aprender através de conversas baseadas em texto com a My AI. 

Usamos ícones contextuais, símbolos e etiquetas na aplicação para dar uma transparência contextual aos Snapchatters quando interagem com uma funcionalidade alimentada pela tecnologia de IA. Por exemplo, quando um Snapchatter partilha uma imagem Sonhos gerada por IA, o destinatário vê um cartão informativo com mais informações. Outras funcionalidades, como a ferramenta de ampliação que aproveita a IA para tornar um Snap mais reduzido, são demarcadas como uma funcionalidade de IA com um ícone brilhante para o Snapchatter que cria o Snap. 

Também temos o cuidado de verificar todos os anúncios políticos com um processo rigoroso de análise humana, incluindo uma verificação integral de qualquer utilização enganosa de conteúdo, incluindo IA para criar imagens ou conteúdos enganosos. 

Em breve, adicionaremos uma marca d'água às imagens geradas pela IA. Irá constar nas imagens criadas com as ferramentas de IA generativa da Snap quando a imagem for exportada ou guardada no rolo da câmara. Os destinatários de uma imagem gerada pela IA feita no Snapchat podem ver um pequeno logótipo fantasma com o ícone brilhante amplamente reconhecido ao lado. A adição destas marcas d'água ajuda a informar os visitantes de que a imagem foi feita com IA no Snapchat. 

Testes e protocolos de segurança padronizados 

Levamos a sério a nossa responsabilidade de conceber produtos e experiências que dão prioridade à privacidade, segurança e adequação da idade. Como todos os nossos produtos, as funcionalidades com IA foram sempre submetidas a uma análise rigorosa para garantir que cumprem os nossos princípios de segurança e privacidade. Através das nossas aprendizagens ao longo do tempo, desenvolvemos medidas de proteção adicionais:

Red-Teaming

A red-teaming (agrupamento vermelho) da IA é uma tática cada vez mais comum usada para testar e identificar potenciais falhas nos modelos de IA e nas funcionalidades ativas para IA, e implementar soluções para melhorar a segurança e a consistência dos resultados de IA. 

Temos sido inovadores na adoção dos novos métodos de red-teaming da IA para modelos de imagem gerativos, em parceria com a HackerOne em mais de 2.500 horas de trabalho para testar a eficácia das nossas rigorosas salvaguardas. 

Colocação de filtros de segurança e rótulos consistentes

À medida que alargamos as experiências ativas para IA generativa, disponíveis no Snapchat, estabelecemos princípios de governação responsável e reforçámos as nossas medidas de segurança. 

Criámos um processo de análise de segurança para detetar e remover comandos potencialmente problemáticos nas primeiras fases do desenvolvimento das experiências da Lente de IA adaptado pela nossa equipa. Todas as nossas Lentes de IA que geram uma imagem a partir de um comando passam por este processo antes de serem finalizadas e disponibilizadas à nossa comunidade. 

Testes inclusivos

Queremos que os Snapchatters de todos os estratos sociais tenham acesso e expectativas equitativas ao utilizarem todas as funcionalidades da nossa aplicação, especialmente as nossas experiências com IA. 

Com este objetivo presente, estamos a implementar testes adicionais para minimizar os resultados de IA potencialmente tendenciosos. 

Compromisso contínuo para com a literacia da IA

Acreditamos no tremendo potencial da tecnologia de IA para melhorar a capacidade da nossa comunidade de se expressar e se conectar – e estamos empenhados em continuar a melhorar estes protocolos de segurança e transparência. 

Embora todas as nossas ferramentas de IA, tanto baseadas em texto como visuais, tenham sido concebidas para evitar a produção de material incorreto, prejudicial ou enganoso, ainda assim pode haver erros. Os Snapchatters podem denunciar conteúdo, e agradecemos esta denúncia. 

Por último, fazendo parte do nosso compromisso contínuo de ajudar a nossa comunidade a compreender melhor estas ferramentas, dispomos de informações e recursos adicionais no nosso Site de Suporte.