Há seis semanas, lançámos o My AI, um chatbot construído com a tecnologia GPT da OpenAI. Começámos devagar ao lançar o My AI para subscritores do Snapchat+ e, em pouco mais de um mês, aprendemos imenso. Por exemplo, sabemos que alguns dos temas mais comuns que a nossa comunidade perguntou ao My AI estão relacionados com filmes, desportos, jogos, animais de estimação e matemática.

Também aprendemos sobre algumas das possibilidades de utilização indevida, muitas das quais aprendemos com pessoas que tentam iludir o chatbot a fornecer respostas que não estão em conformidade com as nossas diretrizes. Como parte do nosso trabalho conjunto para melhorar o My AI, queremos partilhar uma atualização sobre algumas das melhorias de segurança que colocámos recentemente em vigor como resultado das nossas aprendizagens, juntamente com novas ferramentas que planeamos implementar.

Abordagem do My AI quanto aos Dados 

A privacidade foi sempre uma questão fundamental para a missão da Snap, que ajuda as pessoas a se sentirem mais confortáveis quando se exprimem ao comunicar com amigos e familiares. No Snapchat, tentamos fornecer à nossa comunidade clareza e contexto na forma como os nossos produtos utilizam dados e como criamos funcionalidades utilizando processos de privacidade por concepção. Por exemplo, a forma como tratamos os dados relacionados com conversas entre amigos no Snapchat é diferente da forma como tratamos os dados relacionados com o conteúdo difundido no Snapchat, que mantemos a um padrão mais elevado e requerem ser moderados porque atingem uma grande audiência.

No entanto, tendo em conta que o My AI é um chatbot e não um amigo real, temos sido deliberados em tratar de forma diferente os dados associados porque somos capazes de usar o histórico de conversa para continuar a tornar o My AI mais divertido, útil e mais seguro. Antes de os Snapchatters serem autorizados a usar o My AI, mostramos uma mensagem de boas-vindas para clarificar que todas as mensagens do My AI serão guardadas a não ser que sejam eliminadas. 

Ser capaz de rever estas primeiras interações com o My AI ajudou-nos a identificar quais os verificadores de integridade que estão a funcionar bem e quais os que precisam de ser reforçados. Para ajudar nesta avaliação, efetuamos análises das consultas e respostas do My AI que contêm linguagem "não conforme", que definimos como qualquer texto que inclua referências a violência, termos sexualmente explícitos, uso de drogas ilícitas, abuso sexual infantil, intimidação, discurso de ódio, declarações depreciativas ou tendenciosas, racismo, misoginia, ou marginalização de grupos subrepresentados. Todas estas categorias de conteúdos são expressamente proibidas no Snapchat.

A nossa análise mais recente constatou que apenas 0,01% das respostas do My AI foram consideradas não conformes. Exemplos das respostas mais comuns de não conformidade do My AI incluíam a repetição de palavras inadequadas em resposta a perguntas de Snapchatters.

Vamos continuar a utilizar estas aprendizagens para melhorar o My AI. Estes dados também nos ajudarão a lançar um novo sistema para limitar o uso abusivo do My AI. Estamos a adicionar a tecnologia de moderação do Open AI ao nosso conjunto de ferramentas existente, o que nos permitirá avaliar a gravidade do conteúdo potencialmente nocivo e restringir temporariamente o acesso de Snapchatters ao My AI se estes utilizarem o serviço de forma abusiva.

Experiências apropriadas para a idade 

Levamos a sério a nossa responsabilidade de conceber produtos e experiências que atribuam prioridade à segurança e adequação da idade. Desde o lançamento do My AI, trabalhamos afincadamente para melhorar as suas respostas a pedidos inapropriados de Snapchatters, independentemente da idade do Snapchatter. Também usamos ferramentas de deteção proativas para analisar as conversas no My AI a fim de encontrar eventuais textos não conformes e tomar medidas adequadas.

Implementamos também um novo sinal da idade no My AI que utiliza a data de nascimento de um Snapchatter para que, mesmo que um Snapchatter nunca indique a idade ao My AI numa conversa, o chatbot tomará em consideração a sua idade, de modo consistente, sempre que este participar numa conversa.

My AI no Centro da Família

O Snapchat oferece aos pais e cuidadores visibilidade sobre os amigos com os quais os respetivos adolescentes comunicam e quando comunicaram pela última vez, através do Centro da Família. Nas próximas semanas, forneceremos aos pais mais informações sobre as interações dos respetivos adolescentes no My AI. Isto significa que os pais poderão utilizar o Centro da Família para verificar se os respetivos adolescentes estão a comunicar com o My AI e com que frequência. Para poderem utilizar o Centro da Família, tanto o progenitor como o adolescente têm de optar pela sua adesão — e as famílias interessadas podem saber mais sobre como fazer o registo aqui. 

Continuamos a incentivar os Snapchatters a utilizarem as nossas ferramentas de denúncia na aplicação, caso recebam quaisquer respostas preocupantes do My AI e a enviarem-nos os seus comentários sobre as respetivas experiências gerais com o produto.

Estamos a trabalhar constantemente para melhorar o My AI e iremos avaliar de forma contínua as medidas adicionais para ajudar a manter a nossa comunidade segura. Agradecemos todos os comentários iniciais sobre o My AI e estamos empenhados em fornecer uma experiência divertida e segura para a nossa comunidade.