Quando sono arrivate le Lenti nel 2015, la tecnologia della realtà aumentata (AR) ha dato vita alla magia davanti ai nostri occhi, rivoluzionando ciò che ritenevamo impossibile. Oggi, in media, oltre 300 milioni di Snapchatter utilizzano l'AR ogni giorno, poiché siamo abituati all'utilizzo di questo tipo di tecnologia nella nostra esperienza fotografica quotidiana. 

Ora, i progressi recenti nel campo dell'IA stanno offrendo possibilità illimitate e mozzafiato, stravolgendo ancora una volta ciò che pensavamo fosse impossibile. 

Esistono già molti modi entusiasmanti in cui gli Snapchatter possono esprimersi utilizzando l'IA, sia creando uno sfondo chat originale con l'IA generativa per personalizzare l'aspetto di una conversazione con un amico, sia trasformandosi con le Lenti alimentate dall'IA in modi fantasiosi, sia imparando a conoscere il mondo attraverso le conversazioni con My AI. Siamo entusiasti del potenziale di questa tecnologia per aiutare la nostra community a continuare a liberare la propria creatività e immaginazione. 

Trasparenza dell'IA

Crediamo che gli Snapchatter debbano essere sempre informati sulle tecnologie che utilizzano per creare contenuti visivi divertenti o per imparare conversando con My AI. 

Utilizziamo icone contestuali, simboli ed etichette in-app per fornire trasparenza contestuale agli Snapchatter quando interagiscono con una funzionalità basata sulla tecnologia IA. Ad esempio, quando uno Snapchatter condivide un'immagine di Sogni generata dall'IA, il destinatario vede una scheda contestuale con ulteriori informazioni. Altre funzionalità, come lo strumento di estensione che sfrutta l'IA per ingrandire uno Snap, sono identificate come funzionalità IA con un'icona a forma di scintilla per lo Snapchatter che crea lo Snap. 

Dedichiamo inoltre particolare attenzione al controllo di tutti gli annunci politici mediante un rigoroso processo di revisione umana, che include un controllo approfondito di qualsiasi uso fuorviante dei contenuti, compresa l'IA per creare immagini o contenuti ingannevoli. 

A breve aggiungeremo una filigrana alle immagini generate dall'IA. Apparirà sulle immagini create con gli strumenti di IA generativa di Snap all'esportazione o al salvataggio nel rullino fotografico. I destinatari di un'immagine generata dall'IA su Snapchat potranno vedere un piccolo logo fantasma con accanto l'icona scintillante ampiamente riconosciuta. L'aggiunta di queste filigrane aiuterà a informare il pubblico che l'immagine è stata realizzata con l'IA su Snapchat. 

Test di sicurezza e protocolli standardizzati 

Prendiamo molto sul serio la nostra responsabilità di sviluppare prodotti ed esperienze che mettano al primo posto la privacy, la sicurezza e che siano adeguati all'età dei nostri utenti. Come tutti i nostri prodotti, le funzionalità basate sull'IA sono sempre state sottoposte a una rigorosa revisione per garantire che aderiscano ai nostri principi sulla sicurezza e sulla privacy e, grazie all'esperienza acquisita nel corso del tempo, abbiamo sviluppato ulteriori protezioni:

Red Teaming

Il red teaming dell'IA è una tattica sempre più comune utilizzata per testare e identificare potenziali difetti nei modelli di IA e nelle funzionalità basate sull'IA e implementare soluzioni per migliorare la sicurezza e la coerenza dei risultati dell'IA. 

Siamo stati tra i primi ad adottare i nuovi metodi di red teaming dell'IA per i modelli di immagini generative, collaborando con HackerOne per oltre 2.500 ore di lavoro per testare l'efficacia delle nostre rigorose protezioni. 

Filtraggio di sicurezza ed etichettatura coerente

Con l'ampliamento delle esperienze basate sull'IA generativa disponibili su Snapchat, abbiamo stabilito principi di governance responsabili e migliorato anche le nostre misure di sicurezza. 

Abbiamo creato un processo di revisione della sicurezza per individuare e rimuovere i suggerimenti potenzialmente problematici nelle prime fasi di sviluppo delle esperienze Lente IA progettate dal nostro team. Tutte le nostre Lenti IA che generano un'immagine a partire da una richiesta passano attraverso questo processo prima di essere finalizzate e rese disponibili alla nostra community. 

Test inclusivi

Vogliamo che gli Snapchatter di tutti i ceti sociali abbiano un accesso e delle aspettative equi nell'utilizzo di tutte le funzionalità della nostra app, in particolare delle nostre esperienze basate sull'IA. 

Tenendo presente questo aspetto, stiamo implementando ulteriori test per minimizzare i risultati potenzialmente alterati dell'IA. 

Costante impegno per lo sviluppo dell'IA

Crediamo nell'enorme potenziale della tecnologia IA per migliorare la capacità della nostra community di esprimersi e di connettersi con gli altri e ci impegniamo a continuare a migliorare questi protocolli di sicurezza e trasparenza. 

Nonostante tutti i nostri strumenti di IA, sia testuali che visivi, siano progettati per evitare di produrre materiale errato, dannoso o fuorviante, possono comunque verificarsi degli errori. Gli Snapchatter hanno la possibilità di segnalare i contenuti tramite feedback molto apprezzati. 

Infine, nell'ambito dell'impegno costante per aiutare la nostra community a comprendere meglio questi strumenti, offriamo ora ulteriori informazioni e risorse sul nostro Sito di assistenza.