Da Linser ble introdusert i 2015, bragte utvidet virkelighetsteknologi (AR) magien til live rett foran øynene våre, og revolusjonerte hva vi trodde var mulig. I dag engasjerer i gjennomsnitt over 300 millioner Snapchattere seg med AR hver dag, siden vi har kommet til å forvente denne typen teknologi i vår daglige kameraopplevelse.

Nå åpner nylige fremskritt i AI opp ubegrensede og fantastiske muligheter, og overgår det vi trodde var mulig igjen. 

Allerede er det så mange inspirerende måter for Snapchattere å uttrykke seg ved hjelp av AI, enten de lager en Generativ AI Chat-bakgrunn for å tilpasse utseendet til en samtale med en venn, forvandler seg selv på fantasifulle måter med AI-drevne Linser eller lærer om verden gjennom samtaler med My AI. Vi er så entusiastiske over denne teknologiens potensial til å hjelpe samfunnet vårt med å fortsette å utforske kreativitet og fantasi.

AI-åpenhet

Vi mener at Snapchattere bør bli informert om hvilke typer teknologier de bruker, enten de lager morsomme visuelle elementer eller lærer gjennom tekstbaserte samtaler med My AI.

Vi bruker kontekstuelle ikoner, symboler og etiketter i appen for å gi kontekstuell gjennomsiktighet til Snapchattere når de samhandler med en funksjon som er drevet av AI-teknologi. For eksempel når en Snapchatter deler et AI-generert Drømmebilde, ser mottakeren et innholdskort med mer informasjon. Andre funksjoner, som det utvidede verktøyet som utnytter AI for å få en Snap til å vises mer zoomet ut, er markert som en AI-funksjon med et gnistikon for Snapchatteren som lager Snappen.

Vi er også nøye med på sende alle politiske annonser gjennom en grundig prosess med menneskelig gjennomgang, inkludert en grundig sjekk for eventuell villedende bruk av innhold, inkludert AI for å lage villedende bilder eller innhold.

Snart vil vi legge til et vannmerke på AI-genererte bilder. Det vil vises på bilder som er opprettet med Snaps Generativ AI-verktøy når bildet blir eksportert eller lagret på kamerarull Mottakere av et AI-generert bilde laget på Snapchat kan se en liten spøkelseslogo med det anerkjente gnistikonet ved siden av den. Tillegget av disse vannmerkene vil bidra til å informere de som ser det at bildet ble laget med AI på Snapchat.

Standardiserte sikkerhetstester og protokoller 

Vi tar vårt ansvar alvorlig ved å designe produkter og opplevelser som prioriterer personvern, sikkerhet og aldersmessig egnethet. Som med alle våre produkter har AI-drevne funksjoner alltid gjennomgått grundig gjennomgang for å sikre at de overholder våre sikkerhets- og personvernprinsipper – og gjennom våre erfaringer over tid har vi utviklet ytterligere sikkerhetstiltak.

Red-Teaming

AI red-teaming er en stadig mer vanlig taktikk som brukes til å teste og identifisere potensielle feil i AI-modeller og AI-aktiverte funksjoner, samt implementere løsninger for å forbedre sikkerheten og konsistensen av AI-utdata. 

Vi har vært tidlige brukere av de nye AI red-teaming-metodene for generative bildemodeller, og vi har samarbeidet med HackerOne i mer enn 2500 timer for å teste effektiviteten av våre strenge sikkerhetstiltak.

Sikkerhetsfiltrering og konsekvent merking

Etter hvert som vi har utvidet de Generativ AI-aktiverte opplevelsene tilgjengelig på Snapchat, har vi etablert ansvarlige styringsprinsipper og forbedret våre sikkerhetsforanstaltninger også. 

Vi har etablert en sikkerhetsgjennomgangsprosess for å oppdage og eventuelt fjerne potensielt problematiske forespørsler i de tidligste stadiene av utviklingen av AI-Linseopplevelser utformet av teamet vårt. Alle våre AI-Linser som genererer et bilde fra en forespørsel, går gjennom denne prosessen før de blir ferdige og blir tilgjengelige for samfunnet vårt. 

Inkluderende testing

Vi ønsker at Snapchattere fra alle samfunnslag skal ha likeverdig tilgang og forventninger når de bruker alle funksjoner i appen vår, spesielt våre AI-drevne opplevelser. 

Med dette i tankene implementerer vi ytterligere testing for å minimere potensielt partiske AI-resultater. 

Fortsatt engasjement for AI-kunnskap

Vi tror på det enorme potensialet AI-teknologi har for å forbedre vårt samfunns evne til å uttrykke seg og få kontakt med hverandre – og vi er forpliktet til å fortsette å forbedre disse sikkerhets- og gjennomsiktighetsprotokollene. 

Mens alle våre AI-verktøy, både tekstbasert og visuelle, er designet for å unngå å produsere feilaktig, skadelig eller villedende materiale, kan det fortsatt oppstå feil. Snapchattere kan rapportere innhold, og vi setter pris på denne tilbakemeldingen.

Til slutt, som en del av denne vedvarende forpliktelsen til å hjelpe samfunnet vårt med å bedre forstå disse verktøyene, har vi nå ytterligere informasjon og ressurser tilgjengelig på vårt Supportnettsted.