När Linser lanserades 2015 utförde tekniken för förstärkt verklighet (AR) magi framför våra ögon och revolutionerade vad vi trodde var möjligt. Idag engagerar sig i genomsnitt över 300 miljoner Snapchattare med AR varje dag, eftersom vi har kommit att förvänta oss denna typ av teknik i vår dagliga kameraupplevelse. 

Nu öppnar de senaste framstegen inom AI upp för obegränsade och hisnande möjligheter, och överskrider än en gång vad vi trodde var möjligt. 

Det finns redan så många inspirerande sätt för Snapchattare att uttrycka sig med AI, oavsett om det handlar om att skapa en unik Generativ AI-chattbakgrund för att anpassa utseendet på en konversation med en vän, att omvandla sig själva på kreativa sätt med AI-drivna linser eller att lära sig om världen genom konversationer med My AI. Vi är så glada över denna tekniks potential att hjälpa vårt community att fortsätta att upptäcka sin kreativitet och fantasi.

AI-transparens

Vi tycker att Snapchattare bör informeras om de typer av teknik de använder, oavsett om de skapar roliga bilder eller lär sig något genom textkonversationer med My AI.

Vi använder sammanhangsikoner, symboler och etiketter i appen för att ge Snapchattare kontextuell transparens när de interagerar med en funktion som drivs av AI-teknik. När till exempel en Snapchattare delar en AI-genererad Dreams-bild ser mottagaren ett informationskort med mer information. Andra funktioner, som förlängningsverktyget som utnyttjar AI för att få en Snap att se mer utzoomad ut, avgränsas som en AI-funktion med en gnistrande ikon för Snapchattaren som skapar Snapen. 

Vi är också mycket noga med att granska alla politiska annonser genom en noggrann granskningsprocess, inklusive en grundlig kontroll av all potentiellt vilseledande användning av innehåll, inklusive AI för att skapa missvisande bilder eller innehåll. 

Snart kommer vi att vattenmärka AI-genererade bilder. Det kommer visas på bilder som skapats med Snaps verktyg för generativ AI när bilden exporteras eller sparas i kamerarullen. Mottagare av en AI-genererad bild som gjorts på Snapchat kan se en liten spök-logotyp med den välkända gnistrande ikonen bredvid. Tillägget av dessa vattenmärken kommer att hjälpa till att informera dem som tittar på den att bilden gjordes med AI på Snapchat. 

Standardiserade säkerhetstester och protokoll 

Vi tar vårt ansvar att designa produkter och upplevelser som prioriterar integritet, säkerhet och åldersanpassning på allvar. Liksom alla våra produkter har AI-drivna funktioner alltid genomgått en strikt granskning för att säkerställa att de följer våra säkerhets- och sekretessprinciper – och genom de lärdomar vi har fått under tiden har vi utvecklat ytterligare skyddsåtgärder:

Röd teamindelning

Röd teamindelning av AI är en allt vanligare taktik som används för att testa och identifiera potentiella brister i AI-modeller och AI-aktiverade funktioner och implementera lösningar för att förbättra säkerheten och konsekvensen i utdata av AI.

Vi har varit tidiga med att anta nya AI-metoder för röd teamindelning av generativa bildmodeller och har samarbetat med HackerOne under 2500 timmar för att testa effektiviteten hos våra strikta skyddsåtgärder. 

Säkerhetsfiltrering och konsekvent märkning

När vi har utökat de Generativa AI-aktiverade upplevelserna som finns på Snapchat har vi etablerat principer för ansvarsfull styrning och även förbättrat våra säkerhetsbegränsningar. 

Vi har skapat en process för säkerhetsgranskning för att upptäcka och radera potentiellt problematiska uppmaningar i de tidigaste utvecklingsstadierna av AI-linsupplevelser som utformats av vårt team. Alla våra AI-linser som genererar en bild från en förfrågan går igenom denna process innan de är klara och blir tillgängliga för våra användare.

Inkluderande tester

Vi vill att Snapchattare från alla möjliga bakgrunder ska ha lika tillgång och förväntningar när de använder alla funktioner i vår app, särskilt våra AI-drivna upplevelser. 

Med detta i åtanke implementerar vi ytterligare tester för att minimera potentiellt partiska AI-resultat. 

Fortsatt engagemang för AI-kompetens

Vi tror på den enorma potentialen hos AI-teknik för att förbättra våra användares förmåga att uttrycka sig och få kontakt med varandra – och vi är fast beslutna att fortsätta att förbättra dessa säkerhets- och transparensprotokoll. 

Även om alla våra AI-verktyg, både textbaserade och visuella, är utformade för att undvika att producera felaktigt, skadligt eller vilseledande material, kan misstag fortfarande uppstå. Snapchattare kan rapportera innehåll och vi uppskattar denna feedback. 

Slutligen har vi nu, som en del av detta fortsatta engagemang för att hjälpa våra användare att bättre förstå dessa verktyg, ytterligare information och verktyg på vår Supportsida.