Da Linser kom i 2015, bragte augmented reality (AR)-teknologien magi til live for øjnene af os og revolutionerede, hvad vi troede var muligt. I dag bruger over 300 millioner Snapchattere i gennemsnit AR hver dag, da vi er begyndt at forvente denne type teknologi i vores daglige kameraoplevelse. 

Nu åbner de seneste fremskridt inden for kunstig intelligens op for ubegrænsede og betagende muligheder, som endnu en gang ændrer det, vi troede var muligt. 

Der er allerede så mange inspirerende måder for Snapchattere at udtrykke sig på ved hjælp af AI, uanset om de skaber et originalt Generative AI Chat Wallpaper for at personliggøre udseendet af en samtale med en ven, forvandler sig selv på fantasifulde måder med AI-drevne linser eller lærer om verden gennem samtaler med My AI. Vi er så begejstrede for denne teknologis potentiale til at hjælpe vores samfund med at fortsætte med at frigøre deres kreativitet og fantasi. 

AI Gennemsigtighed

Vi mener, at Snapchattere bør informeres om de typer teknologier, de bruger, uanset om de skaber sjove billeder eller lærer gennem tekstbaserede samtaler med My AI. 

Vi bruger kontekstuelle ikoner, symboler og labels i appen til at give Snapchattere kontekstuel gennemsigtighed, når de interagerer med en funktion, der er drevet af AI-teknologi. Når en Snapchatter for eksempel deler et AI-genereret Dreams-billede, ser modtageren et kontekstkort med mere information. Andre funktioner, som udvidelsesværktøjet, der udnytter AI til at få en snap til at se mere udzoomet ud, er afgrænset som en AI-funktion med et funklende ikon for den Snapchatter, der skaber snap'en. 

Vi er også meget omhyggelige med at undersøge alle politiske annoncer gennem en streng menneskelig gennemgangsproces, herunder en grundig kontrol af enhver vildledende brug af indhold, herunder AI til at skabe vildledende billeder eller indhold. 

Snart vil vi tilføje et vandmærke til AI-genererede billeder. Det vises på billeder, der er skabt med Snaps generativ AI-værktøjer, når billedet eksporteres eller gemmes i kamerarullen. Modtagere af et AI-genereret billede lavet på Snapchat kan se et lille spøgelseslogo med det bredt anerkendte sparkle-ikon ved siden af. Tilføjelsen af disse vandmærker vil hjælpe med at informere dem, der ser det, om, at billedet blev lavet med AI på Snapchat. 

Standardiserede sikkerhedstest og -protokoller 

Vi tager vores ansvar alvorligt for at designe produkter og oplevelser, der prioriterer privatlivets fred, sikkerhed og aldersmæssig egnethed. Som alle vores produkter har AI-drevne funktioner altid gennemgået en streng gennemgang for at sikre, at de overholder vores sikkerheds- og privatlivsprincipper – og gennem vores erfaringer over tid har vi udviklet yderligere beskyttelsesforanstaltninger:

Red-Teaming

AI red-teaming er en stadig mere almindelig taktik, der bruges til at teste og identificere potentielle fejl i AI-modeller og AI-aktiverede funktioner og implementere løsninger for at forbedre sikkerheden og konsistensen af AI-output. 

Vi har været tidligt ude med nye AI red-teaming-metoder til generative billedmodeller og samarbejdet med HackerOne om mere end 2.500 timers arbejde for at teste effektiviteten af vores strenge sikkerhedsforanstaltninger. 

Sikkerhedsfiltrering og konsekvent mærkning

I takt med at vi har udvidet de generative AI-aktiverede oplevelser på Snapchat, har vi også etableret ansvarlige styringsprincipper og forbedret vores sikkerhedsforanstaltninger. 

Vi har skabt en sikkerhedsgennemgangsproces for at opdage og fjerne potentielt problematiske prompts i de tidligste stadier af udviklingen af AI Linse-oplevelser, der er stylet af vores team. Alle vores AI-linser, der genererer et billede ud fra en prompt, gennemgår denne proces, før de færdiggøres og bliver tilgængelige for vores fællesskab. 

Inkluderende testning

Vi ønsker, at Snapchattere fra alle samfundslag skal have lige adgang og lige forventninger, når de bruger alle funktioner i vores app, især vores AI-drevne oplevelser. 

Med dette i tankerne implementerer vi yderligere test for at minimere potentielt skæve AI-resultater. 

Fortsat engagement i AI-kompetence

Vi tror på AI-teknologiens enorme potentiale til at forbedre vores samfunds evne til at udtrykke sig og komme i kontakt med hinanden - og vi er fast besluttet på at fortsætte med at forbedre disse sikkerheds- og gennemsigtighedsprotokoller. 

Selvom alle vores AI-værktøjer, både tekstbaserede og visuelle, er designet til at undgå at producere forkert, skadeligt eller misvisende materiale, kan der stadig opstå fejl. Snapchattere kan rapportere indhold, og vi sætter pris på denne feedback. 

Endelig, som en del af vores fortsatte engagement i at hjælpe vores fællesskab med at forstå disse værktøjer bedre, har vi nu yderligere information og ressourcer på vores Support Site.