Toen Lenzen in 2015 op de markt kwam, bracht de AR-technologie (augmented reality) magie voor onze ogen tot leven en zorgde voor een doorbraak in de mogelijkheden die opeens tot onze beschikking stonden. Tegenwoordig gebruiken meer dan 300 miljoen Snapchatters dagelijks AR, omdat we dit soort technologie zijn gaan verwachten in onze dagelijkse camera-ervaring. 

De recente ontwikkelingen op het gebied van AI bieden nu grenzeloze en adembenemende mogelijkheden en verandert onze opvattingen over wat we voorheen voor mogelijk hielden. 

Er zijn al zoveel inspirerende manieren voor Snapchatters om zichzelf te uiten met AI, of ze nu een originele Generatieve AI-chatachtergrond maken om het uiterlijk van een gesprek met een vriend te personaliseren, zichzelf op fantasierijke manieren transformeren met AI-lenzen of door over de wereld te leren via gesprekken met My AI. We zijn laaiend enthousiast over de mogelijkheden die generatieve AI-technologie biedt om onze community te helpen hun creativiteit en verbeelding de vrije loop te laten. 

AI-transparantie

Wij vinden dat Snapchatters moeten worden geïnformeerd over de verschillende technologieën die ze gebruiken, of ze nu leuke visuals maken of leren via op tekst gebaseerde gesprekken met My AI.

We gebruiken contextuele pictogrammen, symbolen en labels in de app om contextuele transparantie aan Snapchatters te bieden wanneer ze een functie gebruiken die wordt aangestuurd door AI-technologie. Wanneer een Snapchatter bijvoorbeeld een door AI gegenereerde Dromen-afbeelding deelt, ziet de ontvanger een context card met meer informatie. Andere functies, zoals de uitbreidingstool die AI gebruikt om een Snap meer uitgezoomd te laten lijken, worden gemarkeerd als een AI-functie met een glinsterpictogram voor de Snapchatter die de Snap maakt. 

We besteden ook veel zorg aan het doorlichten van alle politieke advertenties via een streng menselijk beoordelingsproces, inclusief een grondige controle op misleidend gebruik van content, inclusief AI om misleidende afbeeldingen of content te creëren. 

Binnenkort voegen we een watermerk toe aan door AI gegenereerde afbeeldingen. Het verschijnt op afbeeldingen die zijn gemaakt met de generatieve AI-tools van Snap wanneer de afbeelding wordt geëxporteerd uit of opgeslagen in Foto's. Ontvangers van een door AI gegenereerde afbeelding die op Snapchat is gemaakt, zien mogelijk een klein spooklogo met het algemeen erkende glinsterpictogram ernaast. De toevoeging van deze watermerken helpt degenen die deze bekijken te informeren dat de afbeelding met AI op Snapchat is gemaakt. 

Gestandaardiseerde veiligheidstests en protocollen 

Wij nemen onze verantwoordelijkheid serieus om producten en ervaringen te ontwerpen die prioriteit geven aan privacy, veiligheid en leeftijdsgeschiktheid. Net als al onze producten ondergaan AI-functies altijd strenge controles om ervoor te zorgen dat ze voldoen aan onze veiligheids- en privacyprincipes. Aan de hand van de kennis die we in de loop der tijd hebben opgedaan, hebben we extra beveiligingsmaatregelen ontwikkeld:

Red-Teaming

AI red-teaming is een steeds vaker gebruikte tactiek om mogelijke gebreken in AI-systemen en AI-functies te testen en te identificeren. Zo kunnen ook oplossingen worden geïmplementeerd ter verbetering van de veiligheid en consistentie van alle AI-output. 

We zijn een vroege gebruiker geweest van nieuwe AI red-teaming-methoden voor generatieve afbeeldingsmodellen en hebben samen met HackerOne meer dan 2500 werkuren besteed aan het testen van de effectiviteit van onze strikte veiligheidsmaatregelen. 

Veiligheidsfiltering en consistente labeling

Naarmate we de Generative AI-ervaringen op Snapchat hebben uitgebreid, hebben we principes voor verantwoord bestuur opgesteld en onze veiligheidsbeperkingen verbeterd. 

We hebben een veiligheidsbeoordelingsproces ontwikkeld om potentieel problematische prompts op te sporen en te verwijderen in de vroegste ontwikkelingsfases van AI-Lens-ervaringen die door ons team zijn vormgegeven. Al onze AI Lenzen die een afbeelding genereren op basis van een prompt doorlopen dit proces voordat ze worden voltooid en beschikbaar worden gesteld aan onze community. 

Inclusief testen

We willen dat Snapchatters van alle achtergronden gelijke toegang en verwachtingen hebben bij het gebruik van alle functies in onze app, met name onze AI-gebaseerde ervaringen.

Met dit in gedachten implementeren we extra tests om mogelijk bevooroordeelde AI-resultaten te minimaliseren. 

Voortdurende inzet voor AI-geletterdheid

We geloven in de enorme mogelijkheden van AI-technologie om het vermogen van onze community om zichzelf te uiten en met elkaar te verbinden te verbeteren. We zijn toegewijd om deze veiligheids- en transparantieprotocollen te blijven verbeteren. 

Hoewel al onze AI-tools, zowel op tekst als visueel, zijn ontworpen om te voorkomen dat er onjuist, gevaarlijk of misleidend materiaal wordt geproduceerd, kunnen er toch fouten optreden. Snapchatters kunnen content rapporteren en we waarderen deze feedback. 

Tot slot, als onderdeel van onze voortdurende inzet om onze gemeenschap te helpen meer inzicht te krijgen in deze tools, hebben we nu aanvullende informatiebronnen en documentatie beschikbaar gesteld op onze Ondersteuningssite.