Als Linsen 2015 eingeführt wurden, verwandelte die Technologie der Augmented Reality (AR) die Welt magisch direkt vor unseren Augen und revolutionierte das, was wir für möglich hielten. Heute verwenden im Durchschnitt über 300 Millionen Snapchatter täglich AR, da wir in unserem täglichen Umgang mit der Kamera diese Technologie erwarten. 

Jetzt eröffnen die jüngsten Fortschritte in KI unbegrenzte und atemberaubende Möglichkeiten und übertreffen erneut unsere Erwartungen bei Weitem. 

Es gibt schon jetzt so viele inspirierende Möglichkeiten für Snapchatter, sich mit KI auszudrücken: Sei es bei der Erstellung eines originellen generativen KI-Chat-Hintergrundbildes zur Personalisierung des Looks ihres Chats mit Freunden, die fantasievolle Transformation mit KI-gesteuerten Linsen oder sich mit Konversationen mit My AI über die Welt zu informieren. Wir sind begeistert von dem Potenzial dieser Technologie, unserer Community dabei zu helfen, ihre Kreativität und Fantasie weiter zu entfalten. 

KI-Transparenz

Wir sind der Meinung, dass Snapchatter über die eingesetzte Technologie informiert sein sollten, ganz gleich, ob sie unterhaltsame visuelle Elemente erstellen oder über textbasierte Konversationen mit My AI lernen. 

Wir verwenden kontextbezogene Symbole, Symbole und Labels in der App, um den Snapchattern kontextbezogene Transparenz zu bieten, wenn sie mit einer Funktion interagieren, die von KI-Technologie betrieben wird. Wenn ein Snapchatter beispielsweise ein KI-generiertes Bild von Träumen teilt, sieht der Empfänger eine Kontextkarte mit weiteren Informationen. Andere Funktionen, wie das Erweiterungs-Tool, das KI einsetzt, um einen Snap verkleinert erscheinen zu lassen, sind für den Snapchatter, der den Snap erstellt, durch ein Funkel-Symbol als KI-Funktion gekennzeichnet. 

Wir überprüfen zudem mit großer Sorgfalt alle politischen Anzeigen in einem rigorosen menschlichen Überprüfungsprozess, einschließlich einer gründlichen Überprüfung aller irreführenden Verwendung von Inhalten, einschließlich KI zur Erstellung gefälschter Bilder oder Inhalte. 

Bald fügen wir KI-generierten Bildern ein Wasserzeichen hinzu. Es erscheint auf Bildern, die mit den generativen KI-Tools von Snap erstellt wurden, wenn das Bild in die Aufnahmen exportiert oder dort gespeichert wird. Empfänger eines KI-generierten Bildes auf Snapchat sehen ein kleines Geistlogo mit dem weithin bekannten Funkel-Symbol daneben. Der Zusatz dieser Wasserzeichen hilft, die Betrachter zu informieren, dass das Bild mit KI auf Snapchat erstellt wurde. 

Standardisierte Sicherheitstests und Protokolle 

Wir nehmen unsere Verantwortung für die Entwicklung von datengeschützten, sicheren und altersgemäßen Produkten und Nutzererlebnissen ernst. Wie alle unsere Produkte wurden KI-gesteuerte Funktionen schon immer einer strengen Prüfung unterzogen, um sicherzustellen, dass sie unseren Sicherheits- und Datenschutzprinzipien entsprechen. Durch unsere Erkenntnisse im Laufe der Zeit haben wir zusätzliche Sicherheitsmaßnahmen entwickelt:

Red-Teaming

KI-Red-Teaming ist eine zunehmend verbreitete Taktik, um potenzielle Mängel in KI-Modellen und KI-fähigen Funktionen zu testen und zu identifizieren und Lösungen zur Verbesserung der Sicherheit und Beständigkeit der KI-Ausgaben zu implementieren. 

Wir haben schon früh begonnen, neuartige KI-Red-Teaming-Methoden für generative Bildmodelle einzusetzen und arbeiten bereits seit mehr als 2.500 Stunden mit HackerOne zusammen, um die Wirksamkeit unserer strengen Sicherheitsmaßnahmen zu testen. 

Sicherheitsfilterung und einheitliche Kennzeichnung

Da wir die generativen KI-aktivierten Erlebnisse auf Snapchat erweitert haben, haben wir verantwortungsbewusste Governance-Prinzipien umgesetzt und unsere Sicherheitsmaßnahmen verbessert. 

Wir haben einen Sicherheitsüberprüfungsprozess eingerichtet, um potenziell problematische Aufforderungen in den Frühphasen der Entwicklung der von unserem Team gestalteten KI-Linsen-Erfahrungen zu erkennen und zu entfernen. Alle unsere KI-Linsen, die ein Bild aus einer Eingabeaufforderung generieren, durchlaufen diesen Prozess, bevor sie abgeschlossen werden und für unsere Community verfügbar sind. 

Inklusives Testen

Wir möchten, dass Snapchatter aus allen Gesellschaftsschichten bei der Nutzung aller Funktionen unserer App, insbesondere unserer KI-gesteuerten Erlebnisse, gleichberechtigten Zugriff und gleiche Erwartungen haben. 

Aus diesem Grund implementieren wir zusätzliche Tests, um potenziell voreingenommene KI-Ergebnisse zu minimieren. 

Anhaltendes Engagement für KI-Kompetenz

Wir vertrauen auf das enorme Potenzial der KI-Technologie, die Kommunikations- und Vernetzungsfähigkeit unserer Community zu verbessern. Wir verpflichten uns, diese Sicherheits- und Transparenzprotokolle weiter zu verbessern. 

Obwohl alle unsere KI-Tools, textbasiert wie visuell, so konzipiert sind, dass sie die Produktion von falschem, schädlichem oder irreführendem Material verhindern, können dennoch Fehler auftreten. Snapchatter sind in der Lage, Inhalte zu melden, und wir schätzen dieses Feedback. 

Im Rahmen dieses kontinuierlichen Engagements für ein besseres Verständnis dieser Tools in unserer Community bieten wir jetzt zusätzliche Informationen und Ressourcen auf unserer Support-Website.