Zu Beginn des Monats erhielt Snap ebenso wie andere große Tech-Unternehmen einen Brief von Vertretern von mehr als 200 zivilgesellschaftlichen Organisationen, Forschern und Journalisten, in dem wir nachdrücklich aufgefordert werden, unsere Bemühungen zum Schutz der Integrität der Wahlen im Jahr 2024 zu verstärken. Wir wissen das Anliegen der Autoren dieses Briefes zu würdigen und machen uns ihr Engagement zu eigen. Auch wir möchten dazu beitragen, dass die Menschen überall in der Welt an ihren Wahlen teilnehmen können, und dazu möchten wir unseren Beitrag zum Schutz unserer Demokratie leisten.

Es sind bedeutende Fragen und wir sind uns unserer besonderen Verantwortung gegenüber den Hunderten von Millionen Menschen bewusst, die Snapchat nutzen, um mit ihren Freunden und Verwandten zu kommunizieren und durch unsere Inhalte mehr über die Welt zu erfahren. Deshalb möchten wir unsere Antwort auf besagten Brief unbedingt öffentlich machen. Unten findest du unser Antwortschreiben und Informationen zu unseren Plänen für die diesjährigen Wahlen findest du hier.

***

21. April 2024

Verehrte Vertreter zivilgesellschaftlicher Organisationen,

Vielen Dank für euer kontinuierliches und wachsames Engagement in diesem Jahr, das weltweit von einer beispiellosen Wahltätigkeit geprägt ist. Wir möchten dankbar die Gelegenheit wahrnehmen, näher darauf einzugehen, wie wir bei Snap in diesem Szenario unsere Verantwortung wahrzunehmen gedenken und inwiefern sich unsere Bemühungen aus den langjährig von unserem Unternehmen gepflegten Werten herleiten.

Der Ansatz von Snapchat im Überblick

Im Hinblick auf die Wahlen ist der Integritätsansatz unserer Plattform mehrschichtig. Auf der obersten Ebene stehen folgende Kernelemente:

• Bewusst eingerichtete Maßnahmen zum Schutz unserer Produkte;

• Klare und durchdachte Richtlinien; 

• Gewissenhafter Umgang mit politischer Werbung;

• Kollaborative, koordinierte geschäftliche Vorgänge; und

• Unser Angebot an Tools und Ressourcen für Snapchatter.

Auf diesen Säulen ruht unser Ansatz, mit dem wir einem breiten Spektrum an Risiken im Zusammenhang mit demokratischen Wahlen begegnen möchten. Und zugleich geben wir unseren Snapchattern Zugriff auf Werkzeuge und Informationen, die sie weltweit dabei unterstützen, sich in demokratische Prozesse einzubringen.

1. Zielgerichtete Maßnahmen zum Schutz von Produkten

Snapchat ist von vorneherein anders aufgebaut als die traditionellen sozialen Medien. Snapchat steht nicht für einen Feed mit endlos vielen, ungeprüften Inhalten zur Verfügung und es gibt auch nicht die Möglichkeit, über Snapchat Livestreams anzubieten.

Wir haben schon vor längerer Zeit erkannt, dass die größten Bedrohungen durch schädliche digitale Desinformation von der Geschwindigkeit und dem Ausmaß herrühren, mit denen einige digitale Plattformen die Verbreitung ihrer Inhalte ermöglichen. Unsere Plattform-Richtlinien und die Architektur begrenzen für ungeprüfte oder unmoderierte Inhalte das Potenzial, in einem bedeutenden Umfang verbreitet werden zu können. Stattdessen erfolgt bei uns eine Vormoderation der Inhalte, ehe sie einem breiten Publikum zugänglich gemacht werden können, und wir beschränken weitgehend die Verbreitung von Nachrichten und politischen Informationen, es sei denn, sie stammen von vertrauenswürdigen Herausgebern oder Kreatoren (etwa von Medien-Organisationen wie dem Wall Street Journal und der Washington Post in den USA, Le Monde in Frankreich oder Times Now in Indien). 

Im Verlauf des vergangenen Jahres erfolgte die Einführung von Funktionen für generative KI auf Snapchat mit den gleichen Vorsätzen. Wir beschränken die Möglichkeiten unserer KI-Produkte, Inhalte oder Bilder zu generieren, die dazu genutzt werden könnten, zivilgesellschaftliche Prozesse zu unterminieren oder die Wähler zu täuschen. So kann beispielsweise unser Chatbot, My AI, den Nutzern Informationen über politische Ereignisse oder gesellschaftliche Probleme liefern. Er ist so programmiert, dass er keine Meinungen zu politischen Kandidaten abgibt und Snapchatter nicht dazu auffordert oder animiert, für ein bestimmtes politisches Angebot zu stimmen. Und in unseren Text-zu-Bild-Funktionen haben wir auf Systemebene Einschränkungen für die Generierung von Inhalten in riskanten Kategorien vorgegeben. So sind zum Beispiel Abbildungen bekannter politischer Persönlichkeiten von dieser Funktion ausgeschlossen.

Seit mehr als einem Jahrzehnt und über mehrere Wahlperioden hinweg spielte unsere Produktarchitektur eine zentrale Rolle, um für solche Akteure ein ausgesprochen unwirtliches Medium und Umfeld zu schaffen, die zivilgesellschaftliche Prozesse stören oder das Informationsangebot unterwandern wollen. Und die Ergebnisse zeigen uns, dass das gut funktioniert. Unserer jüngsten Daten zufolge stellten die erforderlichen Eingriffe gegen schädliche Falschinformationen (einschließlich solcher, die ein Risiko für die Integrität von Wahlen darstellen) zwischen dem 1. Januar und dem 30. Juni 2023 weltweit einen Anteil von 0,0038 % an der Gesamtzahl der Inhalte, gegen die Maßnahmen ergriffen werden mussten, und damit handelt es sich um die Kategorie mit der niedrigsten Wahrscheinlichkeit für schädliche Handlungen auf unserer Plattform.

Wir werden bei unseren Anstrengungen zur Integrität unserer Plattform 2024 weiter unseren produktorientierten Ansatz verfolgen. Das ist auch im Sinne unserer Verpflichtungen als Unterzeichner des Tech Accord zur Bekämpfung des betrügerischen Einsatzes von KI bei den Wahlen 2024.

2. Klare und durchdachte Richtlinien

Als Ergänzung zu den Maßnahmen zum Schutz unserer Produkte haben wir eine Reihe von Richtlinien implementiert, mit denen wir für Sicherheit und Integrität bei wichtigen Ereignissen wie etwa Wahlen sorgen möchten. Unsere Community-Richtlinien verbieten zum Beispiel ausdrücklich schädliche Falschinformationen, Hassrede und Drohungen oder Aufrufe zu Gewalt. 

Zum Thema schädliche Inhalte im Zusammenhang mit Wahlen sind unsere externen Richtlinien solide und mit führenden Wissenschaftlern auf dem Gebiet der Informationsintegrität abgestimmt. Sie filtern bestimmte Kategorien schädlicher und verbotener Inhalte heraus, darunter die folgenden:

• Beeinflussung von Verfahren: Fehlinformationen in Bezug auf die tatsächlichen Wahl- oder Bürgerbeteiligungsverfahren, wie z. B. die falsche Darstellung wichtiger Termine und Uhrzeiten oder von Teilnahmevoraussetzungen.

• Beeinträchtigung einer Beteiligung: Inhalte, die eine Einschüchterung und Bedrohung der persönlichen Sicherheit darstellen oder Gerüchte verbreiten, um von der Teilnahme an Wahlen oder zivilgesellschaftlichem Engagement abzuschrecken.

• Betrügerische oder gesetzeswidrige Teilnahme: Inhalte, die Menschen dazu ermutigen, falsche Angaben zu machen, um an einem zivilgesellschaftlichen Prozess teilzunehmen, unrechtmäßig Stimmzettel abzugeben oder solche zu zerstören.

• Delegitimierung zivilgesellschaftlicher Prozesse: Inhalte, die darauf abzielen, demokratische Institutionen zu delegitimieren, z. B. durch falsche oder irreführende Behauptungen über Wahlergebnisse.

Wir orientieren unsere internen Moderationsteams, damit sie verstehen, wie Risiken für Wahlen oftmals mit anderen Kategorien schädlicher Handlungen im Internet einhergehen, also etwa mit Hassreden, Frauenfeindlichkeit, gezielter Belästigung oder sogar damit, eine andere Identität anzunehmen.

Alle unsere Richtlinien gelten für sämtliche Inhalte auf unserer Plattform, unabhängig davon, ob sie von Nutzern oder von KI generiert werden. ¹ Wir wollen auch klarstellen, dass alle Richtlinien gleichermaßen für alle Snapchatter gelten, unabhängig von ihrer Prominenz. Im Grunde jedoch ist unser Ansatz gegen schädliche und betrügerische Inhalte simpel: wir entfernen sie. Sie werden bei uns nicht etikettiert, wir stufen sie nicht herunter – wir entfernen sie komplett. Solche Snapchatter, die gegen unsere Inhaltsregeln verstoßen, erhalten einen Strike und eine Verwarnung. Wenn sie mit ihren Verstößen fortfahren, können sie ihre Kontoprivilegien verlieren (alle Snapchatter haben jedoch die Möglichkeit, gegen unsere Vollzugsentscheidung Einspruch zu erheben). 

3. Gewissenhafter Umgang mit politischen Anzeigen

Wir lassen als Plattform politische Werbung im Zusammenhang mit demokratischen Wahlen zu. Doch dazu haben uns strikte Praktiken vorgegeben, um die Bedrohungen der Integrität von Wahlprozessen zu minimieren. Besonders hervorzuheben: Jede politische Anzeige auf Snapchat wird bei uns von Menschen aus Fleisch und Blut überprüft und die Fakten werden gecheckt, bevor sie dafür zugelassen wird, auf unserer Plattform platziert zu werden. Bei diesen Bemühungen unterstützten uns bei Bedarf Poynter und andere Unternehmen aus dem International Fact Checking Network. Sie beraten uns unabhängig und überparteilich, ob die Aussagen eines Werbetreibenden für uns akzeptabel sind oder nicht. Unser Kontrollprozess für politische Anzeigen umfasst eine gründliche Prüfung auf jede irreführende Nutzung von KI zum Erstellen von betrügerischen Bildern oder Inhalten.

Auch auf Transparenz kommt es uns an. Deshalb muss bei jeder Anzeige klar angegeben werden, wer sie bezahlt hat. Und unsere Richtlinien für politische Anzeigen lassen nicht zu, dass Anzeigen von ausländischen Regierungen oder irgendwelchen Personen oder Organisationen außerhalb des Landes bezahlt werden, in dem die Wahlen stattfinden. Es liegt unserer Ansicht nach im öffentlichen Interesse, dass man sehen kann, welche politischen Anzeigen wir freigeben, und wir führen eine Bibliothek für politische Anzeigen, in denen wir Informationen über Targeting, Kosten und weitere Aspekte zugänglich machen.

Um zu gewährleisten, dass all unsere Prozessvorgaben befolgt werden, ist es Influencern gemäß unseren Richtlinien für kommerzielle Inhalte verboten, außerhalb der traditionellen und zugelassenen Anzeigenformate mit bezahlten politischen Inhalten zu werben. Das gewährleistet, dass alle bezahlten politischen Inhalte unsere Prüfungsverfahren für Anzeigen durchlaufen und die Anforderungen unserer Vorgaben für solche Werbung erfüllen.

4. Kollaborative, koordinierte Maßnahmen

Bei Snap verfolgen wir einen ausgesprochen kollaborativen Ansatz bei der Umsetzung unserer Sicherheitsvorkehrungen für die Integrität von Wahlprozessen in unseren Systemen und Abläufen. Intern haben wir ein funktionsübergreifendes Team für die Wahrung der Integrität bei Wahlprozessen gebildet. Es geht Falschinformationen nach und überprüft politische Werbung, es umfasst Experten für Cybersicherheit und überwacht weltweit alle relevanten Entwicklungen im Zusammenhang mit dem Wahljahr 2024. Die weitgefächerte unternehmensinterne Vertretung in dieser Gruppe spiegelt unseren ganzheitlichen Ansatz wider, mit dem wir die Integrität der Plattform schützen. Das Team umfasst Vertreter unter anderem aus den Abteilungen Trust & Safety, Inhaltsmoderation, Technik, Produkte, Recht, Richtlinien, Datenschutz und Sicherheit.

Bei unserer Moderation von Inhalten und der Durchsetzung unserer Kriterien nutzen wir sprachliche Ressourcen, die auf jedes der Länder abgestimmt sind, in denen Snap tätig ist. Wir haben darüber hinaus ein Protokoll zur Reaktion auf Krisen implementiert, um angesichts globaler Ereignisse mit hohem Risiko operativ agil zu sein.

Und auch bei unserer Zusammenarbeit mit externen Partnern kommt dieser Geist der Koordination zum Tragen. Wir halten engen Kontakt zu Stakeholdern, die sich für Demokratie einsetzen und im Dienste der Zivilgesellschaft stehen. Sie beraten uns, geben uns Forschungsergebnisse an die Hand, tragen uns ihre Bedenken vor oder gehen für und mit uns Vorfällen nach. (Viele Unterzeichner des von euch verfassten Schreibens schätzen wir als Partner bei unseren Bestrebungen in dieser Hinsicht.) Oftmals informieren wir Regierungen und mit der Ausrichtung von Wahlen befasste Beamte über unseren Ansatz zur Wahrung der Integrität der Plattform. Wir beteiligen uns auch an Initiativen mit mehreren Stakeholdern, so etwa wie in diesem Jahr: Wir arbeiten mit der Zivilgesellschaft, den Wahlbehörden und anderen Beteiligten der Branche zusammen, um für Technologieunternehmen freiwillig angenommene Richtlinien für die Integrität von Wahlen auszuarbeiten. Und wir freuen uns stets über weitere Möglichkeiten, um mit allen Stakeholdern konstruktiv zusammenzuarbeiten und die digitalen Risiken für zivilgesellschaftliche Prozesse zu mindern. 

5. Unser Angebot an Tools und Ressourcen für Snapchatter

Wir waren bei Snap schon immer davon überzeugt, dass gesellschaftliches Engagement eine der wirkungsvollsten Formen der Selbstentfaltung ist. Unsere Plattform hilft den Menschen dabei, sich auszudrücken und hat bei Neu- und Erstwählern eine große Reichweite. Es hat für uns Priorität, unserer Community Zugang zu genauen und vertrauenswürdigen Informationen über Nachrichten und Ereignisse aus der Welt zu geben, einschließlich der Information, wo und wie unsere Nutzer wählen können.

2024 werden sich unsere Bemühungen auf Dreierlei konzentrieren, wobei wir diese Zielsetzungen seit Jahren konsequent verfolgen: 

• Aufklärung: Über unsere Partnerschaften für Inhalte und Nachwuchs-Orientierung stellen wir Fakten und sachlich relevante Inhalte zu Wahlen, Kandidaten und Themen zur Verfügung.

• Wahlteilnahme: Wir animieren unsere Snapchatter dazu, sich für die anstehenden Wahlen anzumelden. Dazu stützen wir uns auf eine glaubwürdige zivilgesellschaftliche Infrastruktur externer Anbieter.

• Sich einbringen: Wir generieren über unsere App Spannung und animieren zum Engagement für bürgerrechtliche Thematiken. Und wir animieren unsere Snapchatter dazu, vor dem oder am Wahltag ihre Stimme abzugeben. 

Viele dieser Pläne sind derzeit für 2024 in Arbeit. Sie bauen jedoch auf vielen unserer erfolgreichen Initiativen auf, mit denen wir über die Jahre hinweg unsere Snapchatter mit informativen Ressourcen vernetzt haben.

Fazit

In einem solch wichtigen Moment für die Demokratien weltweit und angesichts des rapide zunehmenden Einsatzes leistungsstarker neuer Technologien wird es zunehmend sogar noch wichtiger, dass die Plattformen ihre Werte transparent darlegen. Unsere Werte könnten in diesem Zusammenhang deutlicher nicht sein: Wir treten jedem Missbrauch unserer Plattform entgegen, der die zivilgesellschaftlichen Prozesse unterminiert oder die Sicherheit der Snapchatter gefährdet.  Wir sind stolz auf unsere bisherige Bilanz, aber wir müssen weiter wachsam gegenüber den Risiken im Zusammenhang mit Wahlprozessen sein. Deshalb möchten wir ihnen nochmals für ihr konstruktives Engagement bei diesen Themen danken. 

Mit freundlichen Grüßen,

Kip Wainscott

Für die Plattform-Richtlinien zuständige Person