レンズが2015年に登場したとき、拡張現実（AR）技術は当社の目の前に魔法をもたらし、当社が可能だと思っていたことに革命をもたらしました。今日、毎日平均で3億人以上のSnapchatユーザーがARに関与しており、当社は日常的なカメラ体験にこの種の技術を期待するようになっています。

現在、最近のAIの進歩は、無限の息をのむような可能性を切り開き、我々が可能だと思っていたことをまたもや覆そうとしています。

フレンドとの会話の見た目をパーソナライズするためにオリジナルの生成系AIチャットの壁紙を作ったり、AIを搭載したレンズで想像力豊かに変身したり、My AIとの会話を通して世界について学んだりと、SnapchatユーザーがAIを使って自分自身を表現するための刺激的な方法がすでにたくさんあります。当社は、コミュニティが創造性や想像力を解き放てるようにしてくれるこのテクノロジーの可能性に、とてもワクワクしています。

AIの透明性

楽しいビジュアルを作成する場合も、My AIとのテキストベースの会話を通じて学習する場合も、Snapchatユーザーは彼らが使用しているテクノロジーの種類を知らされるべきだと当社は考えます。

SnapchatユーザーがAI技術を搭載した機能とインタラクションする際、彼らにコンテクスト上の透明性を提供するために、アプリ内でコンテクスト上のアイコン、シンボル、ラベルを使用しています。例えば、SnapchatユーザーがAIが生成したドリームズの画像を共有すると、受信者はより多くの情報が記載されたコンテキストカードを見ます。Snapをより拡大して見せるためにAIを活用する拡張ツールのような他の機能は、Snapを作成するSnapchatユーザーのための輝きのアイコンを持つAI機能として区分されています。

当社はまた、欺瞞的な画像やコンテンツを作成するためのAIを含む、いかなる誤解を招くようなコンテンツの使用の徹底的なチェックを含む、厳格な人間の審査プロセスを通じて、すべての政治広告を吟味するために細心の注意を払っています。

近々、AIが生成した画像に透かしを入れる予定です。透かしは、Snapの生成系AIツールで作成された画像には、画像がエクスポートされるか、カメラロールに保存されると表示されます。Snapchatで作られたAI生成画像の受信者は、その横に広く認識されている輝きのアイコンが付いた小さなゴーストロゴを見るかもしれません。これらの透かしを追加することで、その画像がSnapchatのAIで作られたことを閲覧者に知らせることができます。

標準化された安全試験とプロトコル 

当社は、プライバシー、安全性および年齢に相応であることを第一に考えた製品と体験をデザインする責任について、真剣に受け止めています。当社のすべての製品と同様に、AIを搭載した機能は、常に当社の安全性とプライバシーに対する姿勢に準拠していることを確認するために厳格な審査を受けてきました。また、長年の学習を通じて、さらなる安全策を開発しました。

レッドチーム

AIのレッドチームは、AIモデルやAI対応機能の潜在的な欠陥をテストして特定し、AI出力の安全性と一貫性を向上させるソリューションを実装するために使用される、ますます一般的な戦術です。

レッドチーム当社は、生成イメージモデルのための新しいAIのレッドチームの早期採用者であり、HackerOneと2,500時間以上の作業で提携し、厳格なセキュリティ対策の有効性をテストしてきました。 

安全フィルタリングと一貫したラベリング

Snapchatで利用可能な生成系AI対応体験を拡大するにつれ、当社は責任あるガバナンス原則を確立し、安全緩和策も改善してきました。

当社は、当社のチームによってスタイリングされたAIレンズ体験の開発の初期段階で、潜在的に問題のあるプロンプトを検出し、削除するための安全審査プロセスを作成しました。プロンプトから画像を生成する当社のAIレンズはすべて、最終化され、当社のコミュニティで利用可能になる前に、このプロセスを通過します。

包括的なテスト

当社は、さまざまな立場のSnapchatユーザーが、当社のアプリ内のすべての機能、特にAIを活用した体験を使用する際に、公平なアクセスと期待を持てるようにしたいと考えています。

このことを念頭に置いて、当社は、潜在的に偏ったAIの結果を最小限に抑えるために、追加のテストを実施しています。

AIリテラシーへの継続的な取り組み

当社は、当社のコミュニティが自分自身を表現し、互いにつながる能力を向上させるAI技術の大きな可能性を信じています。そして、これらの安全性と透明性のプロトコルを改善し続けることを約束します。

当社のAIツールはすべて、テキストベースとビジュアルの両方で、間違った、有害な、または誤解を招くような資料を作成しないように設計されていますが、それでも間違いが発生する可能性があります。Snapchatユーザーはコンテンツを報告することができ、当社はこのフィードバックに感謝しています。

最後に、当社のコミュニティがこれらのツールをより良く理解するための継続的なコミットメントの一環として、今、当社のサポートサイトに追加の情報とリソースを用意しています。