こんにちは、Snapchatコミュニティの皆様！私は、昨年秋にSnapのプラットフォーム・セーフティ部門の初代グローバルヘッドとして入社したジャクリーヌ・ボーチェです。

私の役割は、安全性に対するSnap全体のアプローチの強化に重点を置いており、Snapchatコミュニティの安全性とデジタルライフをサポートするために、オンラインリスクに対する意識を高めるための新しいプログラムやイニシアティブの作成、社内ポリシーや製品ツール、機能に関するアドバイス、社外オーディエンスへのヒアリングやエンゲージメントなどを含みます。 

私の役割は、安全擁護者、保護者、教育者、その他主要な関係者がSnapchatの仕組みを理解し、彼らの意見を聞くことです。あなたやあなたの身近な人が熱心なSnapchatユーザーであれば、このアプリに関して私が最初に学んだこと、驚いたこと、何か役立つことなどを共有できればと思います。 

私は、20年以上にわたるマイクロソフトでオンラインの安全性の分野で働いていた後、リスクに関する分野において大きな変化を見てきました。2000年代初頭、スパムやフィッシングなどの問題は、消費者を教育し、社会的に設計されたリスクを最小限に抑えるための意識を高める必要性を強調しました。ソーシャルメディアプラットフォームの登場により、違法で有害なコンテンツや活動への暴露を最小限に抑えるため、安全性機能とコンテンツのモデレーションが組み込まれました。

10年前、Snapchatがこの場になりました。この会社とアプリは「違う」ものだと知っていましたが、実際にここに働くようになるまで、自分がどれほど違うのか分かっていませんでした。Snapchatは、当初から、多くの知り合いの（または知り合いでない）フォロワーを集めるよりも、実際の友人とコミュニケーションをとることを目的として設計されました。Snapchatは、カメラに組み込まれています。実際、第一世代ではないSnapchatユーザー（私のような）にとって、このアプリのインターフェースは、従来のソーシャルメディアプラットフォームのようなコンテンツフィードではなく、直接カメラを使用するため少し不思議に感じるかもしれません。 

Snapchatの設計には、想像以上に多くのアプローチがあり、その配慮は、自社の安全性とプライバシーに大きな価値を置いていることに起因しています。安全性は自社のDNAの一部であり、次のミッションに組み込まれています：人々が自己を表現し、その瞬間を生き、世界を知り、共に楽しむ安全性がなければ、友人とつながるときにも自由に自己を表現することはできません。

テクノロジーは実際の人間の行動や力学を反映して作られるべきであるという信念が、Snapの原動力となっています。安全性の観点も重要です。例えば、Snapchatでは、デフォルトでは誰とでも連絡できるわけではなく、お互いを友達として肯定的に受け入れる必要があり、実際の友達同士のやり取りと同じように直接コミュニケーションを始めることができます。

Snapは、新機能の開発時にプライバシー・バイ・デザインの原則を適用しており、セーフティ・バイ・デザインを支持し採用した最初のプラットフォームの一つです。これは、後付けや安全装置のボルト締めということではなく、機能の設計段階で安全性が考慮されていることを意味します。製品や機能がどのように誤用、悪用される可能性があるか、安全性の観点から、開発の初期段階で適切に検討されます。  

オンラインの安全性と業界全体での取り組みの説明の際に、Snapchatについていくつかの懸念事項を聞きました。以下は、この数ヶ月で学んだ事例の一部です。

Snapchatは、おそらく初期のイノベーションの1つで最も知られています：デフォルトで削除するコンテンツ。他の人と同じように、私もこの機能について推測していましたが、結果的には、最初に推測していたこととは違うものでした。さらに、それは実際の友人関係を反映しています。

Snapchatのアプローチは、人間中心の設計に根ざしています。実際の世界では、友人同士の会話は、永久に保存されたり、書き写されたり、記録されたりすることはありません。私たちの多くは、発する言葉や作成するコンテンツの一つひとつについて批判されないとわかれば、より安心し、最も本物の自分を発揮することができます。 

私が聞いた誤解の一つには、Snapchatのデフォルトで削除される方式によって、犯罪捜査のために違法行為の証拠にアクセスすることが不可能になります。これは誤りです。Snapは、法執行機関が法的な保存要求を送信する際に、アカウントに存在するコンテンツを保存し、保護する権利を持っています。Snapとチャットの削除方法について詳しくは、こちらの記事をご覧ください。

オンラインでのやり取りに関する保護者にとっての懸念事項は、見知らぬ人が10代の若者を見つける方法です。Snapchatは、実際の友人同士のコミュニケーションを目的として設計されています。ソーシャルメディアプラットフォームなどの知り合いではない人とのつながりを容易にすることはありません。すでに知っている人とコミュニケーションをとるために作られたアプリのため、設計上、知らない人が特定の人を見つけて連絡をとることは困難となっています。一般的に、Snapchatでコミュニケーションをとっている人は、お互いに友人としてすでに承認している人同士です。さらに、Snapは、18歳未満の人のための公共プロファイルを禁止するなど、未成年者を見つけることがさらに困難になるように保護を追加しております。Snapchatでは、未成年者に共通の友人がいる場合に、友人提案リスト（クイック追加）で検索結果に表示することができます。

保護者の方々に知っていただきたい事項に、「フレンドチェック」という新しいツールがあります。これは、Snapchatユーザーにフレンドリストの見直しを促し、その中に含まれている人がまだ連絡を取りたいと思っている人であるかどうかを確認するものです。コミュニケーションをとりたくない人たちは、簡単に削除できます。

それと同じように、「Snap Map」に対する懸念も聞きました。それは、Snapchatユーザーが自分の位置を友人と共有したり、レストランやショーなどローカルの場所やイベントを探したりすることができるカスタムされた地図のことです。デフォルトでは、Snapマップの位置設定は、すべてのSnapchatユーザーにプライベート(ゴーストモード)に設定されています。Snapchatユーザーは、自分の位置を共有するオプションを持っていますが、友人として既に認識している人としか共有できません。また、友人に固有の位置を共有する意思決定を行うこともできます。自分の位置情報を友人と共有することは、「いちかばちか」なことではありません。安全性とプライバシーに関する別のSnapマップに加え、Snapchatを数時間使用していない方は、地図上の友人に見ることができなくなります。

安全性の観点から最も重要なことは、Snapchatユーザーが自分の位置を、友人でない人と共有することはできません。また、Snapchatユーザーは、自分の位置情報を共有する友人や位置情報を共有するかどうかを完全に制御することができます。

早い段階から、友人同士のプライベートなコミュニケーションと、より多くの人が見ることのできる公共コンテンツは、異なるものとして扱うことを意図的に決定していました。Snapchatの公共の部分では、より多くのオーディエンスに見られる可能性があるため、有害なコンテンツ「ウィルスが生じる」を防ぐために、コンテンツはキュレーションまたは事前調整されています。Snapchatの2つの部分は次のカテゴリに分類されます：Discoverは、審査を通ったメディアパブリッシャーやコンテンツクリエイターからのコンテンツを含み、Spotlightは、Snapchatユーザーが自身の面白いコンテンツをより大きなコミュニティと共有するところです。

スポットライトでは、すべてのコンテンツは自動化されたツールでレビューされますが、現在、数十人以上が見ることができるようになる前に、さらに人の手によるモデレーションが行われます。そのため、Snapchatのポリシーとガイドラインに準拠することができ、自動化によって見逃す可能性があるリスクを軽減することができます。Snapは、ウイルスをコントロールすることで、違法なコンテンツや有害な可能性のあるコンテンツを公に投稿するアプローチを減らすことで、他のソーシャルメディアプラットフォームと比較して、ヘイトスピーチ、自傷行為、暴力過激派の投稿を著しく減少させることに成功しました。

Snapchatは、薬物密売人が世界的に悪用している数多くのオンラインプラットフォームの一つであり、フェンタニルが混入した偽造された薬物により子供を失った保護者や家族の報道を見たことがある方は、この状況がどれほど心が痛み、恐怖を感じることであるか理解できるかと思います。この恐ろしい薬物蔓延により大切な人を亡くされた方々に、心からお見舞い申し上げます。

この1年で、Snapはフェンタニルや薬物関連のコンテンツ問題に、次の3つの重要な方法で積極的かつ包括的に取り組んできました：

私たちは、Snapchatを薬物関連の活動に対し敵対的な環境にすることを決意し、今後数カ月間、この活動を拡大し続けていきます。一方で、保護者、若者たちは、オンラインプラットフォームに広がる、致命的な偽造された薬物という脅威を理解し、家族や友人と危険性や安全な過ごし方について話し合うことが重要です。 

Snapは、2022年に安全性とプライバシーにおいて多くのことを計画しており、新しい研究と安全性の機能を開始し、私たちのコミュニティがより安全で健全なデジタル習慣を採用できるよう、新しいリソースとプログラムを作成する予定です。学習、誓約、安全、楽しみが詰まった、実りある新しい年が始まります！   

- Jacqueline Beauchere、プラットフォームの安全性に関する国際責任者