Snapでは、不正な行為を行うユーザーによるプラットフォームの悪用を防ぐため、継続的に安全対策の強化に取り組み、プラットフォームポリシーを常に進化させています。 当社は、高度な技術を活用して規則に違反する活動を検出してブロックします。また、友達申請プロセスにおいて、ユーザーが慎重に選択できるデザイン原則を適用し、法執行機関を支援し、政府当局と協力して、10代の若者やコミュニティのすべてのメンバーに影響を及ぼす最も深刻な問題について認識を高めてもらうとともに、同問題に関する教育を提供するよう努めています。 

当社は、10代の若者を保護する責任を非常に真剣に考えています。 当社の取り組みは以下を含む実質的な内容となっています。

I. Snapchatを不正な行為を行うユーザーに対して敵対的な環境にする

今年初め、当社はSnapchatのコミュニティ、特に10代のユーザーをさらに保護するための新機能を発表し、Snapchatの特徴である実際の人間関係を強化することを目指しました。 これらのアップデートには、不審な連絡先に対するアプリ内警告の拡充、10代のユーザー向けに特化したフレンド保護の強化、不要な連絡先をブロックする機能の強化などが含まれます。 

これらの変更は、オンライン上でのセクストーション（性的脅迫）対策に焦点を当てており、あらゆる形態における、児童の性的搾取と虐待に対抗するための継続的な取り組みをさらに強化するものです。例えば：

当社では、不正行為の兆候を示すシグナルを検知してセクストーションとみられる行動を特定し、不正な行為を行うユーザーが他のユーザーを標的にして被害を与える機会を持つ前に、積極的に排除できるよう努めています。これは、Snapchat上で児童の性的搾取・虐待（CSEAI）と認識されるコンテンツの拡散を防ぐために設計された技術を活用して展開することに加え、PhotoDNA（違法画像の複製を検出）、CSAI Match（違法動画の複製を検出）、およびContent Safety API（“これまでにハッシュ化されていない”新たな画像を検出するための支援）を含みます。

当社ではこれまでも、規則に違反するコンテンツやアカウントをアプリ内で簡単に報告できる機能を提供してきましたが、2023年には、セクストーションに関連する被害への対策を強化するためにを改善行いました。 昨年、当社はアプリ内チャットのテキスト報告機能を導入しました。この機能により、Snapchatユーザーはチャット画面から直接、個別のメッセージを報告できるようになりました。さらに、アプリ内報告ツールを拡充し、セクストーション専用の報告理由を追加しました。また、CSEA（児童の性的搾取・虐待）に対抗するNGO団体Thornからのアドバイスと指導をもとに、10代の若者や青少年向けに分かりやすい言葉（例：「私のヌードが流出した／流出すると脅迫されている」）で報告できるオプションを提示しました。 これらの報告は、不正行為の兆候を示すシグナルの検出やそれに基づく対応を含む、当社の取締り活動を支えるために活用されます。 当社は、トレンドやパターン、セクストーション行為者の手法を分析し、特定の特徴を示すアカウントについてはセクストーションの疑いによりロックします。

当社は、2022年にリリースしたファミリーセンターのツール群を継続的に改良し、追加しています。このツールを利用することで、保護者は自分の10代の子がSnapchatで誰と友達であるか、最近誰とチャットしたかを確認でき、懸念があるアカウントを簡単に報告することができます。ファミリーセンターの目標は、親／保護者、そして10代の子どもたちや若者がオンラインで安全に過ごすためのオープンで建設的な対話を促すことです。

当社は法執行機関と緊密に連携し、コミュニティの安全を守るために、24時間365日世界中で活動する安全および法執行部門に多額の投資を行っています。 例えば、当社の信頼と安全チームの規模は2020年以降2倍以上に増加し、法執行チームは3倍以上に増加しました。 当社は、米国で法執行機関向けの年次サミットを開催し、当社のプラットフォーム上で発生する可能性のある違法行為に対して、警察官や捜査機関が適切な対応について確実に把握できるよう努めています。 

当社は、多くのセクストーションに関する事例が発生しているナイジェリアの法執行機関とも直接連携して、加害者を調査し起訴するための能力と知識を構築しています。また、この分野でのさらなる協力を進めるために、ナイジェリア政府との連携を継続する予定です。 また、当社は国際的な司法機関であるInternational Justice Mission、およびNCMEC（全米行方不明・被搾取児童センター）、その他の業界団体やNGOと協力して、セクストーションが蔓延している米国外の国々において、法執行機関にCyberTips（ネット上での児童搾取の疑いに関するNCMECへの情報提供によるリソース）に関して調査をするトレーニングを提供しています。

長年にわたり、当社は「Trusted Flagger（公認報告者）」である特別に訓練された強力な集団とも連携してきました。これには、非営利団体、NGO、および特定の政府機関が含まれ、彼らはSnapchatユーザーのニーズに応えるために、高優先度の通信手段を通じて、虐待事例や生命への差し迫った脅威、その他の緊急問題を当社に通報しています。当社のTrusted Flagger Program（公認報告者プログラム）の参加者の大多数は、セクストーションを含む、未成年者に対する性的被害に関連するコンテンツやアカウントを報告しています。  

II.業界の専門家や連合との連携

当社は、独自の投資活動に加え、世界中の専門家とも連携しています。なぜなら、1つの団体や組織だけではこれらの問題を有意義に進めることはできないからです。 例えば、Snapは業界を代表してWeProtect Global Allianceの国際政策委員会に参加し、INHOPEの諮問委員会およびUK Internet Watch Foundation（IWF）の理事会にも所属しています。 これらの組織はすべて、オンラインCSEAの撲滅を使命の中心に据えています。

当社は、オンラインでの児童の性的搾取や虐待に対処することを目的としたグローバル業界連盟であるTech Coalitionの積極的なメンバーとして活動しており、最近では同連盟の理事会執行委員会での2年間の任期を終えたばかりです。当社はまた、企業が児童保護ポリシーの施行を強化するための、初のクロスプラットフォームのシグナル共有プログラムであるTech CoalitionのLanternイニシアチブの創設メンバーでもありました。このプログラムに積極的に参加することで、各企業はセクストーションを行う者を含む不正な行為を行うユーザーを相互にチェックし合うことができます。

さらに、当社は、全米行方不明・被搾取児童センター (NCMEC) の「Take It Down」データベースを活用しています。このデータベースは、未成年者が自分のデバイス上で選択した画像や動画に対して、”ハッシュ” と呼ばれるデジタル指紋を生成することを可能にします。Snapを含む参加企業は、そのハッシュを使用して、当社のコミュニティガイドラインに違反する重複した画像を検出し、削除することができます。 当社は、英国で同様のプログラムである「Report Remove」に参加しており、昨年、同じく英国のSWGfLが主導するプログラム「StopNCII」にも加わりました。この協力を通じて、グループの持つハッシュデータベースを活用し、同意を得ていない親密な画像（NCII）のSnapchat上での拡散を防ぐための取り組みを行っています。 StopNCIIは、18歳以上の被害者の親密な画像の拡散を阻止し、極めて個人的な写真や動画に対するプライバシーを被害者が取り戻すための支援を行っています。

今年、当社は初のデジタル・ウェルビーイングに関する協議会「Snap Council」を立ち上げました。この協議会は、米国全土から選ばれた18人のティーンエイジャーで構成されており、学校やコミュニティにおけるより安全なオンライン習慣や実践を推進するための1年間のパイロットプログラムに参加します。7月、このグループは少なくとも1人の保護者や付き添い者とともに、カリフォルニア州サンタモニカのSnap本社に集まり、オンライン上の落とし穴や社会の動態、保護者向けツールなどのテーマについて有益な洞察を得るための議論を行いました。 これは、Snapの安全問題に関して直接的な指導と指針を提供する16人の専門家と3人の若者擁護者で構成される安全諮問委員会に加えて行われています。当社は、2025年に両グループのメンバーが一堂に会し、さらなる洞察を得る機会を増やせることを期待しています。 

III. 意識の啓発

当社の社内投資や専門家との連携、業界を超えた取り組みに加え、オンライン上の性的虐待やセクストーションに対抗するための重要な要素は、一般の人々やSnapchatユーザーの意識を高めることです。 

2022年、当社は業界をリードする調査レポートであるデジタルウェルビーイングインデックスを発表しました。これは、オンライン上で10代の若者やヤングアダルトがプラットフォームの枠を超えてどのような状況にあるかについての洞察を提供するものです。 この調査の一環として、当社は過去2年間にわたり、セクストーションについて詳細な調査を行ってきました。この調査ではSnapchatだけでなく、オンライン全般での体験を対象としているため、当社の取り組みを周知するだけでなく、テックエコシステム全体の他の人々にも洞察を提供できることを期待しています。今月後半には、Technology Coalitionが開催予定の未成年者に対するリベンジポルノ恐喝に関するバーチャルマルチステークホルダーフォーラムと連携して、セクストーションについての詳細な調査第2年目の結果を発表します。 

今年の初め、当社は米国国土安全保障省（DHS）が開始したこれまでにない形の公的啓発キャンペーンであるKnow2Protectを支援する最初の団体となったことを光栄に思っています。このキャンペーンは、若者、保護者、信頼できる大人、そして政策立案者に教育を行い、リベンジポルノ恐喝などの犯罪を防止し、それらと闘う力を与えるものです。また、当社はK2Pの教材用にSnapchat上の広告スペースを寄付するだけでなく、キャンペーンをさらに充実させるために、米国の10代の若者やヤングアダルトを対象とした追加調査を行っています。 さらに、当社はインタラクティブなKnow2Protectクイズを通じてSnapchatユーザーを教育するために、拡張現実（AR）を活用したSnapchatレンズを共同で立ち上げました。 そして英国では、当社はオンラインでの性的チャイルドグルーミング、セクスティング、ヌード送信に関する問題を周知するために、11歳から13歳の少女を対象にしたIWFの広範な啓発キャンペーン「Gurls Out Loud」を支援しています。加えて、当社は最近、Safe and Sound Schoolsと提携し、セクストーションに対処するための情報やガイダンスを含む教育者向けの包括的なツールキットである「教育者のためのSnapchatガイド」を公開しました。

当社は長年にわたる調査に基づき、意識の啓発やコミュニティ教育がオンライン上の危害を防ぐための強力な手段であることを認識しており、Snapchat上で直接10代の子どもたちや若年層にリーチするためのアプリ内リソースの開発と普及を続けています。2023年9月に、当社はリベンジポルノ恐喝を含む性的リスクや危害に焦点を当てた4つの新しいエピソード「Safety Snapshot」を公開しました。 また、セクスティングやヌード画像・映像の作成および共有、オンライン上のチャイルド・グルーミング、子どもの性的人身売買に関するエピソードも提供しています。 これらの資料はすべて、全米行方不明・被搾取児童センター（NCMEC）の専門家によって審査され、主要な地域に関連するホットラインやヘルプラインと協力して作成されました。 

当社は、オンライン上の児童の性的搾取や虐待に対して引き続き対抗していきますが、まだまだやるべきことはたくさんあります。 当社は、2025年においてもオンライン上の潜在的な危害に関する認識を高め、誰もが潜在的な標的となり得ることを繰り返し表明していきます。 当社は、不正な行為を行うユーザーを早期かつ頻繁に妨害し、阻止したいと考えており、法執行機関向けに、さらに実用的なCyberTips（ネット上での児童搾取の疑いに関するNCMECへの情報提供によるリソース）の作成に寄与したいと考えています。

また、違法薬物の販売、暴力の脅威、自殺や自傷行為に関するコンテンツといったその他の重大な危害に立ち向かう際に、当社はこれらの戦略の多くを採用し、活用していることをご留意ください。当社は、この分野での取り組みは決して終わることがないかもしれないと認識しています。しかし、Snapchatユーザーの安全を深く大切に考え、今後も業界全体、政府、そして法執行機関との連携を通じて、情報交換や防御の強化に向けて邁進していきます。