オンラインでの児童性的搾取を阻止するための継続的な取り組み

2025年8月21日

Snapは、Snapchatコミュニティの安全に深くコミットしています。私たちの目標は、児童の性的搾取や虐待（CSEA）を含む忌まわしい犯罪など、デジタルエコシステム全体に広がるさまざまなオンラインのリスクや潜在的な危害からユーザーを保護することです。Snapは長年にわたり、Snapchatアプリ全体で積極的な検出と事後対応の両方の措置を講じ、この違法なコンテンツと卑劣な犯罪行為と戦ってきました。昨年、私たちは加害者を裁きにかけることを目的として、関連するポリシーとプロセスに追加の変更を加えました。ここでは、その取り組みについて詳しくご紹介します。

CSEAとは？

児童の性的搾取および虐待は、未成年者への性的危害を伴うさまざまな違法行為を対象としています。これには、AIが生成した写真や動画という新しい脅威を含む、児童の性的搾取および虐待画像（CSEAI）の閲覧、制作、配布、性的目的での未成年者のオンライングルーミングや誘惑などが含まれます。¹性的脅迫。²子どもの性的人身売買、子どもが性的虐待や拷問を受けている様子のライブストリーミング。³このような忌まわしい現実が実際に存在することを理解するのは困難です。しかし、悲しいことに、このような虐待は常に存在しており、デジタル世界は現在、代替の虐待手段を提供し、より速く、より広範囲にわたる犯罪の様式を拡大しています。

「テクノロジーは、子どもに性的関心を持つ人々が、子どもについて空想し、子どもにアクセスし、子どもを食い物にする方法を根本的に変えました」と、ロンドンを拠点とするWeProtect Global Allianceのアーニー・アレン会長は述べています。「New York Timesは、『オンラインでの児童性的搾取の危機は限界点に達している』と書きました。報告件数は増加の一途をたどり、犯罪者はより幼い被害者の画像やより凶悪な犯罪を共有し、法執行機関は追いつくのに苦労していると指摘しています。FBIが7,200%増加したと報告しているセクストーション、ライブストリーミングによる虐待などの新たなバリエーションをこの課題に加えると、この問題が世界中の政策課題の最上位にあるべきことは明らかです」と彼は付け加えました。

テクノロジー企業の法的義務

米国のテクノロジー企業は、自社のプラットフォームやサービス上でCSEAを認識した場合、全米行方不明・被搾取児童センター（NCMEC）に報告する法的義務があります。NCMECはこれらのサイバーチップを審査し、国内外の法執行機関と連携して、子どもの被害者を保護し、犯罪者を処罰するのに役立てます。

昨年まで、NCMECへのサイバーチップの年間総数は、年々増加し続け、過去最高の3,620万件の報告に達しました⁴2023年には、2022年の3,200万件強、NCMECのサイバーチップラインが設立された1998年の4,560件から増加しました。このサイバーチップの記録的な増加は、世界的な性的脅迫の急増の継続や、当社のサイバーチップの実行可能性に関する法執行機関からのフィードバックなど、他の要因に加えて、Snapが2024年にNCMECに最初にアプローチして、当社のサイバーチップ報告を再調整するきっかけとなりました。

私は数年間にわたりサイバーチップの報告を監視してきましたが、一部のテクノロジー企業の慣行が、報告する傾向にあると固く信じていますすべてをNCMECに、法的義務を超えてまで、見逃したと非難されることを恐れて何か。⁵法律で義務付けられている報告を怠った企業は、高額の罰金を科される可能性があります。しかし、この報告アプローチは、多くの報告の実行可能性が低いこと（サイバーチップに法執行機関が行動を起こすための十分な文脈がないか、報告された行為が、場合によっては、彼らにとって優先事項ではないため）と相まって、サイバーチップの増加、複数かつ広範なレビュー、法執行機関の不満の増大をもたらしています。

目標：価値の高いサイバーチップ

NCMECとの再調整の目標は、当社独自のプラットフォームポリシーとNCMECへの報告のために設けているプロトコルを改良することで、Snapのサイバーチップの実行可能性と価値をさらに高めることでした。その最初の再調整は2024年5月に行われ、当社のポリシー変更は昨年の後半に完全に有効になりました。

報告件数のみを過度に重視することは避けるべきですが、ポリシーの改良を実施して以来、SnapはNCMECへの全体的な報告量が大幅に減少し、オンラインでの誘惑に関するエスカレーションも同様に減少したことをご報告できることを嬉しく思います。これらはすべて、サイバーチップでCSEAを報告するという法的義務を果たしながら達成したものです。しかし、変更が2024年後半に実施され、修正を反映するのに十分な月数が残っていなかったため、この低い合計はまだNCMECの年間報告量に反映されていません。

並行して、当社のチームはサイバーチップのデータとラベリングの改善に取り組んできました。このような明確化は、申し立てられた犯罪と関与した個人をより適切に特定するのに役立ち、ひいてはNCMECと法執行機関による報告のより迅速で正確なトリアージを可能にします。NCMECへの報告が保証されない場合でも、Snapは、違反コンテンツの削除、アカウントの無効化、新しいアカウントの作成のブロックを求めるなど、当社のプラットフォームポリシーに違反する画像や行動に対処し続けます。

再調整のチェックポイント

先月、当社はNCMECと2回目の再調整を実施しました。Snapチームは昨年の社内ポリシーの変更を要約し、NCMECに進捗状況を報告し、いくつかの追加の運用ガイドラインを確認し、今後の数か月間の期待値を設定するのに役立ちました。また、NCMECと法執行機関の両方に対する当社の報告の価値を引き続き高めることを期待して、さらに計画されているポリシーと報告の追加事項をプレビューしました。当然のことながら、これは反復的なプロセスですが、過去1年間の進捗に勇気づけられています。

今後の展望

今後、NCMECと法執行機関は、Snapからのサイバーチップの量が前年と比較して減少し続ける可能性がありますが、受け取るもののうち、より高い割合のものが実際により質の高い情報を含み、より実行可能であるべきです。

当社は、安全に関する取り組みのあらゆる側面において、継続的な改善に努めています。CSEAやその他の潜在的なオンライン上の危害との闘いに関して、すべての答えを持っているふりをすることはありません。誰もそうすべきではありませんし、誰もそうではありません。私たちは日々、社会全体の問題と闘っており、会社全体で取り組むアプローチを導入し、リスクの軽減と危害の低減という究極の2つの目標を掲げています。

当社のサイバーチップに関して、私たちはそう遠くない将来に明確な目標を掲げています。州の児童に対するインターネット犯罪タスクフォース（ICAC）の司令官であれ、連邦捜査官であれ、あるいは地球の裏側の法執行機関のメンバーであれ、州、連邦、国際当局がSnapからのサイバーチップを自信を持って追跡できるようにしたいと考えています。なぜなら、当社の報告は、実行可能で、価値があり、徹底していると一貫して信頼できることを彼らが知っているからです。そして、私たちの希望は、これらの取り組みが、関連する逮捕⁶と世界中の有罪判決の対応する増加を促すのに役立つことです。

NCMEC、WeProtect、米国の61のICACタスクフォース、世界中の法執行機関、そしてCSEA対策の分野におけるすべての同僚と協力者に、心から感謝申し上げます。また、当社の戦略とアプローチをさらに改善するための皆様からのフィードバックを、私たちは常に歓迎し、切望していることを付け加えておきます。私たちは皆、この問題に共に取り組んでいます。

- ジャクリーン・ボーシェール、プラットフォームセーフティグローバル責任者