Snap 致力於維護 Snapchat 社群的安全。我們的目標是協助保護使用者免於數位生態系統中各種網路風險和潛在危害，包括涉及兒童性剝削與虐待 (CSEA) 的可憎罪行。多年來，Snap 一直在打擊這種非法內容和惡劣的犯罪行為，在 Snapchat 應用程式中採用主動偵測和被動應對措施。過去一年來，我們對相關政策和流程進行了額外變更，希望能協助將犯罪者繩之以法。我們想在此分享更多關於這項工作的資訊。

CSEA 是什麼？

兒童性剝削與虐待涵蓋一系列涉及對未成年人造成性傷害的非法活動，包括：觀看、製作和散佈兒童性剝削與虐待圖像 (CSEAI)，包括 AI 生成照片和影片等新型威脅；為達性目的而在網路上誘騙或引誘未成年人； ¹性勒索； ²兒童性剝削；以及直播兒童遭受性虐待和酷刑。 ³很難想像這些令人反感的現實確實存在。但可悲的是，這種虐待行為一直都存在——而數位世界現在提供了另一種虐待方式，擴大了犯罪模式，使其更快、影響更廣泛。

「科技已徹底改變了對兒童有性興趣者對他們產生幻想、接觸他們和掠奪他們的方式。」位於倫敦的WeProtect 全球聯盟主席 Ernie Allen 說。「《紐約時報》曾寫道：『網路兒童性剝削的危機已瀕臨崩潰點。』報導指出，通報案件不斷升級，犯罪者分享更年幼受害者的影像和更令人髮指的罪行，而執法部門正努力跟上腳步。如果你再加上新的變種挑戰，例如 FBI 報告稱增加了 7,200% 的性勒索、直播虐待等，這個問題顯然應該成為全球政策議程的首要任務。」他補充道。

科技公司的法律義務

當美國科技公司意識到其平台或服務上存在 CSEA 時，他們有法律義務向全國失蹤與受剝削兒童中心 (NCMEC) 舉報。NCMEC 隨後會審查這些網路通報 (CyberTips)，並與國內外執法部門聯繫，以協助保護受害兒童並懲罰犯罪者。

直到去年為止，向 NCMEC 提交的網路通報年度總數基本上是逐年上升，達到創紀錄的 3,620 萬份報告 ⁴在 2023 年，高於 2022 年的 3,200 多萬份，以及 1998 年 NCMEC 網路通報熱線成立時的 4,560 份。正是網路通報的創紀錄增長——加上其他因素，包括全球性勒索持續飆升，以及我們從執法部門收到的關於我們自己網路通報可操作性的回饋——促使 Snap 在 2024 年首次與 NCMEC 接洽，以重新校準我們的網路通報報告。

我多年來一直在監控網路通報的報告，我堅信一些科技公司的做法已趨向於報告所有事情給 NCMEC——甚至超出其法律義務——因為害怕被指控錯過某些事情。 ⁵未能依法通報的公司可能會面臨高額罰款。但這種通報方法，加上許多報告的可操作性低（可能是因為網路通報缺乏足夠的背景資訊讓執法部門採取行動，或是在某些情況下，通報的行為對他們來說並非優先事項），導致網路通報數量不斷增加、多次廣泛的審查，以及執法部門日益增長的挫敗感。

目標：高價值的網路通報

我們與 NCMEC 重新校準的目標是，透過完善我們自己的平台政策和向 NCMEC 報告的協議，進一步提高 Snap 網路通報的可操作性和價值。最初的重新校準於 2024 年 5 月進行，我們的政策變更在去年下半年完全生效。

雖然我們應避免過分強調報告的絕對數量，但自從實施我們的政策改進以來，Snap 很高興地分享，我們向 NCMEC 報告的總量已顯著下降，網路誘騙的升級案件也出現類似的下降——這一切都是在我們仍然履行在網路通報中報告 CSEA 的法律義務的前提下。然而，較低的總數尚未反映在 NCMEC 的年度報告量中，因為這些變更是在 2024 年下半年實施的，只剩下幾個月的時間來反映這些修正。

與此同時，我們的團隊一直在努力改善我們網路通報中的資料和標籤。這些澄清有助於更好地識別涉嫌的罪行和相關個人，進而讓 NCMEC 和執法部門能夠更快、更準確地對報告進行分類。即使向 NCMEC 報告可能沒有必要，Snap 仍將繼續處理違反我們平台政策的圖像和行為，並採取行動——包括刪除違規內容、停用帳戶，並試圖阻止新帳戶的創建。

重新校準檢查點

上個月，我們與 NCMEC 進行了第二次重新校準，Snap 團隊在會中總結了去年的內部政策變更；向 NCMEC 更新了我們的進展；確認了一些額外的操作指南；並協助設定了未來幾個月的預期。我們還預告了一些進一步計劃的政策和報告增補，希望這些能繼續提升我們報告對 NCMEC 和執法部門的價值。當然，這是一個反覆的過程，但過去一年的進展讓我們備受鼓舞。

展望未來

隨著時間的推移，我們預計 NCMEC 和執法部門可能會繼續看到來自 Snap 的網路通報數量與往年相比有所減少，但他們收到的報告中，有更大比例確實會包含更高品質的資訊且更具可操作性。

我們致力於在安全工作的各個方面持續改進。我們不假裝對打擊 CSEA 或任何其他潛在的網路傷害擁有所有答案；沒有人應該這樣，因為沒有人能做到。日復一日，我們正在對抗整個社會的問題，我們採取了全公司的方法來應對——最終的雙重目標是降低風險和減少傷害。

關於我們的網路通報，我們在不久的將來有一個明確的目標：無論是州級網路犯罪兒童工作組 (ICAC) 的指揮官、聯邦調查員，還是世界另一端的執法人員，我們都希望州、聯邦和國際當局能夠自信地追查來自 Snap 的網路通報，因為他們知道我們的報告可以被一致地信賴為可操作、有價值且詳盡的。而且，我們希望這些努力將有助於促使相關逮捕 ⁶和定罪案件在全球範圍內相應增加。

非常感謝 NCMEC、WeProtect、美國 61 個 ICAC 工作組、世界各地的執法部門，以及我們在打擊 CSEA 領域的所有同事和合作夥伴——並補充說明，我們仍然樂於並渴望收到您的回饋，以進一步改善我們的策略和方法。我們同舟共濟。

- Jacqueline Beauchere，全球平台安全主管