Snap 坚定地致力于 Snapchat 社区的安全。我们的目标是帮助用户防范数字生态系统中的各种网络风险和潜在危害，包括涉及儿童性剥削和虐待 (CSEA) 的可憎罪行。多年来，Snap 一直在打击此类非法内容和卑劣的犯罪行为，在整个 Snapchat 应用程序中采取了主动检测和被动响应措施。在过去的一年里，我们对相关政策和流程进行了额外调整，旨在帮助将犯罪者绳之以法。我们想在此分享更多关于这项工作的信息。

什么是 CSEA？

儿童性剥削和虐待涵盖了一系列涉及对未成年人造成性伤害的非法活动，包括：观看、制作和传播儿童性剥削和虐待图像 (CSEAI)，包括人工智能生成的照片和视频这一新威胁；出于性目的对未成年人进行网络引诱或诱骗； ¹性勒索； ²儿童性走私；以及直播儿童遭受性虐待和折磨。 ³很难理解这些令人厌恶的现实竟然真的存在。但可悲的是，这种虐待行为一直存在——而数字世界现在提供了一种替代的虐待方式，使犯罪方式变得更快、影响更广。

“科技从根本上改变了那些对儿童有性兴趣的人对他们进行幻想、接触和侵害的方式，”总部位于伦敦的WeProtect 全球联盟主席 Ernie Allen 说道。“《纽约时报》写道，‘网络儿童性剥削的危机正处于临界点。’文章指出，举报数量正在激增，犯罪者分享的受害者年龄更小，罪行也更令人发指，而执法部门正疲于应对。如果你再考虑到这个挑战的新变种，比如联邦调查局报告增长了 7200% 的性勒索、直播虐待等，很明显，这个问题应该成为全球政策议程的首要议题，”他补充道。

科技公司的法律义务

当美国科技公司意识到其平台或服务上存在 CSEA 时，它们有法律义务向美国国家失踪与受虐儿童援助中心 (NCMEC) 报告。NCMEC 随后会审查这些网络举报 (CyberTips)，并与国内外执法部门联系，以帮助保护受害儿童并惩罚犯罪者。

直到去年，向 NCMEC 提交的网络举报年度总数基本上是逐年上升的，达到了创纪录的 3620 万份报告 ⁴2023 年的数量从 2022 年的 3200 多万份和 1998 年 NCMEC 网络举报热线创建时的 4560 份增加而来。正是网络举报数量的创纪录增长——以及其他因素，包括全球性勒索事件的持续激增，以及我们从执法部门收到的关于我们自己网络举报可操作性的反馈——促使 Snap 在 2024 年首次与 NCMEC 接洽，以重新校准我们的网络举报报告。

我多年来一直在监控网络举报的报告情况，我坚信一些科技公司的做法已经趋向于向 NCMEC 报告所有事情——甚至超出了他们的法律义务——因为他们害怕被指控遗漏了某些事情。 ⁵未能按法律要求报告的公司可能会面临巨额罚款。但这种报告方式，加上许多报告的可操作性很低（要么是因为网络举报缺乏足够的背景信息供执法部门采取行动，要么是因为报告的行为在某些情况下并非他们的优先事项），导致网络举报数量不断增加、多次广泛的审查以及执法部门日益增长的挫败感。

目标：高价值的网络举报

我们与 NCMEC 进行重新校准的目标是通过完善我们自己的平台政策和向 NCMEC 报告的协议，进一步提高 Snap 网络举报的可操作性和价值。最初的重新校准于 2024 年 5 月进行，我们的政策变更在去年下半年全面生效。

虽然我们应该避免孤立地过分强调报告的纯粹数量，但自实施我们的政策改进以来，Snap 很高兴地分享，我们向 NCMEC 报告的总体数量大幅下降，网络引诱的升级报告也出现了类似的下降——所有这些都是在仍然履行我们在网络举报中报告 CSEA 的法律义务的前提下。然而，较低的总数尚未反映在 NCMEC 的年度报告量中，因为这些变更是在 2024 年晚些时候实施的，只剩下一年中短短几个月的时间来反映这些修订。

与此同时，我们的团队一直在努力改进我们网络举报中的数据和标签。这些澄清有助于更好地识别涉嫌的罪行和相关个人，从而使 NCMEC 和执法部门能够更快、更准确地对报告进行分类。即使在向 NCMEC 报告可能没有必要的情况下，Snap 仍将继续通过采取行动来处理违反我们平台政策的图像和行为——这可能包括删除违规内容、禁用帐户以及寻求阻止创建新帐户。

重新校准检查点

上个月，我们与 NCMEC 进行了第二次重新校准，Snap 团队在会上回顾了去年的内部政策变化；向 NCMEC 更新了我们的进展；确认了一些额外的操作指南；并帮助设定了未来几个月的预期。我们还预告了一些进一步计划的政策和报告补充内容，我们希望这些内容将继续提升我们向 NCMEC 和执法部门报告的价值。当然，这是一个迭代的过程，但我们对过去一年的进展感到鼓舞。

展望未来

随着时间的推移，我们预计 NCMEC 和执法部门可能会继续看到来自 Snap 的网络举报数量与往年相比有所减少，但他们确实收到的报告中，更高比例的报告应包含更高质量的信息，并且更具可操作性。

我们致力于在安全工作的各个方面持续改进。我们不假装在打击 CSEA 或任何其他潜在网络伤害方面拥有所有答案；任何人都不应该假装，因为没有人拥有所有答案。日复一日，我们正在与全社会的问题作斗争，我们采取了全公司的方法来应对——最终的双重目标是减轻风险和减少伤害。

关于我们的网络举报，我们在不远的将来有一个明确的目标：无论是州互联网儿童犯罪特别工作组 (ICAC) 的指挥官、联邦调查员，还是世界另一端的执法人员，我们都希望州、联邦和国际当局能够自信地跟进来自 Snap 的网络举报，因为他们知道我们的报告可以被持续信赖，是可操作的、有价值的和详尽的。而且，我们希望这些努力将有助于促使相关逮捕 ⁶和定罪在全球范围内相应增加。

非常感谢 NCMEC、WeProtect、美国的 61 个 ICAC 特别工作组、世界各地的执法部门，以及我们在打击 CSEA 领域的所有同事和合作者——并补充说明，我们仍然开放并渴望您的反馈，以进一步改进我们的战略和方法。我们同舟共济。

- Jacqueline Beauchere，平台安全全球负责人