通过支持《TAKE IT DOWN 法案》来增强社区安全
2025 年 4 月 8 日
每个人都应该在网上感到安全并控制自己的图片。 在 Snapchat 上,我们明确禁止分享、推广或分发露骨的内容,包括未经同意的亲密图像 (NCII)。 在立法机构的帮助下,我们可以制定和加强行业标准,并提供更强有力的保护,以防范此类伤害。 这就是为什么我们很自豪地支持 H.R. 633,也称为《TAKE IT DOWN》(通过在网站和网络上固定技术深度伪造来解决已知漏洞的工具)法案。
《TAKE IT DOWN 法案》将发布 NCII 和类似图像定为联邦刑事犯罪。 还要求 Snapchat 等网站和平台在受害者提出请求后 48 小时内删除此类图像,并采取合理措施识别并删除图像副本。 这项法律不仅有助于保护人们在未经许可的情况下共享私人图像,而且有助于限制 AI 生成的具有同样破坏性的亲密图像的传播。
Snap 将保护社区(尤其是年轻用户)视为重中之重。 《TAKE IT DOWN 法案》与我们正在进行的阻止不良行为者在网上传播 NCII 和儿童性剥削和虐待图像 (CSEAI) 的工作相一致并互为补充。我们的工作包括:
对举报采取快速行动
我们 24 小时全天候的安全团队快速响应骚扰或性内容举报,以确保在 Snapchat 用户需要帮助时迅速采取行动。 我们在应用程序中简化了举报流程,允许 Snapchat 用户直接从对话中举报某一条消息、故事或帐户。 我们还有特定类别的人员举报 NCII 和 CSEAI,以便安全团队对举报排序并快速采取行动。
通过全行业合作伙伴关系支持受害者
我们积极参与美国国家失踪与受虐儿童援助中心 (NCMEC)《Take It Down》法案,该计划允许未成年人创建亲密图像的数字“指纹”,而无需共享实际图像。 我们使用这些指纹来检测 Snapchat 上匹配内容,并删除任何违反政策的内容。 我们还参与了类似的计划,例如在英国针对未成年人图像的 Report Remove,以及针对 18 岁以上的人的 StopNCII ——所有这些都有助于防止亲密图像在我们的平台上传播。
用于检测和删除有害内容的先进技术
我们使用 PhotoDNA 等专业技术来检测已知的非法图像,并使用 Google 的 CSAI Match 来检测已知的非法视频。 我们还使用 Google 的内容安全 API 来帮助发现以前从未举报或哈希处理的非法图像。
保护青少年免受陌生人和可疑帐户的伤害
为了应对最近的性勒索诈骗趋势,我们为年轻用户推出了保护措施,帮助防止陌生人找到他们的个人资料并与其联系。 我们警告青少年注意可疑的好友请求,并在未获得共同好友的帐户或帐户曾在与诈骗活动相关的地点访问过 Snapchat 时,防止向青少年发送好友请求。 我们还采取措施阻止违规者在同一设备上创建新帐户,或使用相同的电子邮件地址或电话号码。
与执法部门合作
我们的执法行动团队大幅增长,使我们能够与当局更好地合作,以保护 Snapchat 用户的安全。 我们在美国举办年度执法峰会,并与包括西非在内的国际执法部门合作,许多性勒索案件都起源于西非。 在发生紧急情况时,我们通常在 30 分钟内响应执法部门提出的相关数据披露请求。 此外,当我们发现儿童性剥削时(无论是在举报给我们和/或我们主动发现时)我们都会向 NCMEC,从而与国内和国际执法部门协调。
教育和认知度
为了帮助直接教育社区,我们通过探索上的“Safety Snapshot”频道推出了关于性风险和潜在危害的应用内短视频。 主题包括性勒索以及获取和分享裸照的后果。 此外,我们为家长和教育工作者开发了资源,帮助他们了解青少年如何使用 Snapchat,以及有什么保护措施保护他们的安全。 我们的 Snap 数字健康委员会将青少年聚集在一起,在学校和社区中倡导更安全的在线习惯。 我们还与专家合作支持诸如 Know2Protect 的举措,这是一项由美国国土安全部发起的全国公众意识活动,旨在帮助预防和打击性勒索等犯罪。
我们持续的承诺
虽然我们对进展感到高兴,但也知道工作可能永远做不完。 在 Snap,我们将继续提高对潜在在线危害的认识,开发新技术来检测违规内容,并与行业合作伙伴、政府机构、执法部门、民间社团、家长和年轻人合作。
通过支持《TAKE IT DOWN 法案》并继续开展安全工作,我们致力于实现一个每个人都能在线与朋友和家人联系,而不必担心受到剥削或虐待的未来。
我们非常关心每位 Snapchat 用户的安全,并继续致力于将平台打造成一个针对不良行为者的敌对环境,以及一个能够实现真正连接的健康空间。