《2021 年上半年透明度报告》

2021 年 11 月 22 日

今天,我们将发布2021年上半年的透明度报告,其中包括今年 1 月 1 日至 6 月 30 日期间的数据。与最近的报告一样,该报告分享了上述期间在全球范围内违反了社区规范的数据;针对特定类别的违规行为收到并强制执行的内容举报数量;我们如何响应执法部门和政府的要求;我们按国家/地区细分的执法措施;Snapchat违规内容的查看率;以及平台上虚假信息相关的事件。
我们在本期报告中增加了一些更新,包括以分钟为单位记录的中位数周转时间,用于提供更多关于我们运营实践方法和功效的详细信息。
每天,使用 Snapchat 相机创建的 Snap 超过 50 亿条。2021 年 1 月 1 日至 6 月 30 日,我们对全球范围内违规的6,629,165项内容予以执行。在此期间,我们的违规查看率为0.10%,这意味着在Snap上每10,000次内容的浏览中,有10次是违规的内容。此外,我们大大缩短了违规举报的响应时间,尤其是露骨色情内容、骚扰和欺凌、非法药品和假药以及其他受管制物品。
打击儿童性虐待内容
社区安全是我们的首要任务。作为一个为与真正的朋友交流而构建的平台,我们在设计Snapchat时,特意进行设置让陌生人更难找到年轻人。例如,Snapchatter无法看到对方的好友列表,默认情况下也无法收到来自非好友的消息。
我们对针对社区任何成员(尤其是未成年人)的不当行为持零容忍态度,这是非法且不可接受的,而且是社区规范命令禁止的。我们通过提高预防、检测和消除平台上不当行为的能力,努力打击这些违规行为,包括儿童性虐待内容(CSAM)和其他类型的儿童性剥削内容等。
我们的信任和安全团队使用主动检测工具,例如 PhotoDNA 和儿童性虐待图像 (CSAI) 匹配技术来识别已知的 CSAM 非法图像和视频,并将其报告给国家失踪和受虐儿童中心(NCMEC)。然后,NCMEC与国内和国际执法部门协调。
2021 年上半年,我们针对全球强制执行的账户中有 5.43% 包含 CSAM。其中,我们主动检测并处理了 70% 的 CSAM 违规行为。随着我们主动检测能力的提高,加上不断地对CSAM传播进行拦截,在本报告所述期间这一类别有了显著的提升。
我们继续扩大与安全专家的伙伴关系,并推出了其他应用程序内功能,以帮助Snapchatter了解与陌生人联系的风险,以及如何使用应用程序内报告来提醒安全与信任团队注意任何类型的问题或不当行为。此外,我们继续邀请合作伙伴加入到Trusted Flagger计划中,该计划为经过审查的安全专家提供了一个保密的渠道来报告紧急情况,例如,迫在眉睫的生命威胁或涉及CSAM的案件。我们与这些伙伴密切合作,提供安全教育、健康资源和其他报告指导,他们从而可以支持 Snapchat 社群。
我们处理虚假信息传播的方法
透明度报告所述期间进一步强调了确保公众能够获得准确和可靠信息的重要性。我们会定期评估并投资开发新方法,来确保Snapchatter社区免受民主程序、公共卫生和新冠疫情相关的虚假信息的骚扰。
2021 年上半年,我们在全球范围内共对 2,597 个违反虚假信息准则的账户和内容进行了执法,与上一个报告期相比,数量减少了一半。由于发现和聚光灯上的内容会经过主动审核,有效避免了违规内容的大规模传播,因此上述违规行为大多数来自私人 Snap 和故事,其中大部分违规行为都是由我们主动审核出来或由Snapchatter举报的。
我们一直认为,在涉及有害内容时,仅仅考虑政策和执行是不够的,平台需要考虑其基本结构和产品设计。从一开始,Snapchat 的创建就与传统社交媒体平台不同,其主要目的是支持我们与亲密好友的对话,而不是公开的新闻推送,后者这种形式是指在没有审核的情况下,任何人都有权传播任何内容给任何人的平台。Snapchat的设计限制了病毒式传播,这大大打击了那些会吸引人性中恶的不当内容,从而限制了非法、有害内容的传播。
这种方法也贯彻到我们防止极端主义内容传播的工作中。在此报告期间内,我们移除了五个违规传恐怖主义和暴力极端主义内容的帐户,比上一报告周期略有减少。在 Snap,我们会定期监测这一领域的发展,寻求可以减少平台上潜在不当行为的方法。我们的平台架构和群聊功能的设计都有助于限制有害内容的传播和组织。我们提供群组聊天,但规模受限,而且算法不推荐,如果不是群组成员,则不会出现在平台的搜索结果中。
在此期间,我们一直积极地向社区宣传疫情相关的公共安全信息,包括由发现平台的编辑合作伙伴提供的报道、公共服务公告(PSA)、与公共卫生官员、机构和医学专家之间的问答,以及诸如增强现实特效镜头和滤镜等的创意工具——所有的这些都旨在提醒Snapchatter要遵循专家的公共卫生指导。今年早些时候,随着疫苗在美国年轻人中的普及,我们与白宫启动了一项新计划,为Snapchatter解答常见问题,而且在七月, 我们与英国国家卫生服务局合作开展了类似的活动。
展望未来,我们将会持续完善透明度报告,使之更加全面,并有助于那些关注网络安全、透明度和多部门问责制的众多利益相关者。我们一直在评估要如何才能加强打击有害内容和不良行为者的能力,我们也非常感谢那些一直帮助我们改进的安保和安全合作伙伴和合作者。
回到新闻