2024 年 4 月 25 日
2024 年 8 月 29 日
欢迎访问我们的欧盟 (EU) 透明度页面,我们在此发布《数字服务法案》 (DSA)、《视听媒体服务指令》 (AVMSD)、《荷兰媒体法案》 (DMA) 和《恐怖主义内容网络监管条例》 (TCO) 要求的欧盟特定信息。 请注意,这些透明度报告的最新版本可以在 en-US 区域中找到。
Snap Group Limited 已指定 Snap B.V. 作为其 DSA 法定代表人。 您可以在我们的支持网站[此处]或以下位置,通过 dsa-enquiries@snapchat.com 联系 DSA 代表,通过 vsp-enquiries@snapchat.com 联系 AVMSD 和 DMA 的代表:通过 tco-enquiries@snapchat.com 联系 TCO 的代表:
Snap B.V.
Keizersgracht 165, 1016 DP
Amsterdam, The Netherlands
如果您是执法机构,请遵循 此处概述的步骤。
联系我们时,请使用英语或荷兰语交流。
关于 DSA,我们受欧盟委员会和荷兰消费者和市场管理局 (ACM) 监管。对于 AVMSD 和 DMA,我们受到荷兰媒体管理局 (CvdM) 的监管。对于 TCO,我们受荷兰预防网络恐怖主义内容和儿童性虐待材料 (ATKM) 的监管。
DSA 第 15、24 和 42 条要求 Snap 发布报告,其中应包含有关 Snap 对 Snapchat 服务(视为“在线平台”)(即 Spotlight、 为您推荐、公众号、地图、特效镜头和广告)的内容审核的规定信息。自 2023 年 10 月 25 日起,该报告必须每 6 个月发布一次。
Snap 每年发布两次透明度报告,深入介绍 Snap 的安全工作以及我们平台上所举报内容的性质和数量。 我们的 2023 年下半年(7 月 1 日 - 12 月 31 日)最新报告可在此处找到(并更新了 2024 年 8 月 1 日的平均月度活跃接收者数据 -- 请查看本页底部)。 《数字服务法案》的特定指标可在此页面上找到。
截止 2023 年 12 月 31 日,我们的 Snapchat 应用程序在欧盟的平均月度活跃接收用户达 9090 万。这意味着,在过去 6 个月中,平均有 9090 万欧盟注册用户在指定月份内至少打开过一次 Snapchat 应用程序。
该数据按成员国分类如下:
这些数字的计算符合当前的 DSA 规则,并且只能用于 DSA 目的。随着时间推移,我们时常根据内部政策变化、监管机构指导和科技等对该数据的计算方法进行调整,因此不同时间点的数据不宜用于比较。这也可能与我们出于其他目而发布的其他活跃用户数据所用的计算方法不同。
下架请求
在此期间,我们根据《数字服务法案》第 9 条未收到任何来自欧盟成员国的下架请求。
信息请求
在此期间,我们已收到来自欧盟成员国的以下信息请求:
向主管机关通报收到信息请求的中位响应时间为 0 分钟——我们提供自动回复以确认已收到。执行信息请求的中位处理时间约为 10 天。该指标反映了 Snap 从收到信息请求到 Snap 认为该请求已完全处理所经过的时间段。
在某些情况下,此流程的长度部分取决于执法部门响应 Snap 为处理该指令而提出的任何澄清请求的速度。
Snapchat 上所有内容必须遵守我们的 社群指南和服务条款,以及配套条款、指南和解释。主动检测机制和对非法或违规内容或账户的举报会发出审查提示,此时,我们的工具系统会处理请求,收集相关元数据,并通过结构化用户界面,将相关内容发送给我们的审核团队。该界面旨在促进审查行动的高效展开。若审核团队在人工审核或自动审核中确定某用户违反了我们的条款,我们可能会删除违规内容或账户,终止或限制相关账户的可见性,和/或通知执法部门,如 Snapchat 审核、 强制执行和申诉解释所述。 若账户因违反社群指南而被我们的安全团队锁定,用户可以提交锁定账户申诉,且用户可以申诉某些内容强制执行。
内容和帐户通知(《数字服务法案》第15.1(b) 条)
Snap 已建立机制,允许用户和非用户向 Snap 通报违反平台《社群指南》和《服务条款》的内容和账户,包括他们认为根据《数字服务法案》第 16 条属于非法的内容。这些举报机制在应用程序本身(即直接从内容中)和我们的网站上均可使用。
在相关期间,我们在欧盟地区收到了以下内容和账户的通知:
In H2’23, we handled 664,896 notices solely via automated means. All of these were enforced against our Community Guidelines because our Community Guidelines encapsulate illegal content.
In addition to user-generated content and accounts, we moderate advertisements if they violate our platform policies. Below are the total ads that were reported and removed in the EU.
可信举报者通知(第 15.1(b) 条)
在我们最新的透明度报告(2023 年下半年)期间,根据《数字服务法》尚未正式指定任何可信举报者。因此,在此期间,由此类可信举报者提交的通知数量为零(0)。
主动内容审查(第15.1(c)条)
在相关期间,Snap 主动开展内容审核,并对欧盟地区的以下内容和账户实施了强制措施。
Snap 的所有主动审核措施都采用了人工或自动化手段。在我们的公开内容层面上,内容通常会经过自动审核和人工审核,然后才有资格分发给广大受众。关于自动化工具,这些工具包括:
使用机器学习,主动检测非法和违规内容;
散列匹配工具(如 PhotoDNA 和 Google 的 CSAI Match);
辱骂性语言检测功能可根据已识别并定期更新的辱骂性关键词列表(包括表情符号)拒绝内容。
申诉(第 15.1(d) 条)
在相关期间,Snap 通过其内部申诉处理系统,在欧盟处理了以下内容和账户的申诉:
* 阻止对儿童进行性剥削是当务之急。 Snap 为此投入了大量资源,并对此类行为采取零容忍态度。 审核 CSE 申诉需要特殊培训,而且由于其内容的图像性质,只有有限的代理人团队处理这些审核。 2023 年秋季期间,Snap 实施了影响某些 CSE 执法的一致性的政策更改,我们通过代理人再培训和严格的质量保证,解决了这些不一致问题。 我们预计下一份透明度报告,将展示在缩短 CSE 申诉响应时间和提高初始执法精度方面取得的进展。
用于内容审核的自动化途径(第 15.1(e) 条)
在我们的公开内容层面上,内容通常会经过自动审核和人工审核,然后才有资格分发给广大受众。关于自动化工具,这些工具包括:
使用机器学习,主动检测非法和违规内容;
散列匹配工具(如 PhotoDNA 和 Google 的 CSAI Match);
辱骂性语言检测,可以根据已识别并定期更新的辱骂性关键词(包括表情符号)列表,拒绝内容。
自动审核技术处理所有危害的准确率约为 96.61%,错误率约为 3.39%。
我们承认内容审核存在风险,包括言论和集会自由的风险,这些风险可能是由自动化和人工审核偏见以及包括政府、政治选区,或组织有序的个人在内的滥用报告引发的。 Snapchat 通常不是发布政治或激进内容的地方,特别是在我们的公共空间中。
尽管如此,为了防范这些风险,Snap 进行了适当的测试和培训,并制定了强大、一致的程序来处理非法或违规内容的报告,包括来自执法部门和政府当局的报告。 我们不断评估和改进我们的内容审核算法。 虽然很难检测到对言论自由的潜在危害,但我们没发现任何重大问题,并且我们为用户提供报告错误的途径(如果发生错误)。
我们的政策和系统促进一致和公平的执法,如上所述,为 Snapchatter 提供机会,通过通知和申诉流程对执法结果提出有意义地争议,该流程旨在维护我们社区的利益,同时保护 Snapchatter 个人权利。
我们不断努力改进我们的执法政策和流程,并在 Snapchat 上打击潜在有害和非法内容和活动方面取得了长足进展。 这反映在我们最新的透明度报告所显示的举报和执法数字的上升趋势中,以及 Snapchat 上违规行为发生率的总体下降中。
在我们最新的透明度报告(2023 年下半年)期间,不存在根据 DSA 正式任命的庭外争议解决机构。 因此,在此期间提交给此类机构的争议数量为零(0),我们无法提供结果、和解的中位数周转时间以及我们执行该机构决定的争议份额。
在 2023 年下半年,我们没有任何根据第 23 条强制实施的帐户暂停。Snap 的信任与安全团队已制定适当的程序,以限制用户帐户频繁提交明显缺乏根据的通知或投诉的可能性。 这些程序包括限制重复的报告创建和使用电子邮件过滤器,以阻止经常提交明显缺乏根据的报告的用户继续这样做。 Snap 对帐户采取适当的执法行动,正如 Snapchat 审核、执法和申诉说明中所解释的那样,有关 Snap 帐户执法级别的信息,请参阅我们的透明度报告(2023 年下半年)。 此类措施将继续进行审核和迭代。
我们的内容审核团队遍布全球,全天候帮助保障 Snapchat 用户的安全。下面是人工审核资源按审核员的语言专业分类的细目(请注意,有些审核员擅长多种语言)(截至 2023 年 12 月 31 日):
上表列出了截至 2023 年 12 月 31 日,支持欧盟成员国语言的所有审查人员。在需要额外的语言支持的情况下,我们使用翻译服务。
审核员的招聘使用统一的职位描述,包括根据需求的语言要求。语言要求明确候选人应该能够展示该语言的书面和口头流利,并至少有一年入门级职位的工作经验。 候选人必须满足教育和背景要求才能考虑。 候选人还必须证明他们对所支援内容审核国家或地区的时事有所了解。
我们的审核团队执行相关政策和管控措施,以保护 Snapchat 社群。 培训将持续数周,在此期间新成员将系统学习 Snap 的政策、工具以及升级处理流程。 完成培训后,每位审核员必须通过资格认证考试才能获得内容审核权限。 我们的审核团队会定期参与其工作流程相关的进阶培训,特别是在处理政策边界模糊和依赖具体情景的情形时。我们还开展技能提升项目、认证课程和测验,确保所有审核人员掌握最新动态并遵循所有已更新的政策。最后,当紧急内容趋势因时事产生时,我们会快速分发政策说明,以便团队能够根据 Snap 的政策及时处理。
我们为内容审核团队(Snap 的“数字应急响应人员”)提供全方位支持和资源,包括在岗健康保障和便捷的心理健康服务。
背景
对我们社区内任何成员,特别是未成年人的性侵害,是非法、卑鄙、并且被《社群指南》严行禁止的犯罪行为。对我们来说,在平台上预防、发现、根除儿童性虐待图像 (CSEA) 是 Snap 的重中之重,我们会不断提升自身的能力,来打击 CSEA 和其他类型的儿童性剥削内容。
我们使用 PhotoDNA 强大的哈希匹配技术和谷歌的儿童性虐待图像(CSAI)匹配技术,分别识别已知的儿童性虐待非法图像和视频,并按照法律要求将其报告给美国国家失踪和被剥削儿童中心(NCMEC)。随后,NCMEC 将根据需要与国内或国际执法机构进行协调处理。
报告
以下数据源于用户相册上传到 Snapchat 的媒体,经过 PhotoDNA 和/或 CSAI 匹配技术的主动扫描结果。
阻止对儿童性剥削是当务之急。 Snap 为此投入了大量资源,并对此类行为采取零容忍态度。 审核 CSE 申诉需要特殊培训,而且由于其内容的图像性质,只有有限的代理人团队处理这些审核。 2023 年秋季期间,Snap 实施了影响某些 CSE 执法的一致性的政策更改,我们通过代理人再培训和严格的质量保证,解决了这些不一致问题。 我们预计下一份透明度报告将展示在缩短 CSE 申诉响应时间和提高初始执法精度方面取得的进展。
内容审核保障
关于 CSEA 媒体扫描所应用的安全措施已在我们的 DSA 报告中”内容审核保障“章节中列出。
发布时间:2024 年 6 月17 日
最后更新日期:2024 年 6 月 17 日
本透明度报告是根据欧盟欧洲议会和欧盟理事会 2021/784 号法规第 7(2) 和 7(3) 条发布的,该条例涉及恐怖主义内容的在线传播(法规)。 该报告涵盖 2023 年 1月 1 日至 12 月 31 日。
第 7(3)(a) 条:有关托管服务提供商在识别、移除或禁止访问恐怖主义内容方面采取措施的信息
第 7(3)(b) 条:关于托管服务提供商为解决曾被移除或因被认为是恐怖内容而禁止访问的在线内容重新出现所采取的措施的信息,尤其是当涉及自动化工具的使用时。
禁止恐怖分子、恐怖组织和暴力极端主义分子使用 Snapchat。 我们的社区准则禁止宣传、推广、颂扬或推进恐怖主义以及其他暴力、犯罪行为。用户可以通过我们的应用内举报菜单和支持网站举报违反社区准则的内容。 我们还采用主动检测来识别在公共平台(如 Spotlight 和 Discover)尚存的违规内容。
无论我们是如何得知违规内容,我们的信任与安全团队都会结合自动化和人工审核,迅速审查确认的内容并做出执法决定。执法措施可能包括删除内容、警告或锁定违规账户,并在必要时向执法机关举报该账户。为了防止恐怖主义或其他暴力极端内容在 Snapchat 上再次出现,除了与执法部门合作外,我们还采取措施屏蔽与违规帐户关联的设备,并阻止该用户创建另一个 Snapchat 帐户。
有关我们识别和移除恐怖主义内容措施的更多细节,可以在我们关于仇恨内容、恐怖注意和暴力极端主义以及关于内容管理、执行和上诉的说明找到。
第 7(3)(c) 条:在执行移除指令或具体措施后,移除或禁止访问恐怖主义内容的项目数量,根据第 3(7) 条第一项和第 3(8) 条第一项,未移除或未禁止访问恐怖主义内容的项目数量,以及理由
在报告期间,Snap 未收到任何移除指令,也未被要求我们根据法规第 5 条采取任何具体措施。 因此,根据法规我们无需采取执法行动。
下表描述了欧盟及其他地区根据用户报告和主动检测,针对违反我们社区准则与恐怖主义和暴力极端主义内容的内容和帐户采取的执法行动
第 7(3)(d) 条:托管服务提供商根据第 10 条处理的投诉数量和结果
第 7(3)(g) 条:在内容提供商投诉后,托管服务提供商恢复内容或访问的案件数量
由于在上述举报期间根据法规我们无需采取执法行动,因此我们没有根据法规第 10 条处理投诉,也没有进行相关的恢复措施。
以下表格提供了与根据我们的社区准则在欧盟及其他地区涉及恐怖主义和暴力极端内容的上诉和恢复相关的信息。
Article 7(3)(e): the number and the outcome of administrative or judicial review proceedings brought by the hosting service provider
Article 7(3)(f): the number of cases in which the hosting service provider was required to reinstate content or access thereto as a result of administrative or judicial review proceedings
As we had no enforcement actions required under the Regulation during the reporting period, as noted above, we had no associated administrative or judicial review proceedings, and we were not required to reinstate content as a result of any such proceedings.
截至 2024 年 8 月 1 日,我们在欧盟每月平均有 9240 万活跃的 Snapchat 应用接收者 (AMAR)。这意味着,在过去 6 个月中,平均有 9240 万欧盟注册用户在指定月份内至少打开过 Snapchat 应用程序一次。
该数据按成员国分类如下: