2024 年 12 月 5 日

2024 年 12 月 5 日

我們每年發佈兩次透明度報告，提供關於 Snap 安全工作的深入見解。 我們致力於這些工作，並不斷努力使這些報告更全面地提供更多資訊，為許多深切關注我們的內容審核、執法實踐以及 Snapchat 社群安全與福祉的利益相關者提供這些報告。 

本透明度報告涵蓋 2024 年上半年（1 月 1 日 - 6 月 30 日）。 與我們之前的報告一樣，我們分享了有關我們的信任與安全團隊在違反社群規範的特定類別中收到並處置的應用程式內內容與帳戶報告的全球數量；我們如何回應執法機關和政府的要求； 以及我們如何回應版權和商標侵權通知。 我們還在本頁底部連結的文件中提供特定於國家/地區的見解分析。

作為我們持續致力於不斷改進透明度報告的一部分，我們還引入了新的數據，突出顯示我們為檢測和打擊更廣泛違反社群規範的行為而採取的努力。 我們已在本報告中納入全球和國家層面的這些數據，並將繼續這樣做。 我們還更正了之前報告中的一項錯誤標記：我們之前提到「處置內容總數」，我們現在改稱「處置總數」，以反映以下事情：相關列中提供的數據包括內容以及帳戶的處置。

有關我們打擊潛在在線危害的政策，以及繼續改進報告的計劃，請參閱我們最近關於本透明度報告的安全與影響部落格。 如欲尋找 Snapchat 上安全和隱私的更多資源，請參見頁面底部的「透明度報告」分頁。

請注意，最新版的透明度報告語言為英文 (美國)。

我們的信任與安全團隊主動（透過使用自動化工具）與被動（因應檢舉）執行我們的社群規範，本報告以下部分將進一步詳細介紹。 在本報告週期 (2024 年上半年)，我們的信任與安全團隊採取了以下處置： 

以下是按違反社群規範的類型分類，包括從我們檢測到違規行為的時間（主動或在收到檢舉時）到我們對相關內容或帳戶採取最終行動的時間的中位數週轉時間：

在本報告期間內，我們的違規內容收視率 (VVR) 為 0.04%，這表示在 Snapchat 上每 10,000 次 Snap 及內容瀏覽中，有 4 次為違反社群規範的內容。

2024 年 1 月1 日 - 6 月 30 日，為回應違反社群規範的應用程式內檢舉，Snap 的信任與安全團隊在全球共採取了6,223,618 次處置行為，包括對 3,842,507 個不重覆帳戶的處置。 我們的信任與安全團隊對這些檢舉採取處置行動的中位數週轉時間為約 24 分鐘。 以下為按報告類別分類的細節。 

與前六個月相比，我們的總檢舉量在 2024 年上半年保持穩定。 本週期中，我們看到處置總量與的不重複帳户處置總數增加了大約 16%。

在過去的 12 個月中，Snap 為使用者推出了新的檢舉機制，這些機制可以解釋我們報告和處置量的變化以及本報告期間 (2024 年上半年) 的週轉時間的增加。 具體而言：

• 群組聊天檢舉：我們於 2023 年 10 月 13 日推出了群組聊天檢舉，使用者能夠檢舉在多人聊天室中的行為。 這影響了我們在不同報告類別中的指標（因為一些潛在的危害更有可能發生在聊天中）並提高了檢舉的可處置性。 

• 帳戶檢舉的加強：我們還改進了帳戶檢舉功能，為使用者提供了在檢舉不良行為者的帳户時提交聊天證據的選項。 這為我們提供了更多的證據與背景資訊來評估帳戶檢舉，於 2024 年 2 月 29 日推出。 

聊天檢舉，特別是群組聊天，是最難審核且最耗時的項目之一，這增加流程的週轉時間。 

對涉嫌兒童性剝削和性虐待 (CSEA)、騷擾和霸凌以及仇恨言論的檢舉特別受到上述兩項因素的影響。 具體而言：

• CSEA：我們觀察到 2024 年上半年與 CSEA 相關的檢舉與處置有所增加。 具體而言，我們看到使用者的應用內檢舉總數增加了 64％，處置總量增加了 82％，不重覆帳戶處置總數增加了 108％。 這些增長主要是由於群組聊天和帳戶檢舉功能的推出。 鑑於這些審核的敏感性，我們指派了一支訓練有素的團隊來審查潛在與 CSEA 相關的違規行為檢舉。 檢舉的大量增加，加上我們的新團隊培訓，導致週轉時間的增加。 展望未來，我們增加了全球供應商團隊的規模，以減少週轉時間並準確地執行潛在的 CSEA 檢舉。 我們預計我們的 2024 年下半年透明度報告將反映這一努力的成果，並大幅改善週轉時間。 
  

• 騷擾與霸凌：根據報告，我們觀察到騷擾與霸凌不成比例地發生在聊天中，特別是群組聊天。 我們推出群組聊天檢舉與帳戶檢舉的更新有助於我們在評估此類檢舉類別採取更全面的行動。 此外，從這時候開始，我們要求使用者在提交騷擾與霸凌報告時輸入內容評論。 我們會一併審查此內容評論。 這些變化導致處置總量（+91％），不重複帳戶處置總數（+82％）以及週轉時間（+245 分鐘）的大幅增加。 
  

• 仇恨言論：2024 年上半年，我們觀察到有關仇恨言論的檢舉內容、處置總量與週轉時間有增加。 具體而言，我們看到應用內檢舉增加了 61％，處置總量增加了 127％，不重複帳戶處置總數增加了 125％。 這部分是由於我們的聊天檢舉機制的改進（如前所述），並因地緣政治環境，特別是以色列 - 哈馬斯衝突地持續而進一步加劇。 

在本報告期間，我們看到處置總量減少了約 65％，因應垃圾郵件與濫用的檢舉而處置的不重複帳戶總數減少了約 60％，這反映了我們的主動檢測與處置工具的改進。 我們看到針對自我傷害與自殺有關的內容檢舉的處置總量也出現下降（約減少 80％），反映了我們更新的以受害者為中心的方法，根據這種作法，我們的信任與安全團隊將在適當的情況下傳送相關的協助資源，而不是對這些使用者採取處置行動。 這種方法由我們的安全諮詢委員會成員提供，包括一名小兒科教授以及醫生，他們是互動媒體與網路疾病的專家。

我們部署自動化工具以主動偵測，並在某些情況下對違反社群規範的行為採取強制措施。 這些工具包括雜湊比對工具（包括 PhotoDNA 和 Google 兒童性虐待圖像（CSAI）比對）、虐待語言偵測工具（根據定期更新的虐待關鍵字與表情符號進行偵測與執行），以及多模態人工智慧 / 機器學習技術。 

2024 年上半年，我們透過使用自動化工具主動偵測到違反社群規範的行為後，採取了以下處置行動：

對我們社群的任何成員，尤其是未成年人的性剝削是非法的、令人憎惡的，且為我們的社群規範所禁止。在我們的平台上預防、偵測以及消除兒童性剝削和性虐待圖像 (CSEAI) 是 Snap 的首要任務，我們不斷發展打擊這些和其他犯罪的能力。

我們使用主動技術偵測工具，例如 PhotoDNA 強大的雜湊比對與 Google 的兒童性虐待圖像 (CSAI) 比對，辨識已知的 CSEA 非法圖像與影片。 此外，在某些情況下，我們使用行為訊號來針對其他潛在的非法 CSEA 活動採取強制措施。 我們會根據法律要求向美國國家失蹤及被剝削兒童對策中心 (NCMEC) 通報違反這些政策的行為。然後，NCMEC 會根據需求與國內及國際執法機關進行合作。

2024 年上半年，我們在偵測到 Snapchat 上的 CSEA 時採取了以下行動（主動或在收到檢舉時）：

我們非常關心 Snapchatter 的心理健康與福祉，這繼續影響我們以不同方式開發 Snapchat 的決定。作為一個專為真實朋友之間交流而設計的平台，我們相信 Snapchat 可以發揮獨特的作用，讓朋友們能夠在困難時刻互相幫助。這就是為什麼我們為有需要的 Snapchatter，開發了資源與支援。 

我們的 Here For You 搜尋工具在使用者搜尋與心理健康、焦慮、抑鬱、壓力、自殺、悲傷和霸凌相關的主題時，會顯示來自當地專家合作伙伴的資源。 我們還開發了一個頁面，專門討論對性勒索與其他性風險與傷害，以努力為陷入困境的人提供支援。我們的全球安全資源列表在我們的隱私、安全和政策中心向所有 Snapchatter 公開提供。 

當我們的信任與安全團隊發現 Snapchatter 處於困境時，他們可以轉發自我傷害預防與支援資源，並在適當時通知救護人員。 我們分享的資源可在我們的全球安全資源清單中取得，這些資源會對所有 Snapchatter 公開提供。

下面我們提供了我們收到的使用者請求重新審查我們鎖定其帳戶的決定的申訴資訊：

本節為我們的信任與安全團隊在地區中為執行社群規範而採取的行動的概述，包括主動因應應用程式內違規檢舉。 我們的《社群規範》適用於 Snapchat 上的所有內容以及所有 Snapchatter，不分地點，全球通用。

個別國家 / 地區（包括所有歐盟成員國）的資訊，可透過所附的 CSV 檔案下載。

Snap 承諾確保所有廣告都完全符合我們的廣告政策。 我們相信以負責任和尊重的方式對待廣告，為所有使用者創造安全與愉快的體驗。 所有廣告都應經過我們審核及批准。此外，我們保留刪除廣告的權利，包括認真回應我們使用者回饋意見。 

下面我們提供了我們對在 Snapchat 上發布後向我們檢舉的付費廣告的審核分析見解。 請注意，可能會基於 Snap 廣告政策中列舉的各種原因而刪除 Snapchat 上的廣告，包括欺騙性內容、成人內容、暴力或令人不安的內容、仇恨言論以及侵害智慧財產權。 此外，您現在可以在本透明度報告的導覽列找到 Snapchat 的廣告圖庫。