Snap มุ่งมั่นอย่างยิ่งต่อความปลอดภัยของชุมชน Snapchat เป้าหมายของเราคือการช่วยปกป้องผู้ใช้จากความเสี่ยงออนไลน์และอันตรายที่อาจเกิดขึ้นซึ่งครอบคลุมระบบนิเวศดิจิทัล รวมถึงอาชญากรรมที่น่ารังเกียจที่เกี่ยวข้องกับการแสวงหาประโยชน์ทางเพศจากเด็กและการล่วงละเมิด (CSEA) Snap ได้ต่อสู้กับเนื้อหาที่ผิดกฎหมายและพฤติกรรมทางอาญาที่เลวร้ายนี้มานานหลายปี โดยใช้มาตรการทั้งการตรวจจับเชิงรุกและการตอบสนองเชิงรับทั่วทั้งแอป Snapchat ในช่วงปีที่ผ่านมา เราได้ทำการเปลี่ยนแปลงเพิ่มเติมในนโยบายและกระบวนการที่เกี่ยวข้องของเราโดยมีเจตนาที่จะช่วยนำผู้กระทำผิดเข้าสู่กระบวนการยุติธรรม เราต้องการแบ่งปันเพิ่มเติมเกี่ยวกับงานนั้นที่นี่

CSEA คืออะไร

การแสวงหาประโยชน์ทางเพศจากเด็กและการล่วงละเมิดครอบคลุมกิจกรรมที่ผิดกฎหมายหลายอย่างที่เกี่ยวข้องกับอันตรายทางเพศต่อผู้เยาว์ ซึ่งรวมถึง: การดู การผลิต และการเผยแพร่ภาพการแสวงหาประโยชน์ทางเพศจากเด็กและการล่วงละเมิด (CSEAI) รวมถึงภัยคุกคามใหม่ๆ ของภาพถ่ายและวิดีโอที่สร้างโดย AI การล่อลวงออนไลน์ หรือการชักจูงผู้เยาว์เพื่อวัตถุประสงค์ทางเพศ ¹การแบล็กเมลทางเพศ ²การค้าประเวณีเด็ก และการสตรีมสดการล่วงละเมิดทางเพศและการทรมานเด็ก ³เป็นเรื่องยากที่จะเข้าใจว่าความจริงที่น่ารังเกียจเหล่านี้มีอยู่จริง แต่น่าเศร้าที่การล่วงละเมิดดังกล่าวนั้นมีอยู่เสมอ และตอนนี้โลกดิจิทัลได้มอบวิธีการล่วงละเมิดทางเลือกใหม่ ซึ่งขยายรูปแบบการกระทำผิดให้รวดเร็วและกว้างขวางยิ่งขึ้น

“เทคโนโลยีได้เปลี่ยนแปลงวิธีการที่ผู้ที่มีความสนใจทางเพศในเด็กจินตนาการถึงพวกเขา เข้าถึงพวกเขา และล่าเหยื่อพวกเขาโดยพื้นฐาน” Ernie Allen ประธานขององค์กรในลอนดอนกล่าวWeProtect Global Alliance. “New York Timesเขียนว่า 'วิกฤตการณ์การแสวงหาประโยชน์ทางเพศจากเด็กทางออนไลน์กำลังถึงจุดแตกหัก' โดยระบุว่ารายงานต่างๆ กำลังเพิ่มสูงขึ้น ผู้กระทำผิดกำลังแบ่งปันภาพของเหยื่อที่อายุน้อยลงและอาชญากรรมที่เลวร้ายยิ่งขึ้น และหน่วยงานบังคับใช้กฎหมายกำลังพยายามอย่างหนักเพื่อตามให้ทัน หากคุณเพิ่มรูปแบบใหม่ๆ ให้กับความท้าทายนั้น เช่น การแบล็กเมลทางเพศ ซึ่ง FBI รายงานว่าเพิ่มขึ้น 7,200% การสตรีมสดการล่วงละเมิด และอื่นๆ เป็นที่ชัดเจนว่าปัญหานี้ควรอยู่ในอันดับต้นๆ ของวาระนโยบายทั่วโลก” เขากล่าวเสริม

ภาระผูกพันทางกฎหมายของบริษัทเทคโนโลยี

เมื่อบริษัทเทคโนโลยีในสหรัฐฯ ตระหนักถึง CSEA บนแพลตฟอร์มหรือบริการของตน พวกเขามีหน้าที่ตามกฎหมายที่จะต้องรายงานไปยังศูนย์แห่งชาติเพื่อเด็กหายและถูกแสวงหาประโยชน์ (NCMEC) จากนั้น NCMEC จะตรวจสอบ CyberTips เหล่านี้และประสานงานกับหน่วยงานบังคับใช้กฎหมายทั้งในและต่างประเทศเพื่อช่วยปกป้องเหยื่อที่เป็นเด็กและลงโทษผู้กระทำผิด

จนถึงปีที่แล้ว ยอดรวมรายปีของ CyberTips ที่ส่งไปยัง NCMEC ส่วนใหญ่เพิ่มขึ้นทุกปี โดยสูงสุดเป็นประวัติการณ์ที่ 36.2 ล้านรายงาน ⁴ในปี 2023 เพิ่มขึ้นจากกว่า 32 ล้านในปี 2022 และ 4,560 ในปี 1998 เมื่อมีการสร้าง CyberTipline ของ NCMEC การเพิ่มขึ้นเป็นประวัติการณ์ของ CyberTips นี้ นอกเหนือจากปัจจัยอื่นๆ รวมถึงการเพิ่มขึ้นอย่างต่อเนื่องของการแบล็กเมลทางเพศทั่วโลกและข้อเสนอแนะที่เราได้รับจากหน่วยงานบังคับใช้กฎหมายเกี่ยวกับความสามารถในการดำเนินการของ CyberTips ของเราเอง เป็นสิ่งที่กระตุ้นให้ Snap เข้าหา NCMEC เป็นครั้งแรกในปี 2024 เพื่อปรับการรายงาน CyberTip ของเราใหม่

ฉันได้ติดตามการรายงาน CyberTip มาหลายปี และฉันเชื่อมั่นว่าแนวทางปฏิบัติของบริษัทเทคโนโลยีบางแห่งมีแนวโน้มที่จะรายงานทุกอย่างไปยัง NCMEC แม้จะเกินกว่าภาระผูกพันทางกฎหมายของตนก็ตาม เพราะกลัวว่าจะถูกกล่าวหาว่าพลาดบางสิ่ง. ⁵บริษัทที่ไม่รายงานตามที่กฎหมายกำหนดอาจต้องเผชิญกับค่าปรับที่สูง แต่แนวทางการรายงานนี้ ควบคู่ไปกับความสามารถในการดำเนินการที่ต่ำของรายงานจำนวนมาก (ไม่ว่าจะเนื่องจาก CyberTips ขาดบริบทที่เพียงพอสำหรับหน่วยงานบังคับใช้กฎหมายในการดำเนินการ หรือเนื่องจากพฤติกรรมที่รายงานในบางกรณีไม่ใช่เรื่องสำคัญสำหรับพวกเขา) ได้ส่งผลให้มี CyberTips เพิ่มขึ้น การตรวจสอบที่กว้างขวางหลายครั้ง และความคับข้องใจที่เพิ่มขึ้นในหมู่หน่วยงานบังคับใช้กฎหมาย

เป้าหมาย: CyberTips ที่มีมูลค่าสูง

เป้าหมายของการปรับเทียบใหม่ของเรากับ NCMEC คือการเพิ่มความสามารถในการดำเนินการและมูลค่าของ CyberTips ของ Snap ให้มากขึ้น โดยการปรับปรุงนโยบายแพลตฟอร์มของเราเองและโปรโตคอลที่เรามีอยู่สำหรับการรายงานไปยัง NCMEC การปรับเทียบใหม่ครั้งแรกนั้นเกิดขึ้นในเดือนพฤษภาคมปี 2024 และการเปลี่ยนแปลงนโยบายของเรามีผลบังคับใช้อย่างสมบูรณ์ในช่วงครึ่งหลังของปีที่แล้ว

ในขณะที่เราควรหลีกเลี่ยงการให้ความสำคัญกับจำนวนรายงานเพียงอย่างเดียวมากเกินไป นับตั้งแต่การปรับปรุงนโยบายของเรา Snap ยินดีที่จะแบ่งปันว่าเราได้เห็นปริมาณการรายงานโดยรวมของเราไปยัง NCMEC ลดลงอย่างมีนัยสำคัญ และการส่งเรื่องร้องเรียนสำหรับการล่อลวงออนไลน์ก็ลดลงในทำนองเดียวกัน ทั้งหมดนี้ในขณะที่ยังคงปฏิบัติตามภาระผูกพันทางกฎหมายของเราในการรายงาน CSEA ใน CyberTips อย่างไรก็ตาม ยอดรวมที่ลดลงยังไม่ได้ส่งผลต่อปริมาณการรายงานประจำปีของ NCMEC เนื่องจากมีการเปลี่ยนแปลงในช่วงปลายปี 2024 ทำให้เหลือเวลาเพียงไม่กี่เดือนเต็มของปีที่จะสะท้อนถึงการแก้ไขดังกล่าว

ในขณะเดียวกัน ทีมงานของเราได้ทำงานเพื่อปรับปรุงข้อมูลและการติดป้ายกำกับใน CyberTips ของเรา การชี้แจงดังกล่าวสามารถช่วยระบุอาชญากรรมที่ถูกกล่าวหาและบุคคลที่เกี่ยวข้องได้ดีขึ้น และในทางกลับกัน จะช่วยให้ NCMEC และหน่วยงานบังคับใช้กฎหมายสามารถคัดแยกรายงานได้อย่างรวดเร็วและแม่นยำยิ่งขึ้น แม้ว่าการรายงานไปยัง NCMEC อาจไม่จำเป็น Snap จะยังคงจัดการกับภาพและพฤติกรรมที่ขัดต่อนโยบายแพลตฟอร์มของเราโดยการดำเนินการ ซึ่งอาจรวมถึงการลบเนื้อหาที่ละเมิด การปิดใช้งานบัญชี และการพยายามบล็อกการสร้างบัญชีใหม่

จุดตรวจสอบการปรับเทียบใหม่

เมื่อเดือนที่แล้ว เราได้จัดการปรับเทียบใหม่ครั้งที่สองกับ NCMEC ซึ่งทีม Snap ได้สรุปการเปลี่ยนแปลงนโยบายภายในของปีที่แล้ว อัปเดตความคืบหน้าของเราให้ NCMEC ทราบ ยืนยันแนวทางการดำเนินงานเพิ่มเติมบางส่วน และช่วยกำหนดความคาดหวังสำหรับเดือนต่อๆ ไป เรายังได้แสดงตัวอย่างการเพิ่มเติมที่วางแผนไว้อีกบางส่วนเกี่ยวกับนโยบายและการรายงาน ซึ่งเราหวังว่าจะช่วยเพิ่มมูลค่ารายงานของเราต่อทั้ง NCMEC และหน่วยงานบังคับใช้กฎหมายต่อไป โดยธรรมชาติแล้ว นี่เป็นกระบวนการที่ทำซ้ำ แต่เราก็รู้สึกมีกำลังใจจากความคืบหน้าในช่วงปีที่ผ่านมา

มองไปข้างหน้า

เมื่อเวลาผ่านไป เราคาดว่า NCMEC และหน่วยงานบังคับใช้กฎหมายอาจยังคงเห็นปริมาณ CyberTips จาก Snap ลดลงเมื่อเทียบกับปีก่อนๆ แต่เปอร์เซ็นต์ที่มากขึ้นของรายงานที่พวกเขาได้รับควรมีข้อมูลที่มีคุณภาพสูงขึ้นและสามารถดำเนินการได้มากขึ้น

เรามุ่งมั่นที่จะปรับปรุงอย่างต่อเนื่องในทุกด้านของงานด้านความปลอดภัยของเรา เราไม่ได้เสแสร้งว่ามีคำตอบทั้งหมดเกี่ยวกับการต่อสู้กับ CSEA หรืออันตรายออนไลน์อื่นๆ ที่อาจเกิดขึ้น ไม่มีใครควรทำเช่นนั้นเพราะไม่มีใครทำได้ ในแต่ละวัน เรากำลังต่อสู้กับปัญหาของทั้งสังคม และเรานำแนวทางของทั้งบริษัทมาใช้ โดยมีวัตถุประสงค์สูงสุดสองประการคือการลดความเสี่ยงและลดอันตราย

เกี่ยวกับ CyberTips ของเรา เรามีเป้าหมายที่ชัดเจนสำหรับอนาคตอันใกล้นี้: ไม่ว่าจะเป็นผู้บัญชาการหน่วยเฉพาะกิจอาชญากรรมทางอินเทอร์เน็ตต่อเด็ก (ICAC) ของรัฐ ผู้สืบสวนของรัฐบาลกลาง หรือเจ้าหน้าที่บังคับใช้กฎหมายจากอีกซีกโลกหนึ่ง เราต้องการให้หน่วยงานระดับรัฐ รัฐบาลกลาง และระหว่างประเทศดำเนินการตาม CyberTips จาก Snap อย่างมั่นใจ เพราะพวกเขารู้ว่ารายงานของเราสามารถเชื่อถือได้อย่างสม่ำเสมอว่าสามารถดำเนินการได้ มีคุณค่า และละเอียดถี่ถ้วน และเราหวังว่าความพยายามเหล่านั้นจะช่วยกระตุ้นให้มีการจับกุมที่เกี่ยวข้องเพิ่มขึ้น ⁶และการตัดสินลงโทษทั่วโลก

ขอ “ขอบคุณ” อย่างยิ่งต่อ NCMEC, WeProtect, หน่วยเฉพาะกิจ ICAC ทั้ง 61 แห่งในสหรัฐอเมริกา หน่วยงานบังคับใช้กฎหมายทั่วโลก และเพื่อนร่วมงานและผู้ร่วมมือของเราทุกคนในแวดวงการต่อสู้กับ CSEA และขอเสริมอีกว่าเรายังคงเปิดรับและต้องการความคิดเห็นของคุณเพื่อปรับปรุงกลยุทธ์และแนวทางของเราต่อไป เราทุกคนร่วมมือกันในเรื่องนี้

- Jacqueline Beauchere หัวหน้าฝ่ายความปลอดภัยแพลตฟอร์มระดับโลก