Η Snap είναι βαθιά αφοσιωμένη στην ασφάλεια της κοινότητας του Snapchat. Στόχος μας είναι να βοηθήσουμε στην προστασία των χρηστών από μια σειρά διαδικτυακών κινδύνων και πιθανών βλαβών που καλύπτουν το ψηφιακό οικοσύστημα, συμπεριλαμβανομένων των αποτρόπαιων εγκλημάτων που αφορούν τη σεξουαλική εκμετάλλευση και κακοποίηση παιδιών (CSEA). Η Snap καταπολεμά αυτό το παράνομο περιεχόμενο και την ποταπή εγκληματική συμπεριφορά εδώ και χρόνια, χρησιμοποιώντας μέτρα τόσο προληπτικού εντοπισμού όσο και αντίδρασης σε όλη την εφαρμογή Snapchat. Κατά τη διάρκεια του περασμένου έτους, έχουμε κάνει πρόσθετες αλλαγές στις σχετικές πολιτικές και διαδικασίες μας με σκοπό να βοηθήσουμε να οδηγηθούν οι δράστες στη δικαιοσύνη. Θα θέλαμε να μοιραστούμε περισσότερα για αυτό το έργο εδώ.

Τι είναι η CSEA;

Η σεξουαλική εκμετάλλευση και κακοποίηση παιδιών καλύπτει ένα φάσμα παράνομων δραστηριοτήτων που περιλαμβάνουν σεξουαλική βλάβη σε ανηλίκους, όπως: η προβολή, παραγωγή και διανομή εικόνων σεξουαλικής εκμετάλλευσης και κακοποίησης παιδιών (CSEAI), συμπεριλαμβανομένης της νεότερης απειλής των φωτογραφιών και βίντεο που δημιουργούνται από τεχνητή νοημοσύνη, η διαδικτυακή αποπλάνηση ή προσέλκυση ανηλίκων για σεξουαλικούς σκοπούς, ¹σεξουαλικός εκβιασμός, ²σεξουαλική εμπορία παιδιών· και η ζωντανή μετάδοση παιδιών που υφίστανται σεξουαλική κακοποίηση και βασανιστήρια. ³Είναι δύσκολο να κατανοήσει κανείς ότι αυτές οι αποκρουστικές πραγματικότητες υπάρχουν. Αλλά, δυστυχώς, τέτοιου είδους κακοποίηση υπήρχε πάντα – και ο ψηφιακός κόσμος παρέχει τώρα ένα εναλλακτικό μέσο κακοποίησης, επεκτείνοντας τους τρόπους διάπραξης των αδικημάτων ώστε να είναι ταχύτεροι και να έχουν μεγαλύτερη εμβέλεια.

«Η τεχνολογία έχει αλλάξει ριζικά τον τρόπο με τον οποίο όσοι έχουν σεξουαλικό ενδιαφέρον για τα παιδιά τα φαντασιώνονται, τα προσεγγίζουν και τα θηρεύουν», δήλωσε ο Ernie Allen, Πρόεδρος τηςWeProtect Global Allianceμε έδρα το Λονδίνο. «ΟιNew York Timesέγραψαν: «Η κρίση της διαδικτυακής σεξουαλικής εκμετάλλευσης παιδιών βρίσκεται σε οριακό σημείο». Σημείωσαν ότι οι αναφορές κλιμακώνονται, οι δράστες μοιράζονται εικόνες νεότερων θυμάτων και πιο ειδεχθών εγκλημάτων, και οι αρχές επιβολής του νόμου αγωνίζονται να ανταποκριθούν. Αν προσθέσετε νέες παραλλαγές σε αυτή την πρόκληση, όπως ο σεξουαλικός εκβιασμός, ο οποίος σύμφωνα με το FBI έχει αυξηθεί κατά 7.200%, η ζωντανή μετάδοση κακοποίησης και άλλα, είναι σαφές ότι αυτό το πρόβλημα θα πρέπει να βρίσκεται στην κορυφή των πολιτικών ατζεντών παγκοσμίως», πρόσθεσε.

Νομικές υποχρεώσεις των εταιρειών τεχνολογίας

Όταν οι εταιρείες τεχνολογίας των ΗΠΑ αντιλαμβάνονται την ύπαρξη CSEA στις πλατφόρμες ή τις υπηρεσίες τους, έχουν νομική υποχρέωση να το αναφέρουν στο Εθνικό Κέντρο για τα Εξαφανισμένα και Κακοποιημένα Παιδιά (NCMEC). Στη συνέχεια, το NCMEC εξετάζει αυτές τις ηλεκτρονικές καταγγελίες (CyberTips) και συνεργάζεται με τις εγχώριες και διεθνείς αρχές επιβολής του νόμου για να βοηθήσει στην προστασία των παιδιών-θυμάτων και στην τιμωρία των δραστών.

Μέχρι πέρυσι, το ετήσιο σύνολο των ηλεκτρονικών καταγγελιών (CyberTips) προς το NCMEC αυξανόταν σε μεγάλο βαθμό από έτος σε έτος, φτάνοντας στο ρεκόρ των 36,2 εκατομμυρίων αναφορών ⁴το 2023, από λίγο πάνω από 32 εκατομμύρια το 2022 και 4.560 το 1998, όταν δημιουργήθηκε η Γραμμή Ηλεκτρονικών Καταγγελιών (CyberTipline) του NCMEC. Αυτή η αύξηση-ρεκόρ στις ηλεκτρονικές καταγγελίες (CyberTips) — εκτός από άλλους παράγοντες, συμπεριλαμβανομένης της συνεχιζόμενης αύξησης του σεξουαλικού εκβιασμού παγκοσμίως και των σχολίων που λάβαμε από τις αρχές επιβολής του νόμου σχετικά με τη δυνατότητα αξιοποίησης των δικών μας ηλεκτρονικών καταγγελιών (CyberTips) — ώθησε τη Snap να προσεγγίσει για πρώτη φορά το NCMEC το 2024 για να επαναπροσδιορίσει τις αναφορές μας μέσω ηλεκτρονικών καταγγελιών (CyberTip).

Παρακολουθώ τις αναφορές μέσω ηλεκτρονικών καταγγελιών (CyberTip) εδώ και αρκετά χρόνια και πιστεύω ακράδαντα ότι η πρακτική ορισμένων εταιρειών τεχνολογίας έχει την τάση να αναφέρειτα πάνταστο NCMEC — ακόμη και πέρα από τη νομική τους υποχρέωση — από φόβο μήπως κατηγορηθούν ότι παρέλειψανκάτι. ⁵Οι εταιρείες που δεν υποβάλλουν αναφορές όπως απαιτείται από τον νόμο ενδέχεται να αντιμετωπίσουν αυστηρά πρόστιμα. Αλλά αυτή η προσέγγιση στην υποβολή αναφορών, σε συνδυασμό με τη χαμηλή δυνατότητα αξιοποίησης πολλών αναφορών (είτε επειδή οι ηλεκτρονικές καταγγελίες (CyberTips) δεν έχουν επαρκές πλαίσιο για να αναλάβουν δράση οι αρχές επιβολής του νόμου είτε επειδή η αναφερόμενη συμπεριφορά, σε ορισμένες περιπτώσεις, δεν αποτελεί προτεραιότητα για αυτές), έχει ως αποτέλεσμα τη συσσώρευση ηλεκτρονικών καταγγελιών (CyberTips), πολλαπλές, εκτενείς αναθεωρήσεις και αυξημένη απογοήτευση μεταξύ των αρχών επιβολής του νόμου.

Στόχος: Ηλεκτρονικές καταγγελίες (CyberTips) υψηλής αξίας

Ο στόχος του επαναπροσδιορισμού μας με το NCMEC ήταν να αυξήσουμε περαιτέρω τη δυνατότητα αξιοποίησης και την αξία των ηλεκτρονικών καταγγελιών (CyberTips) της Snap, βελτιώνοντας τις δικές μας πολιτικές πλατφόρμας και τα πρωτόκολλα που έχουμε για την υποβολή αναφορών στο NCMEC. Αυτός ο αρχικός επαναπροσδιορισμός πραγματοποιήθηκε τον Μάιο του 2024 και οι αλλαγές στην πολιτική μας τέθηκαν σε πλήρη ισχύ το δεύτερο εξάμηνο του περασμένου έτους.

Ενώ θα πρέπει να αποφύγουμε να δίνουμε υπερβολική έμφαση στον καθαρό αριθμό των αναφορών μεμονωμένα, από την εφαρμογή των βελτιώσεων της πολιτικής μας, η Snap είναι στην ευχάριστη θέση να μοιραστεί ότι έχουμε δει μια σημαντική πτώση στον συνολικό όγκο των αναφορών μας προς το NCMEC και μια παρόμοια μείωση στις κλιμακώσεις για διαδικτυακή προσέλκυση – όλα αυτά ενώ εξακολουθούμε να εκπληρώνουμε τις νομικές μας υποχρεώσεις να αναφέρουμε CSEA στις ηλεκτρονικές καταγγελίες (CyberTips). Τα χαμηλότερα σύνολα δεν έχουν ακόμη αποτυπωθεί στους ετήσιους όγκους αναφορών του NCMEC, ωστόσο, επειδή οι αλλαγές εφαρμόστηκαν αργότερα το 2024, αφήνοντας μόνο λίγους ολόκληρους μήνες του έτους για να αντικατοπτρίζουν τις τροποποιήσεις.

Παράλληλα, η ομάδα μας εργάζεται για τη βελτίωση των δεδομένων και της επισήμανσης στις ηλεκτρονικές καταγγελίες (CyberTips) μας. Τέτοιες διευκρινίσεις μπορούν να βοηθήσουν στον καλύτερο εντοπισμό των εικαζόμενων εγκλημάτων και των εμπλεκόμενων ατόμων και, με τη σειρά τους, να επιτρέψουν την ταχύτερη και ακριβέστερη διαλογή των αναφορών από το NCMEC και τις αρχές επιβολής του νόμου. Ακόμη και όταν η αναφορά στο NCMEC μπορεί να μην είναι απαραίτητη, η Snap θα συνεχίσει να αντιμετωπίζει εικόνες και συμπεριφορές που παραβιάζουν τις πολιτικές της πλατφόρμας μας, λαμβάνοντας μέτρα – τα οποία μπορεί να περιλαμβάνουν την αφαίρεση του περιεχομένου που παραβιάζει τους κανόνες, την απενεργοποίηση του λογαριασμού και την προσπάθεια αποκλεισμού της δημιουργίας νέων λογαριασμών.

Σημείο ελέγχου επαναπροσδιορισμού

Τον περασμένο μήνα, πραγματοποιήσαμε έναν δεύτερο επαναπροσδιορισμό με το NCMEC, όπου η ομάδα της Snap συνόψισε τις περσινές αλλαγές στην εσωτερική πολιτική, ενημέρωσε το NCMEC για την πρόοδό μας, επιβεβαίωσε ορισμένες πρόσθετες λειτουργικές οδηγίες και βοήθησε στον καθορισμό των προσδοκιών για τους επόμενους μήνες. Παρουσιάσαμε επίσης ορισμένες περαιτέρω προγραμματισμένες προσθήκες πολιτικής και αναφορών που ελπίζουμε ότι θα συνεχίσουν να ενισχύουν την αξία των αναφορών μας τόσο στο NCMEC όσο και στις αρχές επιβολής του νόμου. Φυσικά, πρόκειται για μια επαναληπτική διαδικασία, αλλά είμαστε ενθαρρυμένοι από την πρόοδο που έχει σημειωθεί τον τελευταίο χρόνο.

Μελλοντικές προοπτικές

Με την πάροδο του χρόνου, αναμένουμε ότι το NCMEC και οι αρχές επιβολής του νόμου ενδέχεται να συνεχίσουν να βλέπουν μειωμένους όγκους ηλεκτρονικών καταγγελιών (CyberTips) από τη Snap σε σύγκριση με τα προηγούμενα έτη, αλλά ένα μεγαλύτερο ποσοστό από αυτές πουdoλαμβάνουν θα πρέπει να περιέχει πληροφορίες υψηλότερης ποιότητας και να είναι πιο αξιοποιήσιμο.

Δεσμευόμαστε για συνεχή βελτίωση σε όλες τις πτυχές του έργου μας για την ασφάλεια. Δεν ισχυριζόμαστε ότι έχουμε όλες τις απαντήσεις όσον αφορά την καταπολέμηση της CSEA ή οποιασδήποτε άλλης πιθανής διαδικτυακής βλάβης. Κανείς δεν πρέπει να το κάνει, γιατί κανείς δεν τις έχει. Μέρα με τη μέρα, αντιμετωπίζουμε ζητήματα που αφορούν ολόκληρη την κοινωνία και εφαρμόζουμε μια προσέγγιση που αφορά ολόκληρη τηνεταιρεία– με τον απώτερο διπλό στόχο του μετριασμού του κινδύνου και της μείωσης της βλάβης.

Όσον αφορά τις ηλεκτρονικές καταγγελίες (CyberTips) μας, έχουμε έναν ξεχωριστό στόχο για το όχι και τόσο μακρινό μέλλον: Είτε πρόκειται για διοικητή της κρατικής ειδικής ομάδας για τα εγκλήματα κατά των παιδιών στο διαδίκτυο (ICAC), είτε για ομοσπονδιακό ερευνητή, είτε για μέλος των αρχών επιβολής του νόμου στην άλλη άκρη του κόσμου, θέλουμε οι κρατικές, ομοσπονδιακές και διεθνείς αρχές να διερευνούν με σιγουριά τις ηλεκτρονικές καταγγελίες (CyberTips) από τη Snap, επειδή γνωρίζουν ότι οι αναφορές μας είναι σταθερά αξιόπιστες, αξιοποιήσιμες, πολύτιμες και εμπεριστατωμένες. Και, η ελπίδα μας είναι ότι αυτές οι προσπάθειες θα βοηθήσουν στην αντίστοιχη αύξηση των σχετικών συλλήψεων ⁶και καταδικαστικών αποφάσεων σε όλο τον κόσμο.

Ένα τεράστιο «ευχαριστώ» στο NCMEC, το WeProtect, τις 61 ειδικές ομάδες ICAC στις ΗΠΑ, τις αρχές επιβολής του νόμου σε όλο τον κόσμο και όλους τους συναδέλφους και συνεργάτες μας σε όλο το τοπίο της καταπολέμησης της CSEA – και μια επιπλέον σημείωση ότι παραμένουμε ανοιχτοί και πρόθυμοι να λάβουμε τα σχόλιά σας για να βελτιώσουμε περαιτέρω τις στρατηγικές και τις προσεγγίσεις μας. Είμαστε όλοι μαζί σε αυτό.

- Jacqueline Beauchere, Παγκόσμια Επικεφαλής Ασφάλειας Πλατφόρμας