Snap on syvästi sitoutunut Snapchat-yhteisön turvallisuuteen. Tavoitteenamme on auttaa suojelemaan käyttäjiä monenlaisilta verkkoriskeiltä ja mahdollisilta haitoilta, jotka kattavat koko digitaalisen ekosysteemin, mukaan lukien vastenmieliset rikokset, kuten lasten seksuaalinen hyväksikäyttö ja väkivalta (CSEA). Snap on taistellut tätä laitonta sisältöä ja iljettävää rikollista toimintaa vastaan jo vuosia käyttämällä sekä ennakoivia tunnistus- että reaktiivisia toimenpiteitä Snapchat-sovelluksessa. Viime vuoden aikana olemme tehneet lisämuutoksia asiaan liittyviin käytäntöihimme ja prosesseihimme auttaaksemme saattamaan tekijät oikeuden eteen. Haluamme kertoa tästä työstä lisää täällä.

Mitä on CSEA?

Lasten seksuaalinen hyväksikäyttö ja väkivalta kattavat laajan kirjon laitonta toimintaa, joka aiheuttaa seksuaalista haittaa alaikäisille, mukaan lukien: lasten seksuaalista hyväksikäyttöä ja väkivaltaa kuvaavan materiaalin (CSEAI) katselu, tuottaminen ja levittäminen, mukaan lukien uudempi uhka tekoälyn luomista valokuvista ja videoista; alaikäisten houkuttelu verkossa seksuaalisiin tarkoituksiin; ¹seksuaalinen kiristys; ²lapsikauppa; ja lasten seksuaalisen hyväksikäytön ja kidutuksen suoratoisto. ³On vaikea käsittää, että nämä vastenmieliset realiteetit ovat todella olemassa. Mutta valitettavasti tällaista hyväksikäyttöä on aina ollut – ja digitaalinen maailma tarjoaa nyt vaihtoehtoisen tavan hyväksikäytölle, laajentaen rikosten tekotapoja nopeammiksi ja kauaskantoisemmiksi.

”Teknologia on perustavanlaatuisesti muuttanut tapaa, jolla lapsista seksuaalisesti kiinnostuneet henkilöt fantasioivat heistä, lähestyvät heitä ja käyttävät heitä hyväkseen”, sanoi Ernie Allen, Lontoossa toimivanWeProtect Global Alliance.New York Timeskirjoitti: 'Lasten seksuaalisen hyväksikäytön kriisi verkossa on murtumispisteessä.' Se totesi, että ilmoitukset lisääntyvät, tekijät jakavat kuvia yhä nuoremmista uhreista ja yhä hirveämmistä rikoksista, ja lainvalvontaviranomaiset kamppailevat pysyäkseen perässä. Jos tähän haasteeseen lisätään uusia muunnelmia, kuten seksuaalinen kiristys, jonka FBI raportoi lisääntyneen 7 200 %, hyväksikäytön suoratoisto ja muut, on selvää, että tämän ongelman pitäisi olla politiikan asialistojen kärjessä maailmanlaajuisesti”, hän lisäsi.

Teknologiayritysten lailliset velvoitteet

Kun yhdysvaltalaiset teknologiayritykset tulevat tietoisiksi CSEA:sta alustoillaan tai palveluissaan, niillä on lakisääteinen velvollisuus ilmoittaa siitä National Center for Missing and Exploited Children (NCMEC) -keskukselle. NCMEC tarkistaa nämä CyberTip-ilmoitukset ja on yhteydessä sekä kotimaisiin että kansainvälisiin lainvalvontaviranomaisiin auttaakseen suojelemaan lapsiuhreja ja rankaisemaan tekijöitä.

Viime vuoteen asti NCMEC:lle tehtyjen CyberTip-ilmoitusten vuotuinen kokonaismäärä oli suurelta osin kasvanut vuosi vuodelta ja saavutti ennätykselliset 36,2 miljoonaa ilmoitusta ⁴vuonna 2023, kun se oli hieman yli 32 miljoonaa vuonna 2022 ja 4 560 vuonna 1998, jolloin NCMEC:n CyberTipline perustettiin. Tämä CyberTip-ilmoitusten ennätysmäinen kasvu – muiden tekijöiden ohella, kuten seksuaalisen kiristyksen jatkuva kasvu maailmanlaajuisesti ja lainvalvontaviranomaisilta saamamme palaute omien CyberTip-ilmoitustemme toimivuudesta – sai Snapin lähestymään NCMEC:tä ensimmäisen kerran vuonna 2024 kalibroidakseen uudelleen CyberTip-raportointiamme.

Olen seurannut CyberTip-raportointia useiden vuosien ajan ja uskon vakaasti, että joidenkin teknologiayritysten käytäntö on suuntautunut raportoimaankaikenNCMEC:lle – jopa yli lakisääteisen velvollisuutensa – pelätessään, että heitä syytetään jonkinoleellisenhuomaamatta jättämisestä. ⁵Yritykset, jotka eivät raportoi lain edellyttämällä tavalla, voivat saada tuntuvia sakkoja. Mutta tämä raportointitapa yhdistettynä monien ilmoitusten vähäiseen toimivuuteen (joko siksi, että CyberTip-ilmoituksista puuttuu riittävä konteksti lainvalvontaviranomaisten toimenpiteitä varten tai koska raportoitu toiminta ei joissakin tapauksissa ole heille prioriteetti) on johtanut CyberTip-ilmoitusten kasvuun, lukuisiin, laajoihin tarkastuksiin ja lisääntyneeseen turhautumiseen lainvalvontaviranomaisten keskuudessa.

Tavoite: Korkean arvon CyberTip-ilmoitukset

Uudelleenkalibrointimme tavoitteena NCMEC:n kanssa oli lisätä Snapin CyberTip-ilmoitusten toimivuutta ja arvoa tarkentamalla omia alustakäytäntöjämme ja protokollia, joita meillä on NCMEC:lle raportoimista varten. Tämä alkuperäinen uudelleenkalibrointi tapahtui toukokuussa 2024, ja käytäntömuutoksemme tulivat täysin voimaan viime vuoden loppupuolella.

Vaikka meidän ei pitäisi korostaa liikaa pelkkää ilmoitusten määrää erikseen, olemme Snapilla iloisia voidessamme kertoa, että käytäntöjemme tarkennusten käyttöönoton jälkeen olemme nähneet merkittävän laskun kokonaisraportointimäärässämme NCMEC:lle ja vastaavan laskun verkossa tapahtuvaa houkuttelua koskevissa eskaloinneissa – samalla kun täytämme edelleen lakisääteiset velvollisuutemme raportoida CSEA:sta CyberTip-ilmoituksissa. Alhaisemmat kokonaismäärät eivät kuitenkaan ole vielä ehtineet näkyä NCMEC:n vuosittaisissa raportointimäärissä, koska muutokset otettiin käyttöön myöhemmin vuonna 2024, jolloin vuodesta jäi vain muutama täysi kuukausi, joissa muutokset näkyisivät.

Samanaikaisesti tiimimme on työskennellyt parantaakseen CyberTip-ilmoitustemme tietoja ja merkintöjä. Tällaiset selvennykset voivat auttaa tunnistamaan paremmin väitetyt rikokset ja osalliset henkilöt ja puolestaan mahdollistaa ilmoitusten nopeamman ja tarkemman lajittelun NCMEC:n ja lainvalvontaviranomaisten toimesta. Vaikka raportointi NCMEC:lle ei olisikaan perusteltua, Snap jatkaa puuttumista kuviin ja käyttäytymiseen, jotka rikkovat alustamme käytäntöjä, ryhtymällä toimiin – jotka voivat sisältää rikkovan sisällön poistamisen, tilin poistamisen käytöstä ja uusien tilien luomisen estämisen.

Uudelleenkalibroinnin tarkistuspiste

Viime kuussa pidimme toisen uudelleenkalibroinnin NCMEC:n kanssa, jossa Snapin tiimi kertasi viime vuoden sisäiset käytäntömuutokset, päivitti NCMEC:lle edistymisestämme, vahvisti joitakin lisätoimintaohjeita ja auttoi asettamaan odotuksia tuleville kuukausille. Esittelimme myös joitakin uusia suunniteltuja käytäntö- ja raportointilisäyksiä, joiden toivomme edelleen parantavan raporttiemme arvoa sekä NCMEC:lle että lainvalvontaviranomaisille. Luonnollisesti tämä on iteratiivinen prosessi, mutta olemme rohkaistuneita viime vuoden edistyksestä.

Tulevaisuudennäkymät

Ajan myötä odotamme, että NCMEC ja lainvalvontaviranomaiset saattavat edelleen nähdä Snapilta tulevien CyberTip-ilmoitusten määrien vähenevän aiempiin vuosiin verrattuna, mutta suurempi osa niistä, joita hekuitenkinsaavat, pitäisi sisältää laadukkaampaa tietoa ja olla toimintakelpoisempia.

Olemme sitoutuneet jatkuvaan parantamiseen kaikilla turvallisuustyömme osa-alueilla. Emme teeskentele, että meillä olisi kaikki vastaukset CSEA:n tai minkä tahansa muun mahdollisen verkkohaitan torjuntaan; kenenkään ei pitäisi, koska kenelläkään ei ole. Päivästä toiseen taistelemme koko yhteiskuntaa koskevien ongelmien kanssa ja otamme käyttöön kokoyrityksenkattavan lähestymistavan – perimmäisenä kaksoistavoitteena riskien lieventäminen ja haittojen vähentäminen.

CyberTip-ilmoitustemme osalta meillä on selkeä tavoite lähitulevaisuudessa: Olipa kyseessä osavaltion Internet Crimes Against Children Task Force (ICAC) -yksikön komentaja, liittovaltion tutkija tai lainvalvontaviranomaisen jäsen toisella puolella maailmaa, haluamme, että osavaltion, liittovaltion ja kansainväliset viranomaiset voivat luottavaisin mielin tutkia Snapilta tulevia CyberTip-ilmoituksia, koska he tietävät, että raporttimme ovat johdonmukaisesti luotettavia, toimintakelpoisia, arvokkaita ja perusteellisia. Ja toivomme, että nämä ponnistelut auttavat lisäämään vastaavasti niihin liittyviä pidätyksiä ⁶ja tuomioita kaikkialla maailmassa.

Suuri ”kiitos” NCMEC:lle, WeProtectille, Yhdysvaltain 61 ICAC-erikoisyksikölle, lainvalvontaviranomaisille ympäri maailmaa sekä kaikille kollegoillemme ja yhteistyökumppaneillemme CSEA:n vastaisessa taistelussa – ja lisähuomautuksena, että olemme edelleen avoimia ja innokkaita saamaan palautettanne strategioidemme ja lähestymistapojemme parantamiseksi. Olemme kaikki tässä yhdessä.

- Jacqueline Beauchere, alustaturvallisuuden maailmanlaajuinen johtaja