Jokainen ansaitsee tuntea olonsa turvalliseksi verkossa ja hallita omia kuviaan. Snapchatissa kiellämme nimenomaisesti seksuaalisesti avoimen sisällön, mukaan lukien ilman suostumusta jaetun intiimin kuvamateriaalin (NCII), jakamisen, mainostamisen tai levittämisen. Lainsäätäjien avulla voimme kuitenkin kodifioida ja vahvistaa alan standardeja ja tarjota vahvempia suojakeinoja tämän tyyppistä haittaa vastaan. Siksi tuemme ylpeänä H.R. 633-lakia, joka tunnetaan myös nimellä TAKE IT DOWN (Tools to Address Known Exploitation by Immobilizing Technological Deepfakes On Websites and Networks) Act.

TAKE IT DOWN -laki tekee NCII-kuvamateriaalin ja vastaavien kuvien julkaisemisesta liittovaltion tason rikoksen. Se myös edellyttää, että verkkosivustot ja alustat, kuten Snapchat, poistavat tällaisen kuvamateriaalin 48 tunnin kuluessa uhrin pyynnöstä ja ryhtyvät kohtuullisiin toimiin kuvan tai kuvien kopioiden tunnistamiseksi ja poistamiseksi. Tämä laki on kriittinen askel paitsi ihmisten suojelemiseksi siltä, että heidän yksityisiä kuviaan jaetaan ilman lupaa, myös tekoälyn luomien intiimikuvien levityksen rajoittamisessa, jotka voivat olla aivan yhtä haitallisia.

Meille Snapilla yhteisömme – erityisesti nuorempien käyttäjiemme – suojeleminen on tärkein prioriteettimme. TAKE IT DOWN -laki on linjassa jatkuvien pyrkimystemme kanssa ja täydentää niitä. Pyrimme estämään pahantahtoisia toimijoita levittämästä verkossa ilman suostumusta jaettua intiimiä kuvamateriaalia (NCII) sekä lasten seksuaaliseen hyväksikäyttöön ja riistoon liittyvää kuvamateriaalia (CSEAI). Työhömme kuuluu:

• Nopea reagointi ilmoituksiin

Ympäri vuorokauden päivystävät turvallisuustiimimme vastaavat nopeasti häirintää tai seksuaalista sisältöä koskeviin ilmoituksiin ja pyrkivät varmistamaan nopeat toimet, kun Snapchattaajat tarvitsevat apua. Teemme ilmoittamisesta helppoa sovelluksen sisällä, jolloin Snapchattaajat voivat ilmoittaa yksittäisistä viesteistä, tarinoista tai tileistä suoraan keskusteluista. Meillä on myös erityisiä luokkia, joissa ihmiset voivat ilmoittaa NCII- ja CSEAI-sisällöstä, jotta turvallisuustiimimme voivat priorisoida nämä ilmoitukset ja toimia nopeasti.

• Uhrien tukeminen alan laajuisten kumppanuuksien kautta

Osallistumme aktiivisesti National Center for Missing and Exploited Children’s (NCMEC) Take It Down -ohjelmaan, jonka avulla alaikäiset voivat luoda digitaalisia "sormenjälkiä" intiimeistä kuvista jakamatta varsinaisia kuvia. Käytämme näitä sormenjälkiä vastaavan sisällön havaitsemiseen Snapchatissa ja poistamme kaiken, mikä rikkoo käytäntöjämme. Osallistumme myös vastaaviin ohjelmiin, kuten Report Remove -ohjelmaan Isossa-Britanniassa, joka on myös tarkoitettu alaikäisten kuville, ja StopNCII-ohjelmaan yli 18-vuotiaille – kaikki auttavat estämään intiimikuvien leviämistä alustallamme.

• Edistynyt teknologia haitallisen sisällön havaitsemiseksi ja poistamiseksi

Käytämme erikoistunutta teknologiaa, kuten PhotoDNA:ta, tunnettujen laittomien kuvien havaitsemiseen ja Googlen CSAI Match -työkalua tunnettujen laittomien videoiden havaitsemiseen. Käytämme myös Googlen Content Safety API -rajapintaa auttamaan meitä tunnistamaan laitonta kuvamateriaalia, jota ei ole aiemmin ilmoitettu tai hajautettu.

• Teinien suojeleminen tuntemattomilta ja epäilyttäviltä tileiltä

Vastataksemme viime aikoina yleistyneisiin seksuaalisella sisällöllä kiristämiseen liittyviin huijauksiin olemme ottaneet käyttöön suojauksia nuoremmille käyttäjille, jotka auttavat estämään tuntemattomia löytämästä heidän profiilejaan ja ottamasta heihin yhteyttä. Varoitamme teinejä epäilyttävistä kaveripyynnöistä ja estämme kaveripyynnön toimittamisen kokonaan, jos se tulee tililtä, jolla ei ole yhteisiä ystäviä teinin kanssa, tai jos tilillä on aiemmin käytetty Snapchatia huijaustoimintaan yhdistetyissä paikoissa. Ryhdymme myös toimiin estääksemme rikoksentekijöitä luomasta uusia tilejä samalla laitteella tai käyttämällä samaa sähköpostiosoitetta tai puhelinnumeroa.

• Yhteistyö lainvalvontaviranomaisten kanssa

Lainvalvontaoperaatioiden tiimimme on kasvanut huomattavasti, mikä mahdollistaa paremman yhteistyön viranomaisten kanssa Snapchattaajien turvallisuuden takaamiseksi. Järjestämme vuosittain lainvalvontaviranomaisten huippukokouksen Yhdysvalloissa ja teemme yhteistyötä kansainvälisten lainvalvontaviranomaisten kanssa, myös Länsi-Afrikassa, josta monet seksuaalisella sisällöllä kiristämistapaukset ovat peräisin. Hätätilanteissa vastaamme tyypillisesti lainvalvontaviranomaisten tietojenluovutuspyyntöihin 30 minuutin kuluessa. Lisäksi, kun saamme tietoomme lasten seksuaalista hyväksikäyttöä – joko kun siitä ilmoitetaan meille ja/tai tunnistamme sen ennakoivasti – ilmoitamme siitä NCMEC:lle, joka puolestaan koordinoi tarvittaessa kotimaisten ja kansainvälisten lainvalvontaviranomaisten kanssa.

• Koulutus ja tietoisuuden lisääminen 

Auttaaksemme yhteisömme suoraa kouluttamista olemme julkaisseet sovelluksen sisäisiä lyhytvideoita seksuaalisista riskeistä ja mahdollisista haitoista”Safety Snapshot”-kanavallamme Tutustu-osiossa. Aiheita ovat muun muassa seksuaalisella sisällöllä kiristäminen sekä alastonkuvien ottamisen ja jakamisen seuraukset. Lisäksi olemme kehittäneet resursseja vanhemmille ja kasvattajille auttaaksemme heitä ymmärtämään, miten teinit käyttävät Snapchatia ja mitä suojakeinoja heidän turvallisuutensa takaamiseksi on olemassa. Meidän Snapindigitaalisen hyvinvoinnin neuvostokokoaa yhteen teinejä edistämään turvallisempia verkkokäyttäytymistapoja kouluissaan ja yhteisöissään. Teemme myös yhteistyötä asiantuntijoiden kanssa tukeaksemme aloitteita, kutenKnow2Protect, joka on Yhdysvaltain sisäisen turvallisuuden ministeriön käynnistämä kansallinen tiedotuskampanja, jonka tavoitteena on ehkäistä ja torjua rikoksia, kuten seksuaalisella sisällöllä kiristämistä.

Jatkuva sitoutumisemme

Vaikka olemme tyytyväisiä edistymiseemme, tiedämme, että työmme ei ehkä koskaan lopu. Me Snapilla jatkamme tietoisuuden lisäämistä mahdollisista verkon haitoista, kehitämme uusia teknologioita sääntöjä rikkovan sisällön havaitsemiseksi ja teemme yhteistyötä alan kumppaneiden, valtion virastojen, lainvalvontaviranomaisten, kansalaisyhteiskunnan, vanhempien ja nuorten itsensä kanssa.

Tukemalla TAKE IT DOWN -lakia ja jatkamalla turvallisuustoimiamme pyrimme kohti tulevaisuutta, jossa kaikki voivat nauttia yhteydenpidosta ystävien ja perheen kanssa verkossa ilman hyväksikäytön tai riiston pelkoa.

Välitämme syvästi jokaisen Snapchattaajan turvallisuudesta ja olemme sitoutuneet tekemään alustastamme vihamielisen ympäristön pahantahtoisille toimijoille ja terveellisen tilan aidolle yhteydenpidolle.