Snap kehittää jatkuvasti turvallisuusmekanismeja ja alustan käytäntöjä vähentääksemme huonojen toimijoiden mahdollisuutta alustamme väärinkäyttöön. Käytämme edistynyttä teknologiaa tunnistaaksemme ja estääksemme toiminnan, joka rikkoo sääntöjämme. Käytämme muotoilun periaatteita luodaksemme kitkaa kaveriksilisäämisprosessiin, tuemme lainvalvontaviranomaisia, teemme yhteistyötä viranomaisten kanssa ja pyrimme lisäämään tietoisuutta ja tarjoamaan koulutusta haitoista, jotka vaikuttavat teineihin, sekä kaikkiin yhteisömme jäseniin.

Otamme vastuumme teinien suojelemisesta erittäin vakavasti. Työmme on merkittävää, ja se sisältää seuraavat:

I. Teemme Snapchatista vihamielisen ympäristön huonoille toimijoille

Aiemmin tänä vuonna ilmoitimme uusista ominaisuuksista, jotka auttavat suojelemaan yhteisöämme, erityisesti teinejä, tehokkaammin ja vahvistamalla tosimaailman suhteita, jotka tekevät Snapchatista ainutlaatuisen. Näihin päivityksiin kuuluu: laajennetut sovelluksen sisäiset varoitukset epäilyttävistä kontakteista, tehostetut ystäväksi lisäämisen suojaukset, jotka on rakennettu erityisesti teinit mielessä pitäen, ja parannettu mahdollisuus estää ei-toivottu kontakti.

Nämä muutokset keskittyvät erityisesti netissä tapahtuvan seksuaalisella sisällöllä kiristämisen torjuntaan ja perustuvat jatkuviin investointeihimme lasten seksuaalisen hyväksikäytön sekä muun lapsiin kohdistuvan hyväksikäytön torjumiseksi. Esimerkiksi:

Käytämme signaaleja seksuaalisella sisällöllä kiristämiseen liittyvän toiminnan tunnistamiseksi, jotta voimme aktiivisesti poistaa huonot toimijat ennen kuin heillä on mahdollisuus löytää uhreja ja altistaa käyttäjiä rikolliselle toiminnalle. Lisäksi hyödynnetään ja otetaan käyttöön teknologiaa, joka on suunniteltu estämään tunnetun lasten seksuaalisen hyväksikäytön ja seksuaalisen riiston kuvamateriaalin (CSEAI) leviäminen Snapchatissa, mukaan lukien PhotoDNA (tunnettujen laittomien kuvien kaksoiskappaleiden havaitsemiseksi), CSAI Match (tunnettujen laittomien videoiden kaksoiskappaleiden havaitsemiseksi) ja Content Safety API (uudenlaisen, ”ei koskaan ennen salatun” kuvamateriaalin havaitsemiseksi).

Vaikka olemme jo pitkään tarjonneet mahdollisuuden yksinkertaiseen sovelluksen sisäiseen sääntöjämme rikkovien sisältöjen ja tilien raportointiin, teimme vuonna 2023 parannuksia voidaksemme taistella seksuaalisella sisällöllä kiristämiseen liittyviä haittoja vastaan paremmin. Viime vuonna lanseerasimme sovelluksen sisäisen chat-tekstin raportoinnin, joka mahdollistaa sen, että snapchattaajat voivat raportoida yksittäisiä viestejä suoraan keskustelusta. Olemme lisäksi laajentaneet sovelluksen sisäisiä raportointivälineitä ja sisällyttäneet niihin erityisen, räätälöidyn raportointisyyn seksuaalisella sisällöllä kiristämisille, ja lapsiin kohdistuvia seksuaalirikoksia vastaan taistelevan kansalaisjärjestön Thornin neuvosta, pitäneet huolta siitä, että raportointivaihtoehto on saatavilla kielellä, joka on ymmärrettävää ja samaistuttavaa erityisesti teineille ja nuorille ("he vuotivat/uhkaavat vuotaa alastonkuvani"). Näitä raportteja käytetään puolestaan informoimaan täytäntöönpanotoimiamme, mukaan lukien signaaliin perustuva havaitseminen ja valvonta. Analysoimme trendejä, käytösmalleja ja seksuaalisella sisällöllä kiristäjien tekniikoita ja, jos tili sisältää tai sen suhteen ilmenee tiettyjä ominaisuuksia, lukitsemme sen seksuaalisella sisällöllä kiristämisen vuoksi.

Jatkamme vuonna 2022 julkaisemiemme Perhekeskus-työkalujemme parantamista ja lisäämistä, jotta vanhemmat voivat nähdä, kenen kanssaan heidän teininsä on ystävä Snapchatissa, kenen kanssa heidän teininsä on keskustellut viime aikoina, ja jotta vanhemmat voivat helposti raportoida tileistä, jotka saattavat olla heille huolenaiheena tai muuten aiheuttaa huolta. Perhekeskuksen päämääränä on ollut aina ollut aloittaa avoin ja rakentava vuoropuhelu turvallisuudesta verkossa vanhempien/huoltajien ja teinien välillä. 

Teemme tiivistä yhteistyötä lainvalvontaviranomaisten kanssa ja investoimme vahvasti turvallisuus- ja lainvalvontaoperaatioiden tiimeihimme, jotka toimivat maailmanlaajuidesti vuorokauden ympäri ja auttavat pitämään yhteisömme turvallisena. Esimerkiksi luottamus- ja turvallisuustiimimme koko on yli kaksinkertaistunut vuoteen 2020 verrattuna, ja lainvalvontaoperaatioiden tiimimme on yli kolminkertaistunut samassa ajassa. Järjestämme vuosittaisia kokouksia Yhdysvalloissa lainvalvonnan parissa työskenteleville henkilöille varmistaaksemme, että viranomaiset ovat tietoisia siitä, miten ryhtyä soveltuviin toimiin mitään alustallamme tapahtuvaa laitonta toimintaa vastaan.

Työskentelemme lisäksi suoraan lainvalvonnan kanssa toimivien viranomaisten kanssa Nigeriassa, josta monet seksuaalisella sisällöllä kiristämisen tapaukset ovat lähtöisin. Tavoitteenamme on rakentaa valmiuksia ja tietoa, jotta näitä rikoksia voidaan tutkia ja rikoksentekijät saada rikosoikeudelliseen vastuuseen. Aiomme jatkaa yhteistyötämme Nigerian hallituksen kanssa syventääksemme yhteistyötämme tämän suhteen. Lisäksi olemme tehneet yhteistyötä kansainvälisen oikeuslähetystön, NCMEC:n, muiden alan toimijoiden ja kansalaisjärjestöjen kanssa tarjotaksemme lainvalvontaviranomaisille koulutusta kybervihjeiden tutkimisesta Yhdysvaltojen ulkopuolisissa maissa, joissa seksuaalisella sisällöllä kiristäminen on yleistä.

Monien vuosien ajan olemme myös tehneet yhteistyötä luotettavien ongelmien valvojien kanssa, eli voittoa tavoittelemattomien järjestöjen, kansalaisjärjestöjen ja valittujen valtion virastojen kanssa, jotka ilmoittavat meille väärinkäyttötapauksista, välittömistä hengenvaaroista ja muista hätätapauksista apua tarvitsevien Snapchattaajien puolesta ensisijaisten kanavien kautta. Suurin osa Luotettu ilmoittaja -ohjelmaan osallistujista raportoi sisällöstä ja tileistä, joihin liittyy alaikäisiin kohdistuvaa seksuaalista haittaa, kuten seksuaalisella sisällöllä kiristämistä.

II. Toimialan asiantuntijoiden ja liittojen osallistaminen

Omien sijoitustemme lisäksi teemme yhteistyötä asiantuntijoiden kanssa eri puolilla maailmaa, koska tiedämme, että mikään taho tai organisaatio ei voi yksinään edistää näitä asioita merkittävästi. Snap esimerkiksi edustaa alaansa WeProtect Global Alliancen kansainvälisessä Policy Board -komiteassa, olemme INHOPE:n neuvoa-antavan Advisory Council -neuvoston jäseniä ja istumme Yhdistyneen kuningaskunnan Internet Watch Foundationin (IWF) johtokunnassa. Kaikkien näiden järjestöjen keskeisenä tavoitteena on verkossa toimivan CSEA:n hävittäminen.

Olemme aktiivisia jäseniä Tech Coalitionissa, maailmanlaajuisessa toimialaliitossa, joka keskittyy lasten seksuaalisen riiston ja hyväksikäytön torjuntaan verkossa, ja saimme hiljattain päätökseen kaksivuotisen toimikauden sen hallituksen toimeenpanevassa komiteassa. Olimme myös perustajajäseniä Tech Coalitionin Lantern-aloitteessa, joka on ensimmäinen alustarajat ylittävä signaalinjakamisohjelma, jonka avulla yritykset voivat tehostaa lastenturvallisuuskäytäntöjensä noudattamista. Tähän ohjelmaan aktiivisesti osallistumalla yritykset voivat auttaa toisiaan vertaamaan tietojaan huonojen toimijoiden, kuten seksuaalisella sisällöllä kiristäjien, varalta.

Lisäksi hyödynnämme National Center for Missing and Exploited Childrenin (NCMEC) Take It Down -tietokantaa, jonka avulla alaikäiset voivat luoda digitaalisen sormenjäljen, niin sanotun ”hashin”, valituista kuvista tai videoista suoraan laitteissaan. Osallistuvat yritykset, mukaan lukien Snap, voivat käyttää näitä hash-sormenjälkiä yhteisön sääntöjä rikkovien kuvien etsimiseen ja poistamiseen. Osallistumme Yhdistyneessä kuningaskunnassa vastaavaan Report Remove -ohjelmaan, ja viime vuonna liityimme SWGfL:n StopNCII-yhteistyöhön auttaaksemme estämään suostumuksettoman intiimin kuvamateriaalin (NCII) leviämistä Snapchatissa hyödyntämällä kyseisen ryhmän hash-tietokantaa. StopNCII auttaa lopettamaan alaikäisten intiimien kuvien levittämisen ja tarjoaa uhreille mahdollisuuden uudelleenlunastaa yksityisyytensä, mitä tulee heidän kaikkein henkilökohtaisimpiin kuviinsa ja videoihinsa.

Tänä vuonna käynnistimme myös ensimmäisen Snap Council for Digital Well-Being -ryhmän, johon kuuluu 18 teini-ikäistä eri puolilta Yhdysvaltoja, jotka on valittu osallistumaan vuoden mittaiseen pilottiohjelmaan, jossa edistetään turvallisempia verkkotottumuksia ja -käytäntöjä heidän kouluissaan ja yhteisöissään. Heinäkuussa tämä ryhmä kokoontui Snapin pääkonttoriin Santa Monicaan, Kaliforniaan, ja kunkin teini-ikäisen seurassa oli ainakin yksi vanhempi tai saattaja. Ryhmä osallistui keskusteluihin, jotka antoivat mielenkiintoisia näkemyksiä muun muassa internetin sudenkuopista ja sosiaalisesta dynamiikasta sekä vanhempien työkaluista. Tämän lisäksi Snapilla on neuvova turvallisuuskomitea, joka koostuu 16 ammattilaisesta ja kolmesta nuorisoasiamiehestä, jotka antavat Snapille suoraa ohjausta ja opastusta turvallisuusasioissa. Odotamme innolla vuotta 2025, jolloin toivomme voivamme luoda molempien ryhmien jäsenille lisää tilaisuuksia kokoontua yhteen ja löytää uusia oivalluksia ja jakaa uutta tietoa.

III. Tietoisuuden lisääminen

Sisäisten investointejemme ja asiantuntijoiden kanssa tekemämme työn lisäksi tärkeä osa verkossa tapahtuvan seksuaalisen hyväksikäytön ja seksuaalisella sisällöllä kiristyksen torjuntaa on tietoisuuden lisääminen Snapchattaajien ja laajemman yleisön keskuudessa.

Vuonna 2022 lanseerasimme digitaalisen hyvinvoinnin indeksin, joka on alan johtavaa tutkimusta, ja joka tarjoaa tietoa siitä, miten teini-ikäiset ja nuoret aikuiset pärjäävät verkossa kaikilla alustoilla. Viimeisen kahden vuoden aikana olemme osana tätä tutkimustyötä tehneet syväluotaavia tutkimuksia seksuaalisella sisällöllä kiristämiseen. Koska tämä tutkimus kattaa verkkokokemukset yleisesti, ei vain Snapchatissa, se ei ainoastaan auta meitä tekemään työtämme, vaan toivomme, että se tarjoaa tietoa ja näkemyksiä myös muille teknologiaekosysteemin toimijoille. Myöhemmin tässä kuussa kerromme seksuaalisella sisällöllä kiristämistä tutkivan syväluotaavan tutkimuksemme toisen vuoden tulokset yhdessä Teknologiakoalition tulevan alaikäisiin kohdistuvaa taloudellista seksuaalisella sisällöllä kiristämistä käsittelevän virtuaalisen usean sidosryhmän foorumin kanssa.

Aiemmin tänä vuonna meillä oli kunnia olla ensimmäinen taho, joka tuki Know2Protect-kampanjaa, joka on ensimmäinen laatuaan, ja jonka Yhdysvaltain kotimaan turvallisuusvirasto (U.S. Department of Homeland Security, DHS) käynnisti aiemmin tänä vuonna. Kampanja valistaa ja antaa nuorille, vanhemmille, luotetuille aikuisille ja poliittisille päättäjille valmiuksia ehkäistä ja torjua rikoksia, kuten taloudellisella seksuaalisella sisällöllä kiristämistä. Sen lisäksi, että lahjoitamme Snapchatissa mainostilaa K2P-koulutusresursseja varten, teemme lisätutkimuksia teini-ikäisten ja nuorten aikuisten keskuudessa Yhdysvalloissa, jotta saamme tietoa kampanjaa varten. Lanseerasimme myös yhdessä lisätyn todellisuuden Snapchat-linssin, jonka tarkoituksena on tarjota opetusta Snapchattaajille interaktiivisen Know2Protect-tietokilpailun avulla. Yhdistyneessä kuningaskunnassa tuimme IWF:n laajamittaista julkista valistuskampanjaa Gurls Out Loud, joka on suunniteltu tiedottamaan 11-13-vuotiaille tytöille verkossa tapahtuvasta seksuaalisesta groomauksesta, seksuaalisten viestien lähettämisestä ja alastonkuvien lähettämisestä. Lisäksi lanseerasimme hiljattain Snapchatia koskevan opettajan oppaan ja kehitimme yhteistyössä Safe and Sound Schools -koulujen kanssa kattavan työkalupakin opettajille, joka sisältää tietoa ja ohjeita seksuaalisella sisällöllä kiristämisen torjunnasta.

Vuosien tutkimustyön perusteella tiedämme, että tietoisuuden lisääminen ja yhteisölle tiedottaminen ovat tehokkaita välineitä verkossa tapahtuvien haittojen ehkäisemisessä, ja kehitämme ja edistämme edelleen sovelluksen sisäisiä resursseja, joilla tavoitamme teini-ikäiset ja nuoret suoraan Snapchatissa. Syyskuussa 2023 julkaisimme neljä uutta sovelluksen sisäistä Safety Snapshot -jaksoa, jotka keskittyvät seksuaalisiin riskeihin ja -haittoihin, kuten taloudellinen seksuaalisella sisällöllä kiristäminen. Saatavilla on lisäksi jaksoja seksuaalisten viestien lähettämisestä ja näiden kuvien luomisen ja jakamisen seurauksista, lasten groomauksesta verkossa seksuaalisiin tarkoituksiin, sekä lapsikaupasta. Kansallisen kadonneiden ja hyväksikäytettyjen lasten keskuksen (National Center for Missing and Exploited Children, NCMEC) asiantuntijat ovat tarkastaneet kaikki nämä resurssit, ja ne on luotu yhteistyössä keskeisten maantieteellisten alueiden vihjepuhelinlinjojen ja tukea tarjoavien puhelinlinjojen kanssa.

Jatkamme taistelua verkossa tapahtuvaa lasten seksuaalista hyväksikäyttöä ja muuta hyväksikäyttöä vastaan, mutta tehtävää on vielä jäljellä. Vuonna 2025 lisäämme edelleen tietoisuutta mahdollisista netin vahingoista ja toistamme edelleen, että kuka tahansa voi olla mahdollinen uhri. Haluamme häiritä ja estää huonoja toimijoita varhaisessa vaiheessa ja usein, ja haluamme tuottaa entistä toimintakykyisempiä cybervinkkejä lainvalvontaviranomaisille.

On tärkeää huomioida, käytämme monia näistä samoista strategioista kuin taistelemme muita törkeitä haittoja, kuten laittomia huumausaineita koskevaa toimintaa, mukaan lukien väärennettyjen pillereiden myyntiä, sekä väkivalta, itsemurhaa ja itsetuhoista sisältöä, vastaan. Ymmärrämme, että työmme näiden teemojen parissa ei ehkä koskaan tule valmiiksi, mutta välitämme syvästi snapchattaajien turvallisuudesta ja teemme jatkossakin yhteistyötä sekä alan toimijoiden että hallitusten ja lainvalvontaviranomaisten kanssa tietojen jakamiseksi ja suojausten vahvistamiseksi.