Tänään julkaisemme läpinäkyvyysraporttimme vuoden 2021 ensimmäiseltä puoliskolta, joka kattaa tämän vuoden 1. tammikuuta – 30. kesäkuuta välisen ajanjakson. Kuten viimeaikaisissa raporteissa, myös tämä sisältää tietoa yhteisön sääntöjen rikkomuksista maailmanlaajuisesti raportin kattavan ajanjakson ajalta, kuten: vastaanotettujen sisältöilmoitusten ja niihin kohdistuvien toimenpiteiden määrä rikkomuskategorioittain, kuinka vastasimme lainvalvontaviranomaisten ja hallitusten pyyntöihin, toimenpiteemme maittain eriteltynä; sääntöjä rikkovan Snapchat-sisällön katseluaste; ja väärän tiedon esiintyminen alustalla.

Lisäämme raporttiimme tällä kaudella useita päivityksiä, mukaan lukien keskimääräisen käsittelyajan minuuteissa aiemman tunneissa määritellyn raportoinnin sijaan, jotta voimme tarjota yksityiskohtaisempaa tietoa toimintatavoistamme ja tehokkuudestamme.

Snapchat-kameran avulla luodaan päivittäin keskimäärin yli viisi miljardia Snapia. Vuoden 2021 1. tammikuuta – 30. kesäkuuta välisenä aikana ryhdyimme maailmanlaajuisesti toimenpiteisiin 6 629 165 sääntöjämme rikkovan sisällön yhteydessä. Tänä aikana sääntöjä rikkovan sisällön katseluaste (Violative View Rate, VVR) oli 0,10 prosenttia, mikä tarkoittaa, että jokaisesta 10 000 Snap-sisällön katselusta 10 sisälsi sääntöjemme vastaista sisältöä. Lisäksi paransimme merkittävästi reagointiaikaamme ilmoituksiin, jotka koskevat rikkomuksia, erityisesti seksuaalista sisältöä, häirintää ja kiusaamista, laittomia ja väärennettyjä lääkkeitä sekä muita säänneltyjä tuotteita.

Työmme lasten seksuaalista hyväksikäyttöä sisältävän materiaalin torjumiseksi

Meille yhteisömme turvallisuus on etusijalla. Tosielämän kavereiden kanssa kommunikointiin rakennettuna alustana suunnittelimme Snapchatin tarkoituksella niin, että tuntemattomien on vaikea löytää nuoria. Esimerkiksi Snapchattaajat eivät näe toistensa kaverilistoja, eivätkä oletusarvoisesti voi vastaanottaa viestejä henkilöiltä, joiden kanssa he eivät ole jo kavereita.

Meillä on nollatoleranssi kehen tahansa yhteisömme jäseneen, erityisesti alaikäisiin, kohdistuvaan väärinkäytökseen, mikä on laitonta, ei-hyväksyttävää ja yhteisön sääntöjen mukaan kiellettyä. Työskentelemme ahkerasti torjuaksemme näitä rikkomuksia kehittämällä kykyämme estää, havaita ja poistaa hyväksikäyttö alustallamme, mukaan lukien lasten seksuaalinen hyväksikäyttömateriaali (Child Sexual Abuse Material, CSAM) ja muun tyyppinen lasten seksuaaliseen hyväksikäyttöön liittyvä sisältö.

Luottamus- ja turvallisuustiimimme käyttävät ennakoivia tunnistustyökaluja, kuten PhotoDNA- ja Child Sexual Abuse Imagery (CSAI) -teknologiaa tunnistaakseen laittomat CSAM-kuvat ja -videot ja ilmoittaakseen niistä National Center for Missing and Exploited Children (NCMEC) -järjestölle. NCMEC puolestaan ​​tekee yhteistyötä kansallisen ja kansainvälisen lainvalvontaviranomaisen kanssa.

Vuoden 2021 ensimmäisellä puoliskolla 5,43 prosenttia kaikista tileistä, joita vastaan ryhdyimme toimenpiteisiin maailmanlaajuisesti, sisälsi CSAM-materiaalia. Näistä CSAM-rikkomuksista 70 prosenttia havaitsimme me itse ja me ryhdyimme toimiin ennalta niiden osalta. Tämä kehittyneempi ennakoiva tunnistustyökalu yhdistettynä CSAM-materiaalia levittävien koordinoitujen roskapostihyökkäysten lisääntymiseen johti tämän kategorian huomattavaan kasvuun tällä raportointikaudella.

Olemme laajentaneet kumppanuuttamme turvallisuusalan asiantuntijoiden kanssa sekä sovelluksen sisäisiä ominaisuuksia, joiden avulla koulutamme Snapchattaajia tuntemattomien ihmisten kanssa kommunikoinnin riskeistä ja siitä, kuinka he voivat ilmoittaa sovelluksen sisäisesti luottamus- ja turvallisuustiimeillemme kaikista huolenaiheista tai rikkomuksista. Lisäksi olemme jatkaneet yhteistyökumppaneiden lisäämistä luotettuun ilmoittajaohjelmaamme, joka tarjoaa tarkastetuille turvallisuusasiantuntijoille luottamuksellisen kanavan raportoida hätätilanteista, kuten välittömästä hengenvaarasta tai CSAM-tapauksesta. Teemme myös tiivistä yhteistyötä näiden kumppaneiden kanssa tarjotaksemme turvallisuuskoulutusta, hyvinvointia edistäviä resursseja ja muuta ohjeistusta ilmoittamiseen, jotta he voivat osaltaan tukea Snapchat -yhteisöä.

Lähestymistapamme väärän tiedon levittämiseen

Ajanjaksona, jonka tämä läpinäkyvyysraportti kattaa, on entisestään korostunut, kuinka tärkeää on varmistaa, että yleisöllä on mahdollisuus saada paikkansapitävää ja luotettavaa tietoa. Arvioimme tilannetta ja investoimme säännöllisesti uusiin keinoihin suojella Snapchattaajien yhteisöämme demokraattisiin prosesseihin, kansanterveyteen ja COVID-19-tautiin liittyvien väärien tietojen leviämiseltä.

Vuoden 2021 ensimmäisellä puoliskolla ryhdyimme toimenpiteisiin maailmanlaajuisesti yhteensä 2 597 tiliä ja sisältöyksikköä vastaan virheellisten tietojen sääntöjen rikkomisesta, mikä on lähes puolet edellisen raportointikauden rikkomusten määrästä. Koska Tutustu- ja Valokeila-sisältöä valvotaan ennakoivasti sääntöjä rikkovan sisällön leviämisen estämiseksi laajassa mittakaavassa, suurin osa näistä rikkomuksista on peräisin yksityisistä Snapeista ja Tarinoista, ja suurin osa näistä rikkomuksista havaittiin omien aktiivisten valvontatoimiemme kautta sekä Snapchattaajien ilmoitusten perusteella.

Olemme aina ajatelleet, että haitallisen sisällön suhteen ei riitä keskittyä vain käytäntöihin ja niiden täytäntöönpanemiseen – alustojen tulee kiinnittää huomiota myös perusrakenteisiinsa ja tuotesuunnitteluun. Alusta alkaen Snapchat on rakennettu eri tavalla kuin perinteiset sosiaalisen median alustat tukemaan palvelun ensisijaista käyttötarkoitusta eli puhumista läheisten ystävien kanssa – avoimen uutissyötteen sijaan, jossa jokaisella on oikeus jakaa mitä tahansa kenelle tahansa. Snapchat on suunniteltu rajoittamaan viraalisuutta, mikä poistaa kannustimet sellaiselle sisällölle, joka vetoaa ihmisten huonoimpiin puoliin ja rajoittaa siten laittoman ja haitallisen sisällön leviämiseen liittyviä huolenaiheita.

Tämä lähestymistapa tukee myös työtämme ääriliikkeiden leviämisen estämiseksi. Raportointikauden aikana poistimme viisi tiliä, jotka rikkoivat terrorismiin ja ääriliikkeisiin liittyvän sisällön kieltoa, joka oli pienoinen lasku viime raportointikauteen verrattuna. Me Snapilla seuraamme säännöllisesti tämän alueen kehitystä pyrkien vähentämään mahdollisia väärinkäytöksen levittäjiä alustallamme. Sekä alusta-arkkitehtuurimme että ryhmächat-toimintomme suunnittelu auttavat rajoittamaan haitallisen sisällön leviämistä ja järjestäytymismahdollisuuksia. Tarjoamme mahdollisuuden ryhmächat-keskusteluihin. Niiden koko on kuitenkin rajoitettu, algoritmit eivät suosittele niitä, eivätkä ne ole alustallamme kyseiseen ryhmään kuulumattomien henkilöiden löydettävissä.

Tänä aikana jatkoimme aktiivisesti COVID-19:ää koskevien tosiasiallisten yleisten turvallisuustietojen mainostamista yhteisöllemme, mukaan lukien Tutustu-osion toimituksellisten kumppaneidemme tarjoama kattavuus, julkisten palveluilmoitusten (PSA) sekä kansanterveysviranomaisten, virastojen ja lääketieteen asiantuntijoiden kysymysten ja vastausten kautta, ja suunnittelutyökalujen, kuten lisätyn todellisuuden tehosteiden ja suodattimien avulla – kaikki suunniteltiin muistuttamaan Snapchattaajia asiantuntijoiden kansanterveysohjeista. Aiemmin tänä vuonna, kun rokotteet tulivat saataville nuorille Yhdysvalloissa, aloitimme uuden projektin Valkoisen talon kanssa. Sen tarkoituksena oli auttaa Snapchattaajia saamaan vastauksia yleisiin kysymyksiin. Heinäkuussa teimme yhteistyötä Yhdistyneen kuningaskunnan terveydenhuoltojärjestelmän kanssa vastaavalla tavalla.

Jatkossa olemme sitoutuneet tekemään läpinäkyvyysraporteistamme entistä kattavampia ja hyödyllisempiä monille sidosryhmille, jotka välittävät syvästi verkkoturvallisuudesta, läpinäkyvyydestä ja monialaisesta vastuullisuudesta. Arvioimme jatkuvasti, kuinka voimme vahvistaa kokonaisvaltaisia ​​pyrkimyksiämme torjua haitallista sisältöä ja huonoja toimijoita, ja olemme kiitollisia monille turvallisuus- ja yhteistyökumppaneillemme, jotka auttavat meitä jatkuvasti parantamaan toimintaamme.