25. lokakuuta 2024

17. joulukuuta 2024

Tervetuloa Euroopan unionin (EU) avoimuussivulle, jossa julkaisemme digitaalipalvelulain (DSA), audiovisuaalisia mediapalveluja koskevan direktiivin (AVMSD), Alankomaiden medialain (DMA) ja verkkoterrorismia koskevan asetuksen (TCO) edellyttämiä EU-kohtaisia tietoja. Huomaathan, että näiden avoimuusraporttien ajantasaisin versio löytyy en-US-paikallisella kielellä.

Snap Group Limited on nimittänyt Snap B.V.:n oikeudelliseksi edustajakseen digitaalipalvelulain määrittämässä tarkoituksessa. Voit ottaa yhteyttä edustajaan osoitteessa dsa-enquiries [at] snapchat.com DSA:n osalta, osoitteessa vsp-enquiries [at] snapchat.com AVMSD:n ja DMA:n osalta, osoitteessa tco-enquiries [at] snapchat.com TCO:n osalta, tukisivustomme kautta [täällä] tai osoitteessa:

Snap B.V.
Keizersgracht 165, 1016 DP
Amsterdam, Alankomaat

Jos olet lainvalvontaviranomainen, noudata tässä kuvattuja ohjeita.

Kommunikoithan englanniksi tai hollanniksi, kun otat yhteyttä meihin.

Digitaalipalvelulain osalta meitä säätelevät Euroopan komissio ja Alankomaiden kuluttajien ja markkinoiden viranomainen ACM. AVMSD:n ja DMA:n osalta toimintaamme säätelee Alankomaiden mediaviranomainen (CvdM). TCO:n osalta meitä valvoo Alankomaiden viranomainen, joka vastaa terroristisen verkkosisällön ja lasten seksuaalisen hyväksikäyttömateriaalin torjunnasta (ATKM).

Päivitetty viimeksi: 25. lokakuuta 2024

Julkaisemme tämän raportin sisällönvalvontatoimistamme Snapchatissa Euroopan unionin (EU) digitaalisia palveluita koskevan lain (Digital Services Act, "DSA") (asetus (EU) 2022/2065) artiklan 15, 24 ja 42 avoimuusraportointivaatimusten mukaisesti. Ellei toisin mainita, tämän raportin tiedot koskevat raportointijaksoa 1.1.2024–30.6.2024 (H1 2024) ja ne kattavat sisällönvalvonnan DSA:n säätelemissä Snapchatin ominaisuuksissa. 

Pyrimme jatkuvasti parantamaan raportointiamme. Tälle raportointikaudelle (vuoden 2024 1. puolisko) olemme tehneet muutoksia raportin rakenteeseen uusilla ja eritellymmillä taulukoilla, jotta voimme tarjota paremman käsityksen sisällönvalvontatoimistamme. 

Lokakuun 1. päivänä 2024 Snapchat-sovelluksellamme oli 92,9 miljoonaa keskimääräistä kuukausittaista aktiivista käyttäjää (”AMAR”) EU:ssa. Tämä tarkoittaa sitä, että 30. syyskuuta 2024 päättyneellä kuuden kuukauden ajanjaksolla keskimäärin 92,9 miljoonaa rekisteröitynyttä käyttäjää EU:ssa on avannut Snapchat-sovelluksen vähintään kerran kuukauden aikana.

Tämä luku jakautuu jäsenvaltioittain seuraavasti:

Nämä luvut on laskettu vastaamaan nykyisiä digitaalipalvelulain vaatimuksia ja niitä pitäisi käyttää vain tämän lain tarkoituksiin. Olemme muuttaneet laskentatapojamme ajan mittaan muun muassa vastauksena muuttuviin sisäisiin toimintatapoihin, sääntelyviranomaisten ohjeisiin ja teknologiaan, eikä lukuja ole tarkoitettu vertailtaviksi eri ajanjaksojen välillä. Tämä voi myös poiketa laskutavoista, joita käytämme muihin aktiivisten käyttäjien lukuihin, joita julkaisemme muissa käyttötarkoituksissa.

Saimme tällä raportointikaudella (vuoden 2024 1. puolisko) nolla (0) määräystä ryhtyä toimiin nimenomaisesti tunnistettua laitonta sisältöä vastaan EU:n jäsenvaltioiden viranomaisilta, mukaan lukien DSA:n artiklan 9 mukaisesti annetut määräykset. 

Koska tämä luku on nolla (0), emme voi antaa erittelyä kunkin laittoman sisällön tyypistä, määräyksen antaneesta jäsenvaltiosta tai määräysten vastaanottamisen tai täytäntöönpanon keskimääräisestä ajasta.

Saimme tällä raportointikaudella (vuoden 2024 1. puolisko) EU:n jäsenvaltioiden viranomaisilta seuraavat määräykset käyttäjätietojen luovuttamisesta, mukaan lukien DSA:n artiklan 10 mukaisesti annetut määräykset:

Keskimääräinen ilmoitusaika asiaankuuluville viranomaisille näiden määräysten vastaanottamisesta tietojen luovuttamiseen oli 0 minuuttia – lähetämme vastauksena automaattisen vastaanottovahvistuksen. 

Näiden tietojen luovutusmääräysten keskimääräinen toteutusaika oli ~7 päivää. Tämä mittari ilmaisee ajanjaksoa alkaen siitä, kun Snap vastaanottaa määräyksen siihen hetkeen, kun Snap katsoo asian olevan täysin ratkaistu, mikä voi yksittäisissä tapauksissa riippua osittain asianomaisen jäsenvaltion viranomaisen vastausnopeudesta Snapin tarvitsemiin selvityspyyntöihin määräyksen käsittelemiseksi.

Huomaa, että emme tarjoa erittelyä edellä mainituista määräyksistä antaaksemme tietoja luokiteltuna laittoman sisällön tyypeittäin, koska nämä tiedot eivät ole yleisesti saatavillamme.

Kaiken Snapchat-sisällön on noudatettava yhteisön sääntöjämme ja palveluehtojamme. Tietyn sisällön on myös noudatettava muita ohjeita ja käytäntöjä. Esimerkiksi laajemmalle yleisölle julkisilla lähetysrajapinnoillamme algoritmisesti suositeltavan sisällön on täytettävä korkeammat lisästandardit suosituskelpoisuuteen liittyvien sisältöohjeiden mukaisesti, ja mainosten on noudatettava mainonnan sääntöjämme.

Noudatamme näitä käytäntöjä teknologian ja henkilöstön tekemän arvioinnin avulla. Tarjoamme myös mekanismeja, joiden avulla Snapchattaajat voivat ilmoittaa rikkomuksista, kuten laittomasta sisällöstä ja toiminnasta, suoraan sovelluksessa tai verkkosivustomme kautta. Ennakoivat tunnistusmekanismit ja ilmoitukset tarkistetaan automatisoitujen työkalujen ja valvojahenkilöstön yhdistelmällä, jotta voimme ryhtyä asianmukaisiin toimiin käytäntöjemme mukaisesti. 

Lue alta lisätietoa sisällönvalvonnasta julkisilla rajapinnoillamme vuoden 2024 ensimmäisen puoliskon aikana.

DSA:n artiklan 16 mukaisesti Snapilla on käytössään mekanismeja, joiden avulla käyttäjät ja muut henkilöt voivat ilmoittaa Snapille Snapchatissa havaitusta laittomana pitämästään sisällöstä. Ilmoitus voidaan tehdä tietystä sisällöstä tai tilistä joko suoraan Snapchat-sovelluksessa tai verkkosivustollamme. 

Raportointikaudella (vuoden 2024 1. puolisko) vastaanotimme seuraavat DSA:n artiklan 16 mukaisesti toimitetut ilmoitukset EU:ssa:

Alla on erittely siitä, miten nämä ilmoitukset käsiteltiin – eli ihmisen suorittaman tarkastuksen tai yksinomaan automaattisten työkalujen avulla: 

Lähettäessään ilmoituksia sovelluksen tai verkkosivustomme kautta ilmiantajat voivat valita tietyn ilmoittamissyyn valikosta, jossa on lueteltu yhteisön säännöissämme olevia rikkomusluokkia (esim. vihapuhe, huumeiden käyttö tai myynti). Yhteisön sääntömme kieltävät sisällön ja toiminnan, joka on laitonta EU:ssa, joten ilmoittamisperusteemme perustuvat suurelta osin tiettyihin laittoman sisällön luokkiin EU:ssa. Siltä osin kuin EU:ssa asuva ilmiantaja kuitenkin uskoo, että hänen ilmoittamansa sisältö tai tilin toiminta on laitonta jostain muusta kuin ilmoitusvalikossamme mainitusta syystä, hän voi ilmoittaa "muusta laittomasta sisällöstä" ja kertoa syyn laittomuuden ilmiantoonsa. 

Jos tarkistuksen yhteydessä toteamme, että ilmoitettu sisältö tai tili rikkoo yhteisön sääntöjämme (mukaan lukien laittomuussyistä), voimme (i) poistaa loukkaavan sisällön, (ii) varoittaa asianomaista tilin omistajaa ja antaa tilille varoituksen, ja/tai (iii) lukita kyseisen tilin, kuten Snapchatin valvonta-, täytäntöönpano- ja valitusselitteessämme kerrotaan tarkemmin. 

Vuoden 2024 ensimmäisellä puoliskolla toteutimme seuraavat täytäntöönpanotoimet saatuamme DSA:n artiklan 16 mukaisia ilmoituksia EU:ssa:

Vuoden 2024 ensimmäisellä puoliskolla kaikki "muusta laittomasta sisällöstä" tehdyt ilmoitukset, joihin reagoimme, käsiteltiin lopulta yhteisön sääntöjemme mukaisesti, koska yhteisön säännöt kieltävät kyseisen sisällön tai toiminnan. Luokittelimme nämä toimenpiteet yllä olevassa taulukossa asiaankuuluviin yhteisön sääntörikkomusten luokkiin.

Yllä olevien täytäntöönpanotoimien lisäksi voimme ryhtyä toimiin meille ilmoitetun sisällön osalta muiden sovellettavien Snapin käytäntöjen ja ohjeiden mukaisesti: 

• Mitä tulee julkisilla lähetysrajapinnoillamme olevaan sisältöön, jos toteamme, että ilmiannettu sisältö ei täytä suosituskelpoisuuteen liittyvien sisältöohjeidemme korkeampia vaatimuksia, voimme hylätä sisällön algoritmisista suosituksista (jos sisältö ei täytä kelpoisuusehtojamme) tai voimme rajoittaa sisällön jakelua sulkeaksemme pois arkaluontoiset yleisöt (jos sisältö täyttää suosituskelpoisuuden vaatimukset, mutta on muuten arkaluonteista tai vihjailevaa).  

Vuoden 2024 ensimmäisellä puoliskolla toteutimme seuraavat toimet koskien Snapchatin julkisten lähetysrajapintojen sisältöä, josta meille on ilmoitettu EU:ssa, noudattaen suosituskelpoisuuteen liittyviä sisältöohjeitamme:

• Jos toteamme, että ilmiannettu mainos rikkoo mainonnan sääntöjämme, saatamme poistaa sen tarkistuksen yhteydessä. 

Vuoden 2024 ensimmäisellä puoliskolla toteutimme seuraavat toimenpiteet meille ilmiannettujen mainosten suhteen EU:ssa:

Sen lisäksi, että Snap tarkistaa DSA:n artiklan 16 mukaisesti lähetetyt ilmoitukset, Snap valvoo omasta aloitteestaan sisältöä Snapchatin julkisilla rajapinnoilla (esim. Valokeila, Tutustu). Alla kerromme Snapin oma-aloitteisesta sisällönvalvonnasta, mukaan lukien automatisoitujen työkalujen käytöstä, sisällönvalvonnasta vastaavien henkilöiden koulutuksen ja tuen järjestämiseksi toteutetuista toimenpiteistä sekä ennakoivien sisällönvalvontatoimien seurauksena asetettujen rajoitusten lukumäärästä ja tyypeistä.

• Automatisoitujen työkalujen käyttö Snapin oma-aloitteisessa moderoinnissa

Käytämme automatisoituja työkaluja havaitaksemme ennakoivasti ja joissakin tapauksissa ryhtyäksemme toimenpiteisiin ehtojemme ja käytäntöjemme rikkomusten osalta julkisen sisällön rajapinnoillamme. Näihin kuuluvat hash-matching-työkalut (kuten PhotoDNA ja Google CSAI Match), Abusive Language Detection -mallit (jotka havaitsevat ja hylkäävät sisällön tunnistetun ja säännöllisesti päivitettävän loukkaavien avainsanojen ja hymiöiden luettelon perusteella) sekä tekoäly- ja koneoppimisteknologia. Automatisoidut työkalumme on suunniteltu havaitsemaan yhteisön sääntöjemme (jotka muun muassa kieltävät laittoman sisällön) ja soveltuvin osin suosituskelpoisuuteen liittyvien sisältöohjeiden ja mainonnan sääntöjen rikkomukset. 

Vuoden 2024 ensimmäisellä puoliskolla kaikki ennakoiva valvonta suoritettiin automatisoiduilla työkaluilla. Kun automatisoidut työkalumme havaitsevat mahdollisen käytäntöjemme rikkomuksen, ne joko ryhtyvät automaattisesti toimiin käytäntöjemme mukaisesti tai luovat tehtävän valvontahenkilöstön arvioitavaksi. Tämän prosessin seurauksena asetettujen rajoitusten määrä ja tyypit on kuvattu alla. 

• Snapin omasta aloitteesta asetettujen rajoitusten määrä ja tyypit

Vuoden 2024 ensimmäisellä puoliskolla Snap ryhtyi seuraaviin täytäntöönpanotoimiin havaittuaan ennakoivasti automatisoitujen työkalujen avulla yhteisön sääntöjen rikkomuksia (mukaan lukien laittomaan sisältöön ja EU:n ja jäsenvaltioiden lakien mukaiseen toimintaan liittyvät rikkomukset):

Lisäksi vuoden 2024 ensimmäisellä puoliskolla toteutimme seuraavat toimet julkisten lähetysrajapintojen sisällön osalta havaittuamme ennakoivasti Snapchatissa automaattisten työkalujen avulla suosituskelpoisuuteen liittyvien sisältöohjeidemme rikkomuksia:

* Kuten suosituskelpoisuuteen liittyvissä sisältöohjeissamme todetaan, tilit, jotka rikkovat toistuvasti tai törkeästi suosituskelpoisuuteen liittyviä sisältöohjeitamme, voidaan hylätä väliaikaisesti tai pysyvästi suosituksistamme julkisilla lähetyspinnoillamme. Tämä toimenpide kuuluu ennakoiviin valvontatoimiimme.

Lisäksi vuoden 2024 ensimmäisellä puoliskolla toteutimme seuraavat toimet havaittuamme ennakoivasti Snapchatissa automaattisten työkalujen avulla mainonnan sääntöjemme rikkomuksia:

• Sisällönvalvonnasta vastaavien henkilöiden koulutus- ja tukitoimenpiteet

Sisällönvalvontatiimimme toimivat sisällönvalvontakäytäntöjämme mukaisesti Snapchat-yhteisömme turvaamiseksi. Uusia tiimin jäseniä koulutetaan usean viikon ajan Snapin käytännöistä, työkaluista ja eskalointimenettelyistä. Valvontatiimimme osallistuvat säännöllisesti kertauskoulutukseen, joka liittyy heidän työnkulkuihinsa, varsinkin kun kohtaamme käytännön rajalla olevia ja kontekstiriippuvaisia tapauksia. Järjestämme myös koulutusohjelmia, sertifiointitapahtumia ja pistokokeita varmistaaksemme, että kaikki valvojat ovat ajan tasalla ja noudattavat kaikkia päivitettyjä käytäntöjä. Kun äkillisiä sisältötrendejä ilmaantuu ajankohtaisten tapahtumien seurauksena, julkaisemme nopeasti selvennyksiä käytäntöihin, jotta tiimit voivat toimia Snapin käytäntöjen mukaisesti.

Tarjoamme sisällönvalvontatiimeillemme merkittävää tukea ja resursseja, mukaan lukien hyvinvointitukea työaikana ja helpon pääsyn mielenterveyspalveluihin. 

Käyttäjät, joiden tilit turvallisuustiimimme on lukinnut yhteisön sääntöjen rikkomusten vuoksi (mukaan lukien laiton sisältö ja toiminta), voivat tehdä valituksen tilin lukitsemisesta. Käyttäjät voivat myös valittaa tietyistä sisällönvalvontapäätöksistä.

Snap käsitteli raportointikaudella (vuoden 2024 1. puolisko) seuraavat valitukset (mukaan lukien valitukset sekä tilien lukituksista että sisältötason valvontapäätöksistä), jotka toimitettiin sisäisten valitustenkäsittelyjärjestelmien kautta EU:ssa:

• Laadullinen kuvaus ja käyttötarkoitukset

Kuten edellä kohdassa 3(b) selitettiin, käytämme automatisoituja työkaluja havaitaksemme ennakoivasti ehtojemme ja käytäntöjemme rikkomukset ja joissakin tapauksissa ryhtyäksemme toimenpiteisiin niiden osalta julkisen sisällön rajapinnoillamme. Näihin kuuluvat hash-matching-työkalut (kuten PhotoDNA ja Google CSAI Match), Abusive Language Detection -mallit (jotka havaitsevat ja hylkäävät sisällön tunnistetun ja säännöllisesti päivitettävän loukkaavien avainsanojen ja hymiöiden luettelon perusteella) sekä tekoäly- ja koneoppimisteknologia. Automatisoidut työkalumme on suunniteltu havaitsemaan yhteisön sääntöjemme (jotka muun muassa kieltävät laittoman sisällön) rikkomukset sekä soveltuvin osin suosituskelpoisuuteen liittyvien sisältöohjeiden ja mainonnan sääntöjen rikkomukset. 

Kun automatisoidut työkalumme havaitsevat mahdollisen käytäntöjemme rikkomuksen, ne joko ryhtyvät automaattisesti toimiin käytäntöjemme mukaisesti tai luovat tehtävän valvontahenkilöstön arvioitavaksi. 

• Tarkkuuden ja mahdollisen virhetason indikaattorit jäsenvaltioittain eriteltyinä

Valvomme automatisoitujen valvontatyökalujemme tarkkuutta valitsemalla satunnaisia näytteitä automatisoiduilla työkaluillamme julkisilla rajapinnoillamme käsitellyistä tehtävistä ja lähettämällä ne valvontatiimiemme tarkistettavaksi. Tarkkuusaste on prosenttiosuus näistä satunnaisotoksella valituista tehtävistä, jotka valvojahenkilöstömme on vahvistanut uudelleentarkastelun perusteella. Virhetaso on 100 %:n ja edellä kuvatulla tavalla lasketun tarkkuussuhteen välinen ero. 

Otoksen perusteella vuoden 2024 ensimmäisellä puoliskolla käytettyjen automatisoitujen työkalujen tarkkuuden ja mahdollisen virhetason indikaattorit kaikissa rikkomusluokissa olivat noin 93 % ja virhetaso noin 7 %. 

Emme yleisesti seuraa Snapchatissa valvomamme sisällön kieltä, emmekä siksi voi antaa erittelyä automatisoitujen valvontatyökalujemme tarkkuudesta tai virhetasosta kunkin jäsenvaltion virallisen kielen osalta.  Vastaavia tietoja edustaa alla oleva erittely kustakin jäsenvaltiosta peräisin olevista tiedoista automaattisesti valvotun sisällön tarkkuudesta ja virhetasoista. 

• Suojatoimet

Olemme tietoisia automaattisten valvontatyökalujen mahdollisesta vaikutuksesta perusoikeuksiin ja suojatoimillamme pyrimme minimoimaan tämän vaikutuksen.

Automaattisia sisällönvalvontatyökalujamme testataan ennen kuin ne otetaan käyttöön Snapchatissa. Mallit testataan offline-tilassa suorituskyvyn suhteen ja otetaan käyttöön A/B-testauksella niiden oikeanlaisen toiminnan varmistamiseksi ennen kuin ne siirtyvät täysin tuotantoon. Teemme julkaisua edeltäviä laadunvarmistustarkastuksia (QA), julkaisutarkastuksia ja jatkuvia tarkkuuden laadunvarmistustarkastuksia osittaisten (vaiheittaisten) käyttöönottojen aikana. 

Automatisoitujen työkalujemme käyttöönoton jälkeen arvioimme jatkuvasti niiden suorituskykyä ja tarkkuutta ja teemme tarvittaessa muutoksia. Tämä prosessi sisältää automaattisten tehtävien näytteiden uudelleenarvioinnin valvojahenkilöstömme toimesta niiden mallien tunnistamiseksi, jotka vaativat säätöjä tarkkuuden parantamiseksi. Seuraamme myös tiettyjen haittojen esiintyvyyttä Snapchatissa satunnaisilla päivittäisillä julkisten tarinoiden näytteillä ja hyödynnämme näitä tietoja tunnistaaksemme alueita, joissa on parannettavaa. 

Käytäntömme ja järjestelmämme edistävät johdonmukaista ja oikeudenmukaista täytäntöönpanoa, myös automatisoitujen työkalujemme avulla, ja tarjoamme Snapchattaajille mahdollisuuden riitauttaa täytäntöönpanotulokset tarkoituksenmukaisella tavalla ilmoitus- ja valitusprosessien avulla, joiden tarkoituksena on turvata yhteisömme edut suojellen samalla yksittäisen Snapchattaajan oikeuksia.

Pyrimme jatkuvasti parantamaan automaattisia sisällönvalvontatyökalujamme parantaaksemme niiden tarkkuutta ja tukeaksemme käytäntöjemme johdonmukaista ja oikeudenmukaista täytäntöönpanoa.

Raportointikaudella (vuoden 2024 1. puolisko) virallisesti sertifioiduille tuomioistuinten ulkopuolisille riidanratkaisuelimille DSA:n artiklan 21 mukaisesti toimitettujen kiistojen määrä oli nolla (0), emmekä pysty toimittamaan erittelyä, joka kuvastaisi tuloksia, keskimääräistä käsittelyaikaa tai niiden kiistojen osuutta, joissa Snap on pannut täytäntöön tuomioistuimen ulkopuolisen riidanratkaisuelimen päätökset. 

Huomaa, että vuoden 2024 ensimmäisellä puoliskolla saimme kaksi (2) ilmoitusta kiistoista, jotka on toimitettu taholle, joka hakee sertifiointia tuomioistuinten ulkopuolisena riidanratkaisuelimenä DSA:n artiklan 21 mukaisesti. Emme sisällyttäneet näitä kiistoja edellä olevaan määrään, sillä nämä kiistailmoitukset välittänyt taho ei kyennyt vahvistamaan sertifiointitilaansa pyynnöstämme.

• Tilien jäädytykset artiklan 23.1 mukaisesti: sellaisten tilien jäädyttäminen, jotka tarjoavat usein ilmeisen laitonta sisältöä 
  

Snapchatin valvonta-, täytäntöönpano- ja valitusselitteemme mukaisesti tilit, joiden toiminnan katsomme olevan ensisijaisesti yhteisön sääntöjemme vastaisia (mukaan lukien ilmeisen laittoman sisällön tarjoaminen) sekä vakavia vahinkoja aiheuttavia, poistetaan välittömästi käytöstä. Muihin yhteisön sääntörikkomuksiin Snap soveltaa yleensä kolmiosaista täytäntöönpanoprosessia:

• Vaihe yksi: rikkova sisältö poistetaan.

• Vaihe kaksi: Snapchattaaja saa ilmoituksen, jossa ilmoitetaan, että hän on rikkonut yhteisön sääntöjämme, että hänen sisältönsä on poistettu ja että toistuvat rikkomukset johtavat lisätoimiin, mukaan lukien tilin poistaminen käytöstä.

• Kolmas vaihe: tiimimme kirjaa varoituksen Snapchattaajan tiliä vastaan.
  

Tietoa vuoden 2024 ensimmäisellä puoliskolla tileille annettujen varoitusten ja lukitusten määrästä, jotka liittyvät Snapchatin julkisten rajapintojen sisältöön tai toimintaan EU:ssa, löytyy edeltä osioista 3(a) ja 3(b).

• Artiklan 23.2 mukaiset jäädytykset: sellaisten henkilöiden, yhteisöjen ja valittajien ilmoitusten ja valitusten käsittelyn keskeyttäminen, jotka tekevät usein ilmeisen perusteettomia ilmoituksia tai valituksia
  

Soveltamalla sisäistä määritelmäämme "ilmeisen perusteettomille" ilmoituksille ja valituksille ja sisäisiä raja-arvojamme tällaisten ilmoitusten ja valitusten esittämisen taajuudelle, vuoden 2024 ensimmäisellä puoliskolla DSA:n artiklan 23.2 mukaisesti tehtyjen ilmoitusten ja valitusten käsittelyn keskeytysten määrä on seuraava:

Sisällönvalvontatiimimme toimivat eri puolilla maailmaa, minkä ansiosta voimme pitää Snapchattaajat turvassa vuorokauden ympäri. Alla on erittely ihmisten tekemän moderoinnin resursseistamme moderaattoreiden kieliosaamisen mukaan (huomaa, että osa moderaattoreista on erikoistunut useisiin kieliin) 30. kesäkuuta 2024:

Yllä oleva taulukko sisältää kaikki sisällön moderointiin suunnatut henkilöstöresurssit, jotka tukevat EU:n jäsenvaltioiden virallisia kieliä 30.6.2024 alkaen. Tilanteissa, joissa tarvitsemme lisää kielitukea, käytämme käännöspalveluita.

Valvojat rekrytoidaan standardinmukaisella työnkuvalla, joka sisältää kielivaatimuksen (tarpeen mukaan). Kielivaatimuksen mukaan ehdokkaan tulee pystyä osoittamaan kirjallinen ja suullinen kielitaitonsa ja hänellä tulee olla vähintään vuoden työkokemus perustason tehtävistä. Ehdokkaiden on myös täytettävä koulutus- ja taustavaatimukset, jotta heitä voidaan harkita tehtävään. Ehdokkaiden on myös osoitettava ymmärtävänsä tukemansa sisällönvalvontamaan tai -alueen ajankohtaisia tapahtumia. 

Katso edellä lisätietoa koulutuksesta ja tuesta, jotka Snap tarjoaa sisällönvalvojille. Tämä on erikseen vaadittu DSA:n artiklan 15(1(c)) mukaisesti ja siten sisällytetty kohdan 3(b) viimeiseen alakohtaan, jonka otsikko on: "Koulutus- ja tukitoimenpiteet sisällönvalvonnasta vastaaville henkilöille"

Tausta

Jokaisen yhteisömme jäsenen, erityisesti alaikäisen jäsenen, seksuaalinen hyväksikäyttö on laitonta, vastenmielistä ja yhteisön sääntöjemme vastaista. Lapsien seksuaalisen hyväksikäytön ehkäiseminen, tunnistaminen ja torjuminen (CSEAI) on Snapille ensisijaisen tärkeää, ja kehitämme jatkuvasti valmiuksiamme näiden ja muiden rikosten torjumiseksi.

Me käyttämme aktiivisen teknologian havaitsemiskeinoja, kuten PhotoDNA:n hash-matching-tunnistusta ja Googlen Lasten seksuaalisen hyväksikäytön kuvamateriaalitunnistusta (Child Sexual Abuse Imagery, CSAI), joiden avulla voidaan tunnistaa tiedetysti laittomat CSAM-kuvat ja -videot ja ilmoittaa niistä Yhdysvaltojen kansalliseen kadonneiden ja hyväksikäytettyjen lasten keskukseen (NCMEC), kuten laki edellyttää. Sen jälkeen NCMEC puolestaan toimii yhdessä kansallisten ja kansainvälisten viranomaisten kanssa tilanteen mukaan.

Raportti

Alla olevat tiedot perustuvat PhotoDNA:n ja/tai CSAI Matchin avulla suoritetun ennakoivan skannauksen tuloksiin käyttäjän kameran Snapchatiin lataamasta mediasta.

Lasten seksuaalisen hyväksikäytön estäminen on ensisijaista. Snap ohjaa tähän tarkoitukseen huomattavia resursseja ja sillä on nollatoleranssi tällaiseen käytökseen.  Lasten seksuaalista hyväksikäyttöä koskevien valitusten tarkistaminen edellyttää erityiskoulutusta ja sisällön graafisen luonteen vuoksi niitä käsittelee rajoitettu valvojajoukko.  Syksyllä 2023 Snap toteutti käytäntömuutoksia, jotka vaikuttivat tiettyjen lasten seksuaalista hyväksikäyttöä koskevien toimenpiteiden täytäntöönpanon johdonmukaisuuteen. Olemme korjanneet epäjohdonmukaisuudet valvojien jatkokoulutuksella ja tiukalla laadunvarmistuksella.  Odotamme, että seuraava läpinäkyvyysraportti osoittaa kehityksen kohti parempia vastausaikoja ja ensimmäisten täytäntöönpanotoimien tarkkuutta lasten seksuaalista hyväksikäyttöä koskevien valitusten osalta.  

Sisällön moderoinnin suojatoimet

CSEA:n mediaskannaukseen sovellettavat suojatoimet on esitetty edellä DSA-raportin kohdassa "Content Moderation Safeguards".

Julkaistu: 17. kesäkuuta 2024

Päivitetty viimeksi: 17. kesäkuuta 2024

Tämä läpinäkyvyysraportti julkaistaan terrorismiin liittyvän verkkosisällön levittämistä koskevan Euroopan parlamentin ja EU:n neuvoston asetuksen 2021/784 artiklan 7(2) ja 7(3) mukaisesti (jäljempänä "asetus"). Se kattaa raportointikauden 1.1.–31.12.2023. 

• Artikla 7(3)(a): tiedot ylläpitopalveluntarjoajan toimenpiteistä, jotka liittyvät terroristisen sisällön tunnistamiseen ja poistamiseen tai siihen pääsyn estämiseen

• Artikla 7(3)(b): tiedot ylläpitopalveluntarjoajan toimenpiteistä, joilla pyritään estämään sellaisen materiaalin uudelleen ilmestyminen verkkoon, joka on aiemmin poistettu tai johon pääsy on estetty, koska sen on katsottu olevan terrorismiin liittyvää sisältöä, erityisesti automatisoitujen työkalujen käytön osalta

Terroristit, terroristijärjestöt ja väkivaltaiset ääriliikkeet eivät saa käyttää Snapchatia. Sisältö, joka kannattaa, mainostaa, ylistää tai edistää terrorismia tai muita väkivaltaisia, rikollisia tekoja, on kielletty yhteisön sääntöjemme mukaisesti. Käyttäjät voivat ilmoittaa yhteisön sääntöjämme rikkovasta sisällöstä sovelluksen sisäisen ilmoitusvalikon ja tukisivustomme kautta. Pyrimme havaitsemaan myös ennakoivasti loukkaavaa sisältöä julkisilla rajapinnoilla, kuten Valokeila- ja Tutustu-osioissa. 

Huolimatta siitä, kuinka saamme tietää sääntöjen vastaisesta sisällöstä, luottamus- ja turvallisuustiimimme tarkistavat sisällön nopeasti ja tekevät täytäntöönpanopäätöksiä yhdessä automatisoitujen työkalujen ja valvontahenkilöstön avulla. Täytäntöönpanotoimet voivat sisältää sisällön poistamisen, varoituksen antamisen ja sääntöjä rikkovan tilin lukitsemisen sekä tilin ilmoittamisen lainvalvontaviranomaisille perustelluissa tapauksissa. Estääksemme terrorismiin tai muuhun väkivaltaiseen ekstremismiin liittyvän sisällön uudelleen ilmestymisen Snapchatiin, lainvalvontaviranomaisten kanssa työskentelemisen lisäksi ryhdymme toimenpiteisiin estääksemme sääntöjä rikkovaan tiliin liitetyn laitteen käytön ja käyttäjää luomasta uutta Snapchat-tiliä. 

Lisätietoja terroristisen sisällön tunnistamiseen ja poistamiseen liittyvistä toimenpiteistämme löytyy vihamielisen sisällön, terrorismin ja väkivaltaisen ekstremismin selitteestämme sekä valvontaa, täytäntöönpanoa ja valituksia koskevasta selitteestämme.. 

• Artikla 7(3)(c): niiden terroristisen sisällön kohteiden määrä, jotka on poistettu tai joihin pääsy on estetty poistomääräysten tai erityisten toimenpiteiden vuoksi, sekä niiden poistomääräysten lukumäärä, joissa sisältöä ei ole poistettu tai joihin pääsyä ei ole estetty artiklan 3(7) ensimmäisen alakohdan ja artiklan 3(8) ensimmäisen alakohdan mukaisesti perusteineen

Raportointikaudella Snap ei saanut yhtään poistomääräystä, eikä meidän tarvinnut toteuttaa erityisiä asetuksen artiklan 5 mukaisia toimenpiteitä. Näin ollen meillä ei ollut tarvetta ryhtyä asetuksen mukaisiin täytäntöönpanotoimiin.

Seuraavassa taulukossa kuvataan käyttäjien ilmoitusten ja ennakoivan tunnistamisen perusteella toteutetut täytäntöönpanotoimet, jotka kohdistuvat sisältöön ja tileihin, sekä EU:ssa että muualla maailmassa, jotka rikkoivat yhteisön sääntöjämme terrorismiin ja väkivaltaiseen ekstremismiin liittyen

• Artikla 7(3)(d): ylläpitopalveluntarjoajan käsittelemien valitusten lukumäärä ja tulos artiklan 10 mukaisesti

• Artikla 7(3)(g): niiden tapausten lukumäärä, joissa ylläpitopalveluntarjoaja on palauttanut sisällön tai siihen pääsyn sisällöntarjoajan valituksen jälkeen

Koska asetuksen edellyttämät täytäntöönpanotoimet eivät ole olleet tarpeen edellä mainitun raportointikauden aikana, emme ole käsitelleet asetuksen artiklan 10 mukaisia valituksia emmekä niihin liittyviä palautuksia.

Seuraava taulukko sisältää tietoa valituksista ja palautuksista sekä EU:ssa että muualla maailmassa terrorismiin ja väkivaltaiseen ekstremismiin liittyvään sisältöön liittyen, joiden osalta ryhdyimme toimenpiteisiin yhteisön sääntöjemme mukaisesti.

• Artikla 7(3)(e): ylläpitopalveluntarjoajan käynnistämien hallinnollisten tai oikeudellisten muutosten lukumäärä ja tulos

• Artikla 7(3)(f): niiden tapausten lukumäärä, joissa ylläpitopalveluntarjoajaa vaadittiin palauttamaan sisältö tai siihen pääsy hallinnollisen tai oikeudellisen muutoksenhakumenettelyn seurauksena

Koska meillä ei ollut raportointikauden aikana asetuksen edellyttämiä täytäntöönpanotoimia, kuten edellä mainittiin, meillä ei ollut hallinnollisia tai oikeudellisia uudelleentarkastelumenettelyjä, eikä meidän tarvinnut palauttaa sisältöä minkään tällaisen menettelyn seurauksena.

Tämä kertomus on laadittu Snapille asetuksen (EU) 2022/2065 34 ja 35 artiklassa määritettyjen vaatimuksien noudattamiseksi. Kerromme siinä niihin järjestelmäriskeihin liittyvän analyysin tulokset, jotka syntyvät Snapchatin verkkoalustojen suunnittelusta, toiminnasta ja käytöstä, sekä näiden riskien analysoimiseksi käytetyt menetelmät ja riskien vähentämiseksi määritetyt toimenpiteet.

Digitaalipalvelulain riskianalyysin ja vähentämisanalyysin kertomus | Snapchat | Elokuu 2023 (PDF)

Nämä kertomukset on laadittu Snapin asetuksen (EU) 2022/2065 37 artiklan mukaisten velvoitteiden noudattamiseksi ja niissä ilmoitetaan (i) Snapille asetuksen (EU) 2022/2065 III luvussa määritettyjen velvoitteiden noudattamisen riippumattoman tarkastuksen tulokset, ja (ii) kyseisen riippumattoman tarkastuksen toiminnallisten suositusten toteuttamiseksi tehdyt toimenpiteet.

Digitaalipalvelulain riippumaton tarkastuskertomus | Snapchat | Elokuu 2024 (PDF)

Digitaalipalvelulain tarkastuksen täytäntöönpanokertomus | Snapchat | Syyskuu 2024 (PDF)

Snap on "videonjakoalustapalvelun" ("VSP") tarjoaja audioviduaalisia mediapalveluja koskevan direktiivin artiklan 1(1)(aa) mukaisesti. Nämä käytännesäännöt ("Säännökset") on laadittu kuvaamaan kuinka Snap täyttää velvollisuutensa videonjakoalustana Alankomaiden medialain (DMA) ja direktiivin (EU) 2010/13 (sellaisena kuin se on muutettuna direktiivillä (EU) 2018/1808 (audiovisuaalisia mediapalveluja koskeva direktiivi) tai "AVMSD"). Säännöksiä sovelletaan kaikkialla Euroopan unionissa ja Euroopan talousalueella.

EU:n videonjakoalustoja koskeva säännöstö | Snapchat | Joulukuu 2024 (PDF)