25. lokakuuta 2024
17. joulukuuta 2024
Tervetuloa Euroopan unionin (EU) avoimuussivulle, jossa julkaisemme digitaalipalvelulain (DSA), audiovisuaalisia mediapalveluja koskevan direktiivin (AVMSD), Alankomaiden medialain (DMA) ja verkkoterrorismia koskevan asetuksen (TCO) edellyttämiä EU-kohtaisia tietoja. Huomaathan, että näiden avoimuusraporttien ajantasaisin versio löytyy en-US-paikallisella kielellä.
Snap Group Limited on nimittänyt Snap B.V.:n oikeudelliseksi edustajakseen digitaalipalvelulain määrittämässä tarkoituksessa. Voit ottaa yhteyttä edustajaan osoitteessa dsa-enquiries [at] snapchat.com DSA:n osalta, osoitteessa vsp-enquiries [at] snapchat.com AVMSD:n ja DMA:n osalta, osoitteessa tco-enquiries [at] snapchat.com TCO:n osalta, tukisivustomme kautta [täällä] tai osoitteessa:
Snap B.V.
Keizersgracht 165, 1016 DP
Amsterdam, Alankomaat
Jos olet lainvalvontaviranomainen, noudata tässä kuvattuja ohjeita.
Kommunikoithan englanniksi tai hollanniksi, kun otat yhteyttä meihin.
Digitaalipalvelulain osalta meitä säätelevät Euroopan komissio ja Alankomaiden kuluttajien ja markkinoiden viranomainen ACM. AVMSD:n ja DMA:n osalta toimintaamme säätelee Alankomaiden mediaviranomainen (CvdM). TCO:n osalta meitä valvoo Alankomaiden viranomainen, joka vastaa terroristisen verkkosisällön ja lasten seksuaalisen hyväksikäyttömateriaalin torjunnasta (ATKM).
Päivitetty viimeksi: 25. lokakuuta 2024
Julkaisemme tämän raportin sisällönvalvontatoimistamme Snapchatissa Euroopan unionin (EU) digitaalisia palveluita koskevan lain (Digital Services Act, "DSA") (asetus (EU) 2022/2065) artiklan 15, 24 ja 42 avoimuusraportointivaatimusten mukaisesti. Ellei toisin mainita, tämän raportin tiedot koskevat raportointijaksoa 1.1.2024–30.6.2024 (H1 2024) ja ne kattavat sisällönvalvonnan DSA:n säätelemissä Snapchatin ominaisuuksissa.
Pyrimme jatkuvasti parantamaan raportointiamme. Tälle raportointikaudelle (vuoden 2024 1. puolisko) olemme tehneet muutoksia raportin rakenteeseen uusilla ja eritellymmillä taulukoilla, jotta voimme tarjota paremman käsityksen sisällönvalvontatoimistamme.
Lokakuun 1. päivänä 2024 Snapchat-sovelluksellamme oli 92,9 miljoonaa keskimääräistä kuukausittaista aktiivista käyttäjää (”AMAR”) EU:ssa. Tämä tarkoittaa sitä, että 30. syyskuuta 2024 päättyneellä kuuden kuukauden ajanjaksolla keskimäärin 92,9 miljoonaa rekisteröitynyttä käyttäjää EU:ssa on avannut Snapchat-sovelluksen vähintään kerran kuukauden aikana.
Tämä luku jakautuu jäsenvaltioittain seuraavasti:
Nämä luvut on laskettu vastaamaan nykyisiä digitaalipalvelulain vaatimuksia ja niitä pitäisi käyttää vain tämän lain tarkoituksiin. Olemme muuttaneet laskentatapojamme ajan mittaan muun muassa vastauksena muuttuviin sisäisiin toimintatapoihin, sääntelyviranomaisten ohjeisiin ja teknologiaan, eikä lukuja ole tarkoitettu vertailtaviksi eri ajanjaksojen välillä. Tämä voi myös poiketa laskutavoista, joita käytämme muihin aktiivisten käyttäjien lukuihin, joita julkaisemme muissa käyttötarkoituksissa.
Saimme tällä raportointikaudella (vuoden 2024 1. puolisko) nolla (0) määräystä ryhtyä toimiin nimenomaisesti tunnistettua laitonta sisältöä vastaan EU:n jäsenvaltioiden viranomaisilta, mukaan lukien DSA:n artiklan 9 mukaisesti annetut määräykset.
Koska tämä luku on nolla (0), emme voi antaa erittelyä kunkin laittoman sisällön tyypistä, määräyksen antaneesta jäsenvaltiosta tai määräysten vastaanottamisen tai täytäntöönpanon keskimääräisestä ajasta.
Saimme tällä raportointikaudella (vuoden 2024 1. puolisko) EU:n jäsenvaltioiden viranomaisilta seuraavat määräykset käyttäjätietojen luovuttamisesta, mukaan lukien DSA:n artiklan 10 mukaisesti annetut määräykset:
Keskimääräinen ilmoitusaika asiaankuuluville viranomaisille näiden määräysten vastaanottamisesta tietojen luovuttamiseen oli 0 minuuttia – lähetämme vastauksena automaattisen vastaanottovahvistuksen.
Näiden tietojen luovutusmääräysten keskimääräinen toteutusaika oli ~7 päivää. Tämä mittari ilmaisee ajanjaksoa alkaen siitä, kun Snap vastaanottaa määräyksen siihen hetkeen, kun Snap katsoo asian olevan täysin ratkaistu, mikä voi yksittäisissä tapauksissa riippua osittain asianomaisen jäsenvaltion viranomaisen vastausnopeudesta Snapin tarvitsemiin selvityspyyntöihin määräyksen käsittelemiseksi.
Huomaa, että emme tarjoa erittelyä edellä mainituista määräyksistä antaaksemme tietoja luokiteltuna laittoman sisällön tyypeittäin, koska nämä tiedot eivät ole yleisesti saatavillamme.
Kaiken Snapchat-sisällön on noudatettava yhteisön sääntöjämme ja palveluehtojamme. Tietyn sisällön on myös noudatettava muita ohjeita ja käytäntöjä. Esimerkiksi laajemmalle yleisölle julkisilla lähetysrajapinnoillamme algoritmisesti suositeltavan sisällön on täytettävä korkeammat lisästandardit suosituskelpoisuuteen liittyvien sisältöohjeiden mukaisesti, ja mainosten on noudatettava mainonnan sääntöjämme.
Noudatamme näitä käytäntöjä teknologian ja henkilöstön tekemän arvioinnin avulla. Tarjoamme myös mekanismeja, joiden avulla Snapchattaajat voivat ilmoittaa rikkomuksista, kuten laittomasta sisällöstä ja toiminnasta, suoraan sovelluksessa tai verkkosivustomme kautta. Ennakoivat tunnistusmekanismit ja ilmoitukset tarkistetaan automatisoitujen työkalujen ja valvojahenkilöstön yhdistelmällä, jotta voimme ryhtyä asianmukaisiin toimiin käytäntöjemme mukaisesti.
Alla on lisätietoja sisällön moderoinnista vuoden 2024 ensimmäisen puolikkaan aikana.
DSA:n artiklan 16 mukaisesti Snapilla on käytössään mekanismeja, joiden avulla käyttäjät ja muut henkilöt voivat ilmoittaa Snapille Snapchatissa havaitusta laittomana pitämästään sisällöstä. Ilmoitus voidaan tehdä tietystä sisällöstä tai tilistä joko suoraan Snapchat-sovelluksessa tai verkkosivustollamme.
Raportointikaudella (vuoden 2024 1. puolisko) vastaanotimme seuraavat DSA:n artiklan 16 mukaisesti toimitetut ilmoitukset EU:ssa:
Alla on erittely siitä, miten nämä ilmoitukset käsiteltiin – eli ihmisen suorittaman tarkastuksen tai yksinomaan automaattisten työkalujen avulla:
Lähettäessään ilmoituksia sovelluksen tai verkkosivustomme kautta ilmiantajat voivat valita tietyn ilmoittamissyyn valikosta, jossa on lueteltu yhteisön säännöissämme olevia rikkomusluokkia (esim. vihapuhe, huumeiden käyttö tai myynti). Yhteisön sääntömme kieltävät sisällön ja toiminnan, joka on laitonta EU:ssa, joten ilmoittamisperusteemme perustuvat suurelta osin tiettyihin laittoman sisällön luokkiin EU:ssa. Siltä osin kuin EU:ssa asuva ilmiantaja kuitenkin uskoo, että hänen ilmoittamansa sisältö tai tilin toiminta on laitonta jostain muusta kuin ilmoitusvalikossamme mainitusta syystä, hän voi ilmoittaa "muusta laittomasta sisällöstä" ja kertoa syyn laittomuuden ilmiantoonsa.
Jos tarkistuksen yhteydessä toteamme, että ilmoitettu sisältö tai tili rikkoo yhteisön sääntöjämme (mukaan lukien laittomuussyistä), voimme (i) poistaa loukkaavan sisällön, (ii) varoittaa asianomaista tilin omistajaa ja antaa tilille varoituksen, ja/tai (iii) lukita kyseisen tilin, kuten Snapchatin valvonta-, täytäntöönpano- ja valitusselitteessämme kerrotaan tarkemmin.
Vuoden 2024 ensimmäisellä puoliskolla toteutimme seuraavat täytäntöönpanotoimet saatuamme DSA:n artiklan 16 mukaisia ilmoituksia EU:ssa:
Vuoden 2024 ensimmäisellä puoliskolla kaikki "muusta laittomasta sisällöstä" tehdyt ilmoitukset, joihin reagoimme, käsiteltiin lopulta yhteisön sääntöjemme mukaisesti, koska yhteisön säännöt kieltävät kyseisen sisällön tai toiminnan. Luokittelimme nämä toimenpiteet yllä olevassa taulukossa asiaankuuluviin yhteisön sääntörikkomusten luokkiin.
Yllä olevien täytäntöönpanotoimien lisäksi voimme ryhtyä toimiin meille ilmoitetun sisällön osalta muiden sovellettavien Snapin käytäntöjen ja ohjeiden mukaisesti:
Mitä tulee julkisilla lähetysrajapinnoillamme olevaan sisältöön, jos toteamme, että ilmiannettu sisältö ei täytä suosituskelpoisuuteen liittyvien sisältöohjeidemme korkeampia vaatimuksia, voimme hylätä sisällön algoritmisista suosituksista (jos sisältö ei täytä kelpoisuusehtojamme) tai voimme rajoittaa sisällön jakelua sulkeaksemme pois arkaluontoiset yleisöt (jos sisältö täyttää suosituskelpoisuuden vaatimukset, mutta on muuten arkaluonteista tai vihjailevaa).
Vuoden 2024 ensimmäisellä puoliskolla toteutimme seuraavat toimet koskien Snapchatin julkisten lähetysrajapintojen sisältöä, josta meille on ilmoitettu EU:ssa, noudattaen suosituskelpoisuuteen liittyviä sisältöohjeitamme:
Jos toteamme, että ilmiannettu mainos rikkoo mainonnan sääntöjämme, saatamme poistaa sen tarkistuksen yhteydessä.
Vuoden 2024 ensimmäisellä puoliskolla toteutimme seuraavat toimenpiteet meille ilmiannettujen mainosten suhteen EU:ssa:
Sen lisäksi, että Snap tarkastaa Digitaalipalvelulain 16 artiklan mukaisesti toimitetut ilmoitukset, se myös moderoi sisältöä omasta aloitteestaan. Alla kerromme Snapin oma-aloitteisesta sisällönvalvonnasta, mukaan lukien automatisoitujen työkalujen käytöstä, sisällönvalvonnasta vastaavien henkilöiden koulutuksen ja tuen järjestämiseksi toteutetuista toimenpiteistä sekä ennakoivien sisällönvalvontatoimien seurauksena asetettujen rajoitusten lukumäärästä ja tyypeistä.
Automatisoitujen työkalujen käyttö Snapin oma-aloitteisessa moderoinnissa
Käytämme automaattisia työkaluja havaitaksemme ennakoivasti ehtojemme ja käytäntöjemme vastaisia rikkomuksia ja ryhtyäksemme joissakin tapauksissa toimenpiteisiin. Näihin kuuluvat hash-matching-työkalut (kuten PhotoDNA ja Google CSAI Match), Abusive Language Detection -mallit (jotka havaitsevat ja hylkäävät sisällön tunnistetun ja säännöllisesti päivitettävän loukkaavien avainsanojen ja hymiöiden luettelon perusteella) sekä tekoäly- ja koneoppimisteknologia. Automatisoidut työkalumme on suunniteltu havaitsemaan yhteisön sääntöjemme (jotka muun muassa kieltävät laittoman sisällön) ja soveltuvin osin suosituskelpoisuuteen liittyvien sisältöohjeiden ja mainonnan sääntöjen rikkomukset.
Vuoden 2024 ensimmäisellä puoliskolla kaikki ennakoiva valvonta suoritettiin automatisoiduilla työkaluilla. Kun automatisoidut työkalumme havaitsevat mahdollisen käytäntöjemme rikkomuksen, ne joko ryhtyvät automaattisesti toimiin käytäntöjemme mukaisesti tai luovat tehtävän valvontahenkilöstön arvioitavaksi. Tämän prosessin seurauksena asetettujen rajoitusten määrä ja tyypit on kuvattu alla.
Snapin omasta aloitteesta asetettujen rajoitusten määrä ja tyypit
Vuoden 2024 ensimmäisellä puoliskolla Snap ryhtyi seuraaviin täytäntöönpanotoimiin havaittuaan ennakoivasti automatisoitujen työkalujen avulla yhteisön sääntöjen rikkomuksia (mukaan lukien laittomaan sisältöön ja EU:n ja jäsenvaltioiden lakien mukaiseen toimintaan liittyvät rikkomukset):
Lisäksi vuoden 2024 ensimmäisellä puoliskolla toteutimme seuraavat toimet julkisten lähetysrajapintojen sisällön osalta havaittuamme ennakoivasti Snapchatissa automaattisten työkalujen avulla suosituskelpoisuuteen liittyvien sisältöohjeidemme rikkomuksia:
* Kuten suosituskelpoisuuteen liittyvissä sisältöohjeissamme todetaan, tilit, jotka rikkovat toistuvasti tai törkeästi suosituskelpoisuuteen liittyviä sisältöohjeitamme, voidaan hylätä väliaikaisesti tai pysyvästi suosituksistamme julkisilla lähetyspinnoillamme. Tämä toimenpide kuuluu ennakoiviin valvontatoimiimme.
Lisäksi vuoden 2024 ensimmäisellä puoliskolla toteutimme seuraavat toimet havaittuamme ennakoivasti Snapchatissa automaattisten työkalujen avulla mainonnan sääntöjemme rikkomuksia:
Sisällönvalvonnasta vastaavien henkilöiden koulutus- ja tukitoimenpiteet
Sisällönvalvontatiimimme toimivat sisällönvalvontakäytäntöjämme mukaisesti Snapchat-yhteisömme turvaamiseksi. Uusia tiimin jäseniä koulutetaan usean viikon ajan Snapin käytännöistä, työkaluista ja eskalointimenettelyistä. Valvontatiimimme osallistuvat säännöllisesti kertauskoulutukseen, joka liittyy heidän työnkulkuihinsa, varsinkin kun kohtaamme käytännön rajalla olevia ja kontekstiriippuvaisia tapauksia. Järjestämme myös koulutusohjelmia, sertifiointitapahtumia ja pistokokeita varmistaaksemme, että kaikki valvojat ovat ajan tasalla ja noudattavat kaikkia päivitettyjä käytäntöjä. Kun äkillisiä sisältötrendejä ilmaantuu ajankohtaisten tapahtumien seurauksena, julkaisemme nopeasti selvennyksiä käytäntöihin, jotta tiimit voivat toimia Snapin käytäntöjen mukaisesti.
Tarjoamme sisällönvalvontatiimeillemme merkittävää tukea ja resursseja, mukaan lukien hyvinvointitukea työaikana ja helpon pääsyn mielenterveyspalveluihin.
Käyttäjät, joiden tilit turvallisuustiimimme on lukinnut yhteisön sääntöjen rikkomusten vuoksi (mukaan lukien laiton sisältö ja toiminta), voivat tehdä valituksen tilin lukitsemisesta. Käyttäjät voivat myös valittaa tietyistä sisällönvalvontapäätöksistä.
Snap käsitteli raportointikaudella (vuoden 2024 1. puolisko) seuraavat valitukset (mukaan lukien valitukset sekä tilien lukituksista että sisältötason valvontapäätöksistä), jotka toimitettiin sisäisten valitustenkäsittelyjärjestelmien kautta EU:ssa:
Laadullinen kuvaus ja käyttötarkoitukset
Kuten edellä kohdassa 3(b) selitettiin, käytämme automatisoituja työkaluja havaitaksemme ennakoivasti ehtojemme ja käytäntöjemme rikkomukset ja joissakin tapauksissa ryhtyäksemme toimenpiteisiin niiden osalta julkisen sisällön rajapinnoillamme. Näihin kuuluvat hash-matching-työkalut (kuten PhotoDNA ja Google CSAI Match), Abusive Language Detection -mallit (jotka havaitsevat ja hylkäävät sisällön tunnistetun ja säännöllisesti päivitettävän loukkaavien avainsanojen ja hymiöiden luettelon perusteella) sekä tekoäly- ja koneoppimisteknologia. Automatisoidut työkalumme on suunniteltu havaitsemaan yhteisön sääntöjemme (jotka muun muassa kieltävät laittoman sisällön) rikkomukset sekä soveltuvin osin suosituskelpoisuuteen liittyvien sisältöohjeiden ja mainonnan sääntöjen rikkomukset.
Kun automatisoidut työkalumme havaitsevat mahdollisen käytäntöjemme rikkomuksen, ne joko ryhtyvät automaattisesti toimiin käytäntöjemme mukaisesti tai luovat tehtävän valvontahenkilöstön arvioitavaksi.
Tarkkuuden ja mahdollisen virhetason indikaattorit jäsenvaltioittain eriteltyinä
Valvomme automaattisten valvontatyökalujemme tarkkuutta ja mahdollista virhetasoa osoittavia mittareita valitsemalla satunnaisia otoksia automaattisilla työkaluillamme käsitellyistä tehtävistä julkisilla julkaisuillamme ja lähettämällä ne uudelleen arvioitaviksi valvontatiimeillemme. Tarkkuusaste on prosenttiosuus näistä satunnaisotoksella valituista tehtävistä, jotka valvojahenkilöstömme on vahvistanut uudelleentarkastelun perusteella. Virhetaso on 100 %:n ja edellä kuvatulla tavalla lasketun tarkkuussuhteen välinen ero.
Otoksen perusteella vuoden 2024 ensimmäisellä puoliskolla käytettyjen automaattisten keinojen tarkkuus kaikissa rikkomusluokissa oli noin 93 % ja virheiden esiintyvyys oli noin 7 %.
Emme yleisesti seuraa Snapchatissa valvomamme sisällön kieltä, emmekä siksi voi antaa erittelyä automatisoitujen valvontatyökalujemme tarkkuudesta tai virhetasosta kunkin jäsenvaltion virallisen kielen osalta. Vastaavia tietoja edustaa alla oleva erittely kustakin jäsenvaltiosta peräisin olevista tiedoista automaattisesti valvotun sisällön tarkkuudesta ja virhetasoista.
Suojatoimet
Olemme tietoisia automaattisten valvontatyökalujen mahdollisesta vaikutuksesta perusoikeuksiin ja suojatoimillamme pyrimme minimoimaan tämän vaikutuksen.
Automaattisia sisällönvalvontatyökalujamme testataan ennen kuin ne otetaan käyttöön Snapchatissa. Mallit testataan offline-tilassa suorituskyvyn suhteen ja otetaan käyttöön A/B-testauksella niiden oikeanlaisen toiminnan varmistamiseksi ennen kuin ne siirtyvät täysin tuotantoon. Teemme julkaisua edeltäviä laadunvarmistustarkastuksia (QA), julkaisutarkastuksia ja jatkuvia tarkkuuden laadunvarmistustarkastuksia osittaisten (vaiheittaisten) käyttöönottojen aikana.
Automatisoitujen työkalujemme käyttöönoton jälkeen arvioimme jatkuvasti niiden suorituskykyä ja tarkkuutta ja teemme tarvittaessa muutoksia. Tämä prosessi sisältää automaattisten tehtävien näytteiden uudelleenarvioinnin valvojahenkilöstömme toimesta niiden mallien tunnistamiseksi, jotka vaativat säätöjä tarkkuuden parantamiseksi. Seuraamme myös tiettyjen haittojen esiintyvyyttä Snapchatissa satunnaisilla päivittäisillä julkisten tarinoiden näytteillä ja hyödynnämme näitä tietoja tunnistaaksemme alueita, joissa on parannettavaa.
Käytäntömme ja järjestelmämme edistävät johdonmukaista ja oikeudenmukaista täytäntöönpanoa, myös automatisoitujen työkalujemme avulla, ja tarjoamme Snapchattaajille mahdollisuuden riitauttaa täytäntöönpanotulokset tarkoituksenmukaisella tavalla ilmoitus- ja valitusprosessien avulla, joiden tarkoituksena on turvata yhteisömme edut suojellen samalla yksittäisen Snapchattaajan oikeuksia.
Pyrimme jatkuvasti parantamaan automaattisia sisällönvalvontatyökalujamme parantaaksemme niiden tarkkuutta ja tukeaksemme käytäntöjemme johdonmukaista ja oikeudenmukaista täytäntöönpanoa.
Raportointikaudella (vuoden 2024 1. puolisko) virallisesti sertifioiduille tuomioistuinten ulkopuolisille riidanratkaisuelimille DSA:n artiklan 21 mukaisesti toimitettujen kiistojen määrä oli nolla (0), emmekä pysty toimittamaan erittelyä, joka kuvastaisi tuloksia, keskimääräistä käsittelyaikaa tai niiden kiistojen osuutta, joissa Snap on pannut täytäntöön tuomioistuimen ulkopuolisen riidanratkaisuelimen päätökset.
Huomaa, että vuoden 2024 ensimmäisellä puoliskolla saimme kaksi (2) ilmoitusta kiistoista, jotka on toimitettu taholle, joka hakee sertifiointia tuomioistuinten ulkopuolisena riidanratkaisuelimenä DSA:n artiklan 21 mukaisesti. Emme sisällyttäneet näitä kiistoja edellä olevaan määrään, sillä nämä kiistailmoitukset välittänyt taho ei kyennyt vahvistamaan sertifiointitilaansa pyynnöstämme.
Tilien jäädytykset artiklan 23.1 mukaisesti: sellaisten tilien jäädyttäminen, jotka tarjoavat usein ilmeisen laitonta sisältöä
Snapchatin valvonta-, täytäntöönpano- ja valitusselitteemme mukaisesti tilit, joiden toiminnan katsomme olevan ensisijaisesti yhteisön sääntöjemme vastaisia (mukaan lukien ilmeisen laittoman sisällön tarjoaminen) sekä vakavia vahinkoja aiheuttavia, poistetaan välittömästi käytöstä. Muihin yhteisön sääntörikkomuksiin Snap soveltaa yleensä kolmiosaista täytäntöönpanoprosessia:
Vaihe yksi: rikkova sisältö poistetaan.
Vaihe kaksi: Snapchattaaja saa ilmoituksen, jossa ilmoitetaan, että hän on rikkonut yhteisön sääntöjämme, että hänen sisältönsä on poistettu ja että toistuvat rikkomukset johtavat lisätoimiin, mukaan lukien tilin poistaminen käytöstä.
Kolmas vaihe: tiimimme kirjaa varoituksen Snapchattaajan tiliä vastaan.
Tietoa koskien vuoden 2024 ensimmäisellä puoliskolla EU-maissa oleville tileille asetettujen varoitusten ja lukitusten määrästä löytyy ylläolevista osioista 3(a) ja 3(b).
Artiklan 23.2 mukaiset jäädytykset: sellaisten henkilöiden, yhteisöjen ja valittajien ilmoitusten ja valitusten käsittelyn keskeyttäminen, jotka tekevät usein ilmeisen perusteettomia ilmoituksia tai valituksia
Soveltamalla sisäistä määritelmäämme "ilmeisen perusteettomille" ilmoituksille ja valituksille ja sisäisiä raja-arvojamme tällaisten ilmoitusten ja valitusten esittämisen taajuudelle, vuoden 2024 ensimmäisellä puoliskolla DSA:n artiklan 23.2 mukaisesti tehtyjen ilmoitusten ja valitusten käsittelyn keskeytysten määrä on seuraava:
Suojatoimet
Olemme tietoisia automaattisten valvontatyökalujen mahdollisesta vaikutuksesta perusoikeuksiin ja suojatoimillamme pyrimme minimoimaan tämän vaikutuksen.
Automaattisia sisällönvalvontatyökalujamme testataan ennen kuin ne otetaan käyttöön Snapchatissa. Mallit testataan offline-tilassa suorituskyvyn suhteen ja otetaan käyttöön A/B-testauksella niiden oikeanlaisen toiminnan varmistamiseksi ennen kuin ne siirtyvät täysin tuotantoon. Teemme julkaisua edeltäviä laadunvarmistustarkastuksia (QA), julkaisutarkastuksia ja jatkuvia tarkkuuden laadunvarmistustarkastuksia osittaisten (vaiheittaisten) käyttöönottojen aikana.
Automatisoitujen työkalujemme käyttöönoton jälkeen arvioimme jatkuvasti niiden suorituskykyä ja tarkkuutta ja teemme tarvittaessa muutoksia. Tämä prosessi sisältää automaattisten tehtävien näytteiden uudelleenarvioinnin valvojahenkilöstömme toimesta niiden mallien tunnistamiseksi, jotka vaativat säätöjä tarkkuuden parantamiseksi. Seuraamme myös tiettyjen haittojen esiintyvyyttä Snapchatissa satunnaisilla päivittäisillä julkisten tarinoiden näytteillä ja hyödynnämme näitä tietoja tunnistaaksemme alueita, joissa on parannettavaa.
Käytäntömme ja järjestelmämme edistävät johdonmukaista ja oikeudenmukaista täytäntöönpanoa, myös automatisoitujen työkalujemme avulla, ja tarjoamme Snapchattaajille mahdollisuuden riitauttaa täytäntöönpanotulokset tarkoituksenmukaisella tavalla ilmoitus- ja valitusprosessien avulla, joiden tarkoituksena on turvata yhteisömme edut suojellen samalla yksittäisen Snapchattaajan oikeuksia.
Pyrimme jatkuvasti parantamaan automaattisia sisällönvalvontatyökalujamme parantaaksemme niiden tarkkuutta ja tukeaksemme käytäntöjemme johdonmukaista ja oikeudenmukaista täytäntöönpanoa.
Raportointikaudella (vuoden 2024 1. puolisko) virallisesti sertifioiduille tuomioistuinten ulkopuolisille riidanratkaisuelimille DSA:n artiklan 21 mukaisesti toimitettujen kiistojen määrä oli nolla (0), emmekä pysty toimittamaan erittelyä, joka kuvastaisi tuloksia, keskimääräistä käsittelyaikaa tai niiden kiistojen osuutta, joissa Snap on pannut täytäntöön tuomioistuimen ulkopuolisen riidanratkaisuelimen päätökset.
Huomaa, että vuoden 2024 ensimmäisellä puoliskolla saimme kaksi (2) ilmoitusta kiistoista, jotka on toimitettu taholle, joka hakee sertifiointia tuomioistuinten ulkopuolisena riidanratkaisuelimenä DSA:n artiklan 21 mukaisesti. Emme sisällyttäneet näitä kiistoja edellä olevaan määrään, sillä nämä kiistailmoitukset välittänyt taho ei kyennyt vahvistamaan sertifiointitilaansa pyynnöstämme.
Tilien jäädytykset artiklan 23.1 mukaisesti: sellaisten tilien jäädyttäminen, jotka tarjoavat usein ilmeisen laitonta sisältöä
Snapchatin valvonta-, täytäntöönpano- ja valitusselitteemme mukaisesti tilit, joiden toiminnan katsomme olevan ensisijaisesti yhteisön sääntöjemme vastaisia (mukaan lukien ilmeisen laittoman sisällön tarjoaminen) sekä vakavia vahinkoja aiheuttavia, poistetaan välittömästi käytöstä. Muihin yhteisön sääntörikkomuksiin Snap soveltaa yleensä kolmiosaista täytäntöönpanoprosessia:
Vaihe yksi: rikkova sisältö poistetaan.
Vaihe kaksi: Snapchattaaja saa ilmoituksen, jossa ilmoitetaan, että hän on rikkonut yhteisön sääntöjämme, että hänen sisältönsä on poistettu ja että toistuvat rikkomukset johtavat lisätoimiin, mukaan lukien tilin poistaminen käytöstä.
Kolmas vaihe: tiimimme kirjaa varoituksen Snapchattaajan tiliä vastaan.
Tietoa koskien vuoden 2024 ensimmäisellä puoliskolla EU-maissa oleville tileille asetettujen varoitusten ja lukitusten määrästä löytyy ylläolevista osioista 3(a) ja 3(b).
Artiklan 23.2 mukaiset jäädytykset: sellaisten henkilöiden, yhteisöjen ja valittajien ilmoitusten ja valitusten käsittelyn keskeyttäminen, jotka tekevät usein ilmeisen perusteettomia ilmoituksia tai valituksia
Soveltamalla sisäistä määritelmäämme "ilmeisen perusteettomille" ilmoituksille ja valituksille ja sisäisiä raja-arvojamme tällaisten ilmoitusten ja valitusten esittämisen taajuudelle, vuoden 2024 ensimmäisellä puoliskolla DSA:n artiklan 23.2 mukaisesti tehtyjen ilmoitusten ja valitusten käsittelyn keskeytysten määrä on seuraava:
Sisällönvalvontatiimimme toimivat eri puolilla maailmaa, minkä ansiosta voimme pitää Snapchattaajat turvassa vuorokauden ympäri. Alla on erittely ihmisten tekemän moderoinnin resursseistamme moderaattoreiden kieliosaamisen mukaan (huomaa, että osa moderaattoreista on erikoistunut useisiin kieliin) 30. kesäkuuta 2024:
Yllä oleva taulukko sisältää kaikki sisällön moderointiin suunnatut henkilöstöresurssit, jotka tukevat EU:n jäsenvaltioiden virallisia kieliä 30.6.2024 alkaen. Tilanteissa, joissa tarvitsemme lisää kielitukea, käytämme käännöspalveluita.
Valvojat rekrytoidaan standardinmukaisella työnkuvalla, joka sisältää kielivaatimuksen (tarpeen mukaan). Kielivaatimuksen mukaan ehdokkaan tulee pystyä osoittamaan kirjallinen ja suullinen kielitaitonsa ja hänellä tulee olla vähintään vuoden työkokemus perustason tehtävistä. Ehdokkaiden on myös täytettävä koulutus- ja taustavaatimukset, jotta heitä voidaan harkita tehtävään. Ehdokkaiden on myös osoitettava ymmärtävänsä tukemansa sisällönvalvontamaan tai -alueen ajankohtaisia tapahtumia.
Katso edellä lisätietoa koulutuksesta ja tuesta, jotka Snap tarjoaa sisällönvalvojille. Tämä on erikseen vaadittu DSA:n artiklan 15(1(c)) mukaisesti ja siten sisällytetty kohdan 3(b) viimeiseen alakohtaan, jonka otsikko on: "Koulutus- ja tukitoimenpiteet sisällönvalvonnasta vastaaville henkilöille"
Julkaistu: 31. tammikuuta 2025
Viimeksi päivitetty: 31. tammikuuta 2025
Tämä kertomus kattaa ajanjakson 1. tammikuuta 2024 alkaen ja päättyy 31. joulukuuta 2024.
Tausta
Jokaisen yhteisömme jäsenen, erityisesti alaikäisen jäsenen, seksuaalinen hyväksikäyttö on laitonta, vastenmielistä ja yhteisön sääntöjemme vastaista. Lapsien seksuaalisen hyväksikäytön ja seksuaalisen riiston (CSEA) ehkäiseminen, tunnistaminen ja torjuminen on Snapille ensisijaisen tärkeää, ja kehitämme jatkuvasti valmiuksiamme näiden ja muiden rikosten torjumiseksi.
Käyttämiimme teknologioihin kuuluu (a) PhotoDNA:n vankka hajautusvertailu ja Googlen Child Sexual Abuse Imagery (CSAI) Match tunnistamaan tunnettuja laittomia CSEA-kuvia ja -videoita, sekä (b) Googlen Content Safety API tunnistamaan uusia, "ennen koskaan hajauttamattomia" CSEA-kuvia. Ilmoitamme CSEA:an liittyvästä kuvastosta lain vaatimusten mukaisesti U.S. National Center for Missing and Exploited Children (NCMEC) -järjestöön. NCMEC puolestaan koordinoi lainvalvontaviranomaisten kanssa Yhdysvalloissa ja muissa maissa tarpeen mukaan.
Raportti
Alla oleva kaavio sisältää tietoja ennaltaehkäisevästä havaitsemisesta ja sen seurauksena tehdyistä täytäntöönpanotoimenpiteistä EU:ssa olevia käyttäjiä vastaan CSEA-kuvaston osalta vuonna 2024. (Huomaa, että jotkin vuonna 2024 tehdyt täytäntöönpanotoimenpiteet, jotka johtuvat edellä mainitusta ennaltaehkäisevästä skannauksesta, saattavat edelleen olla valituksen alaisia tämän raportin koostamisvaiheessa, eikä niitä siksi ole huomioitu alla olevissa valitusten ja palauttamisten tiedoissa.)
*Tässä kategoriassa raportoidaan täytäntöönpanotoimenpiteistä rikkomuksista niitä Snapin yhteisön sääntöjä vastaan, jotka kieltävät lasten seksuaalisen hyväksikäytön. Ennaltaehkäisevästi havaittua sisältöä, joka on poistettu Snapin muiden yhteisön sääntöjen rikkomusten vuoksi, ei ole raportoitu täällä.
**Täytäntöönpanopäätös voidaan kumota, jos toteamme sen olleen virheellinen tekohetkellä voimassa olleiden sääntöjemme perusteella, tai jos toteamme sen alun perin olleen oikea, mutta voimassa oleva sääntömme on muuttunut valituksen käsittelyn aikana.
Sisällön moderoinnin suojatoimet
CSEA-mediaskannaukseen sovellettavat turvatoimet on esitelty yllä olevassa EU DSA -läpinäkyvyysraportissa.
Julkaistu: 17. kesäkuuta 2024
Päivitetty viimeksi: 17. kesäkuuta 2024
Tämä läpinäkyvyysraportti julkaistaan terrorismiin liittyvän verkkosisällön levittämistä koskevan Euroopan parlamentin ja EU:n neuvoston asetuksen 2021/784 artiklan 7(2) ja 7(3) mukaisesti (jäljempänä "asetus"). Se kattaa raportointikauden 1.1.–31.12.2023.
Artikla 7(3)(a): tiedot ylläpitopalveluntarjoajan toimenpiteistä, jotka liittyvät terroristisen sisällön tunnistamiseen ja poistamiseen tai siihen pääsyn estämiseen
Artikla 7(3)(b): tiedot ylläpitopalveluntarjoajan toimenpiteistä, joilla pyritään estämään sellaisen materiaalin uudelleen ilmestyminen verkkoon, joka on aiemmin poistettu tai johon pääsy on estetty, koska sen on katsottu olevan terrorismiin liittyvää sisältöä, erityisesti automatisoitujen työkalujen käytön osalta
Terroristit, terroristijärjestöt ja väkivaltaiset ääriliikkeet eivät saa käyttää Snapchatia. Sisältö, joka kannattaa, mainostaa, ylistää tai edistää terrorismia tai muita väkivaltaisia, rikollisia tekoja, on kielletty yhteisön sääntöjemme mukaisesti. Käyttäjät voivat ilmoittaa yhteisön sääntöjämme rikkovasta sisällöstä sovelluksen sisäisen ilmoitusvalikon ja tukisivustomme kautta. Pyrimme havaitsemaan myös ennakoivasti loukkaavaa sisältöä julkisilla rajapinnoilla, kuten Valokeila- ja Tutustu-osioissa.
Huolimatta siitä, kuinka saamme tietää sääntöjen vastaisesta sisällöstä, luottamus- ja turvallisuustiimimme tarkistavat sisällön nopeasti ja tekevät täytäntöönpanopäätöksiä yhdessä automatisoitujen työkalujen ja valvontahenkilöstön avulla. Täytäntöönpanotoimet voivat sisältää sisällön poistamisen, varoituksen antamisen ja sääntöjä rikkovan tilin lukitsemisen sekä tilin ilmoittamisen lainvalvontaviranomaisille perustelluissa tapauksissa. Estääksemme terrorismiin tai muuhun väkivaltaiseen ekstremismiin liittyvän sisällön uudelleen ilmestymisen Snapchatiin, lainvalvontaviranomaisten kanssa työskentelemisen lisäksi ryhdymme toimenpiteisiin estääksemme sääntöjä rikkovaan tiliin liitetyn laitteen käytön ja käyttäjää luomasta uutta Snapchat-tiliä.
Lisätietoja terroristisen sisällön tunnistamiseen ja poistamiseen liittyvistä toimenpiteistämme löytyy vihamielisen sisällön, terrorismin ja väkivaltaisen ekstremismin selitteestämme sekä valvontaa, täytäntöönpanoa ja valituksia koskevasta selitteestämme..
Artikla 7(3)(c): niiden terroristisen sisällön kohteiden määrä, jotka on poistettu tai joihin pääsy on estetty poistomääräysten tai erityisten toimenpiteiden vuoksi, sekä niiden poistomääräysten lukumäärä, joissa sisältöä ei ole poistettu tai joihin pääsyä ei ole estetty artiklan 3(7) ensimmäisen alakohdan ja artiklan 3(8) ensimmäisen alakohdan mukaisesti perusteineen
Raportointikaudella Snap ei saanut yhtään poistomääräystä, eikä meidän tarvinnut toteuttaa erityisiä asetuksen artiklan 5 mukaisia toimenpiteitä. Näin ollen meillä ei ollut tarvetta ryhtyä asetuksen mukaisiin täytäntöönpanotoimiin.
Seuraavassa taulukossa kuvataan käyttäjien ilmoitusten ja ennakoivan tunnistamisen perusteella toteutetut täytäntöönpanotoimet, jotka kohdistuvat sisältöön ja tileihin, sekä EU:ssa että muualla maailmassa, jotka rikkoivat yhteisön sääntöjämme terrorismiin ja väkivaltaiseen ekstremismiin liittyen
Artikla 7(3)(d): ylläpitopalveluntarjoajan käsittelemien valitusten lukumäärä ja tulos artiklan 10 mukaisesti
Artikla 7(3)(g): niiden tapausten lukumäärä, joissa ylläpitopalveluntarjoaja on palauttanut sisällön tai siihen pääsyn sisällöntarjoajan valituksen jälkeen
Koska asetuksen edellyttämät täytäntöönpanotoimet eivät ole olleet tarpeen edellä mainitun raportointikauden aikana, emme ole käsitelleet asetuksen artiklan 10 mukaisia valituksia emmekä niihin liittyviä palautuksia.
Seuraava taulukko sisältää tietoa valituksista ja palautuksista sekä EU:ssa että muualla maailmassa terrorismiin ja väkivaltaiseen ekstremismiin liittyvään sisältöön liittyen, joiden osalta ryhdyimme toimenpiteisiin yhteisön sääntöjemme mukaisesti.
Artikla 7(3)(e): ylläpitopalveluntarjoajan käynnistämien hallinnollisten tai oikeudellisten muutosten lukumäärä ja tulos
Artikla 7(3)(f): niiden tapausten lukumäärä, joissa ylläpitopalveluntarjoajaa vaadittiin palauttamaan sisältö tai siihen pääsy hallinnollisen tai oikeudellisen muutoksenhakumenettelyn seurauksena
Koska meillä ei ollut raportointikauden aikana asetuksen edellyttämiä täytäntöönpanotoimia, kuten edellä mainittiin, meillä ei ollut hallinnollisia tai oikeudellisia uudelleentarkastelumenettelyjä, eikä meidän tarvinnut palauttaa sisältöä minkään tällaisen menettelyn seurauksena.
Tämä kertomus on laadittu Snapille asetuksen (EU) 2022/2065 34 ja 35 artiklassa määritettyjen vaatimuksien noudattamiseksi. Kerromme siinä niihin järjestelmäriskeihin liittyvän analyysin tulokset, jotka syntyvät Snapchatin verkkoalustojen suunnittelusta, toiminnasta ja käytöstä, sekä näiden riskien analysoimiseksi käytetyt menetelmät ja riskien vähentämiseksi määritetyt toimenpiteet.
Digitaalipalvelulain riskianalyysin ja vähentämisanalyysin kertomus | Snapchat | Elokuu 2023 (PDF)
Nämä kertomukset on laadittu Snapin asetuksen (EU) 2022/2065 37 artiklan mukaisten velvoitteiden noudattamiseksi ja niissä ilmoitetaan (i) Snapille asetuksen (EU) 2022/2065 III luvussa määritettyjen velvoitteiden noudattamisen riippumattoman tarkastuksen tulokset, ja (ii) kyseisen riippumattoman tarkastuksen toiminnallisten suositusten toteuttamiseksi tehdyt toimenpiteet.
Digitaalipalvelulain riippumaton tarkastuskertomus | Snapchat | Elokuu 2024 (PDF)
Digitaalipalvelulain tarkastuksen täytäntöönpanokertomus | Snapchat | Syyskuu 2024 (PDF)
EU:n käytännesäännöt koskien videonjakoalustoja
Snap on "videonjakoalustapalvelun" ("VSP") tarjoaja audioviduaalisia mediapalveluja koskevan direktiivin artiklan 1(1)(aa) mukaisesti. Nämä käytännesäännöt ("Säännökset") on laadittu kuvaamaan kuinka Snap täyttää velvollisuutensa videonjakoalustana Alankomaiden medialain (DMA) ja direktiivin (EU) 2010/13 (sellaisena kuin se on muutettuna direktiivillä (EU) 2018/1808 (audiovisuaalisia mediapalveluja koskeva direktiivi) tai "AVMSD"). Säännöksiä sovelletaan kaikkialla Euroopan unionissa ja Euroopan talousalueella.
EU:n videonjakoalustoja koskeva säännöstö | Snapchat | Joulukuu 2024 (PDF)