5. december 2024

5. december 2024

Vi offentliggør denne gennemsigtighedsrapport to gange om året for at give indsigt i Snaps sikkerhedsindsats. Vi er forpligtet til disse bestræbelser og stræber løbende efter at gøre disse rapporter mere omfattende og informative for de mange interessenter, der bekymrer sig dybt om vores moderering af indhold, praksis for retshåndhævdelse samt sikkerhed og trivsel i Snapchat-fællesskabet. 

Denne gennemsigtighedsrapport dækker første halvår af 2024 (1. januar til 30. juni). Som i vores tidligere rapporter deler vi data om det globale antal anmeldelser om indhold i apps og på kontoniveau, som vores tillids- og sikkerhedsteams har modtaget og håndhævet reglerne over for i forbindelse med specifikke kategorier af overtrædelser af retningslinjerne for fællesskabet; hvordan vi reagerede på anmodninger fra retshåndhævende myndigheder og regeringer; og hvordan vi reagerede på meddelelser om ophavsretlige krænkelser samt varemærkekrænkelser. Vi giver også landespecifikke indblik i de filer, der er linket nederst på siden.

Som en del af vores løbende forpligtelse til løbende at forbedre vores gennemsigtighedsrapporter introducerer vi også nye data, der fremhæver vores proaktive indsats for at registrere og håndhæve reglerne over for en større række overtrædelser. Vi har inkluderet disse data på både globalt plan og nationalt niveau i denne rapport, og det vil vi fortsætte med at gøre fremover. Vi har også korrigeret en markeringsfejl i vores tidligere rapporter: Hvor vi tidligere har henvist til "Samlet indhold, der blev sat ind over for", henviser vi nu til "Samlet antal af håndhævelser" for at afspejle det forhold, at de data, der er angivet i de relevante kolonner, omfatter håndhævelser på både indholdsniveau og kontoniveau.

For at få flere oplysninger om vores politikker for bekæmpelse af potentiel online skade samt vores planer om at fortsætte udviklingen af vores rapporteringspraksis, kan du læse om denne gennemsigtighedsrapport i vores nylige Sikkerheds- og konsekvensblog. Se vores fane Om gennemsigtighedsrapportering i bunden af denne side for at finde yderlige ressourcer om sikkerhed og privatliv på Snapchat.

Bemærk, at den mest opdaterede version af denne gennemsigtighedsrapport kan findes i sproglokaliteten en-US.

Vores tillids- og sikkerhedsteams håndhæver vores Retningslinjer for fællesskabet både proaktivt (gennem brug af automatiserede værktøjer) og reaktivt (som reaktion på anmeldelser) som beskrevet yderligere i de følgende afsnit af denne rapport. I denne rapporteringscyklus (første halvår af 2024) har vores tillids- og sikkerhedsteams truffet følgende håndhævende foranstaltninger: 

Nedenfor er en udspecificering pr. type overtrædelse af Retningslinjerne for fællesskabet, herunder den gennemsnitlige behandlingstid, fra vi registrerede overtrædelsen (enten proaktivt eller efter modtagelse af en anmeldelse), til vi traf endegyldige foranstaltninger med hensyn til det relevante indhold eller den relevante konto:

I rapporteringsperioden oplevede vi en Violative View Rate (VVR) på 0,01 procent, hvilket betyder, at der ud af hver 10.000 Snap- og historievisninger på Snapchat var én med indhold, der overtrådte vores Retningslinjer for fællesskabet.

Fra 1. januar til 30. juni 2024 traf Snaps tillids- og sikkerhedsteams, som reaktion på anmeldelser af krænkelser af vores Retningslinjer for fællesskabet i appen, i alt 6.223.618 håndhævende foranstaltninger globalt, herunder håndhævelser af reglerne over for 3.842.507 unikke konti. Den gennemsnitlige behandlingstid for vores tillids- og sikkerhedsteams for at træffe håndhævende foranstaltninger som reaktion på disse anmeldelser var ~24 minutter. En udspecificering pr. anmeldelseskategori fremgår nedenfor. 

Vores samlede omfang af anmeldelser forblev forholdsvis stabilt i første halvdel af 2024 sammenlignet med de foregående seks måneder. Under denne cyklus oplevede vi en stigning i det samlede antal håndhævelser og samlede antal unikke konti, som vi har håndhævet reglerne over for, med ca. 16 %.

I løbet af de seneste 12 måneder har Snap indført nye anmeldelsesmekanismer for brugerne, som tager højde for ændringer i vores omfang af anmeldelser og håndhævelser samt for stigninger i behandlingstider i denne anmeldelsesperiode (første halvdel af 2024). Specifikt:

• Anmeldelse i gruppechat: Vi indførte anmeldelser i gruppechats den 13. oktober 2023, som giver brugerne mulighed for at anmelde krænkelser, der finder sted i chats med flere personer. Denne ændring har påvirket sammensætningen af vores målinger på tværs af anmeldelseskategorierne (eftersom nogle potentielle skader mere er mere sandsynlige forekomster i en chatkontekst) samt øget handlekraft i forbindelse med anmeldelser. 

• Forbedringer af anmeldelser af konti: Vi har også udviklet vores funktion til anmeldelse af konti, så anmeldende brugere får mulighed for at indsende bevismateriale fra chats, når de anmelder en konto, der er mistænkt for at være en bedragers. Denne ændring, som giver os mere bevismateriale og kontekst til at vurdere kontoanmeldelser, blev lanceret den 29. februar 2024. 

Chatanmeldelser og især anmeldelser i gruppechats er blandt de mest komplekse og tidskrævende at gennemgå, hvilket har øget behandlingstiden over hele linjen. 

Anmeldelser af mistanke om CSEA (Child Sexual Exploitation & Abuse), chikane og mobning samt hadtale blev især påvirket af de to ændringer, der er beskrevet ovenfor, og af ændringer i økosystemet overordnet set. Specifikt:

• CSEA: Vi har observeret en stigning i CSEA-relaterede anmeldelser og håndhævelser i første halvdel af 2024. Specifikt har vi erfaret en stigning på 64 % i det samlede antal anmeldelser fra brugere i appen, en stigning på 82 % i det samlede antal håndhævelser samt en stigning på 108 % i det samlede antal unikke konti, vi har håndhævet reglerne over for. Disse stigninger skyldes i vid udstrækning indførelsen af anmeldelsesfunktionalitet for chats og konti. I betragtning af denne modereringskø er der udvalgt et team af højtuddannede repræsentanter til at gennemgå anmeldelser af potentielle CSEA-relaterede overtrædelser. Stigningen i anmeldelser kombineret med vores teams' tilpasning til ny oplæring har resulteret i en stigning i behandlingstiderne. Vi har øget omfanget af vores globale vendor teams betydeligt for at reducere behandlingstiderne og håndhæve reglerne korrekt i forbindelse med anmeldelser af potentiel CSEA. Vi forventer, at vores gennemsigtighedsrapport for 2024 afspejler resultaterne af denne indsats med en væsentligt forbedret behandlingstid. 
  

• Chikane og mobning: Baseret på anmeldelser har vi observeret, at chikane og mobning forekommer uforholdsmæssigt ofte i chats og gruppechats. De forbedringer, vi har indført for anmeldelser i gruppechats og af konti hjælper os med at træffe grundigere foranstaltninger, når vi vurderer anmeldelser i anmeldelseskategori. Derudover kræver vi fra nu af, at brugerne skriver en kommentar, når de indsender en chikane- og mobningsanmeldelse. Vi gennemgår denne kommentar for at få en kontekst for hver anmeldelse. Samlet set førte disse ændringer til væsentlige stigninger i det samlede antal håndhævelser (+91 %), samlede antal unikke konti, vi har håndhævet reglerne over for (+82 %), og behandlingstiden (+245 minutter) for tilsvarende anmeldelser. 
  

• Hadtale: I det første halvår af 2024 har vi observeret stigninger i antallet af anmeldelser af indhold, det samlede antal håndhævelser og behandlingstiden for hadtale. Specifikt har vi erfaret en stigning på 61 % i antallet af anmeldelser i appen, en stigning på 127 % i det samlede antal håndhævelser og en stigning på 125 % i det samlede antal unikke konti, vi har håndhævet reglerne over for. Dette skyldes delvis forbedringer af anmeldelsesmekanismerne for chats (som tidligere nævnt), og det blev yderligere forværret af det geopolitiske miljø, især den fortsatte konflikt mellem Israel og Hamas. 

I denne anmeldelsesperiode har vi oplevet et fald på ~65 % i det samlede antal håndhævelser og et fald på ~60 % i det samlede antal unikke konti, vi har håndhævet reglerne over for, som reaktion på anmeldelser af mistænkt spam og misbrug, hvilket afspejler forbedringer af vores proaktive registrerings- og håndhævelsesværktøjer. Vi har oplevet et lignende fald i det samlede antal håndhævelser som reaktion på anmeldelser af indhold i forbindelse med selvskade og selvmord (fald på ca. 80 %), hvilket afspejler vores opdaterede offerfokuserede tilgang, ifølge hvilken vores tillids- og sikkerhedsteams i passende tilfælde vil sende relevante brugere selvhjælpsressourcer frem for at træffe en håndhævende foranstaltning over for disse brugere. Denne tilgang er baseret på rådgivning fra vores sikkerhedsråd, herunder en pædiatrisk professor og læge, der har specialiseret sig i lidelser relateret til interaktive medier og internettet.

Vi anvender automatiserede værktøjer til proaktivt at registrere og i nogle tilfælde håndhæve reglerne i forbindelse med overtrædelser af vores Retningslinjer for fællesskabet. Disse værktøjer omfatter værktøjer til hash-matchning (herunder PhotoDNA og Google Sexual Abuse Imagery (CSAI) Match), værktøjer til registrering af krænkende sprog (disse registrerer og håndhæver baseret på en identificeret og regelmæssigt opdateret liste over krænkende nøgleord og emojis) samt multimodal kunstig intelligens eller maskinlæringsteknologi. 

I første halvdel af 2024 traf vi følgende foranstaltninger med henblik på håndhævelse efter proaktiv registrering – ved hjælp af automatiserede værktøjer – af overtrædelser af vores Retningslinjer for fællesskabet:

Seksuel udnyttelse af ethvert medlem af vores fællesskab, især mindreårige, er ulovligt, afskyeligt og forbudt i henhold til vores Retningslinjer for fællesskabet. Forebyggelse, opdagelse og udryddelse af CSEA (Child Sexual Exploitation and Abuse) på vores platform er en topprioritet for Snap, og vi udvikler hele tiden vores muligheder for at bekæmpe disse og andre forbrydelser.

Vi bruger registreringsværktøjer baseret på aktiv teknologi, f.eks. robust hash-matchning med PhotoDNA og Googles Child Sexual Abuse Imagery (CSAI) Match til at identificere henholdsvis tydeligt ulovlige billeder og videoer med CSEA. Derudover bruger vi i nogle tilfælde adfærdsmæssige signaler til at håndhæve reglerne i forbindelse med anden potentielt ulovlig CSEA-aktivitet. Vi rapporterer CSEA-relateret indhold til det amerikanske National Center for Missing and Exploited Children (NCMEC) som krævet af loven. NCMEC koordinerer derefter, efter behov, med nationale eller internationale ordensmagter.

I første halvår af 2024 traf vi følgende foranstaltninger ved at registrere CSEA på Snapchat (enten proaktivt eller efter at have modtaget en anmeldelse):

Vi går meget op i Snapchatteres mentale sundhed og velbefindende, hvilket fortsat er afgørende for vores beslutninger om at opbygge Snapchat på en anderledes måde. Som en platform, der er designet til kommunikation mellem og iblandt rigtige venner, mener vi, at Snapchat kan spille en unik rolle ved at give venner mulighed for at hjælpe hinanden gennem svære tider. Derfor har vi udviklet ressourcer og support til Snapchattere, der har brug for det. 

Vores søgeværktøj Here For You viser ressourcer fra lokale partnere, når brugerne søger efter visse emner relateret til mental sundhed, angst, depression, stress, selvmordstanker, sorg og mobning. Vi har også udviklet en side dedikeret til økonomisk sexafpresning og andre seksuelle risici og skader i et forsøg på at støtte dem, der er i nød. Vores globale liste over sikkerhedsressourcer er offentligt tilgængelig for alle Snapchattere i vores Hub for privatliv, sikkerhed og politik. 

Når vores tillids- og sikkerhedsteams bliver opmærksomme på en Snapchatter i nød, kan de sende forebyggelsesforanstaltninger mod selvskade samt support-ressourcer og underrette beredskabspersonale, når det er hensigtsmæssigt. De ressourcer, vi deler, er tilgængelige på vores globale liste over sikkerhedsressourcer, og de er offentligt tilgængelige for alle Snapchattere.

Nedenfor giver vi oplysninger om de klager, vi har modtaget fra brugere, der har bedt om en gennemgang af vores beslutning om at låse deres konto:

Dette afsnit giver et overblik over vores tillids- og sikkerhedsteams' handlinger for at håndhæve vores Retningslinjer for fællesskabet, både proaktivt og som reaktion på anmeldelser af overtrædelser i appen, i en stikprøve for geografiske regioner. Vores Retningslinjer for fællesskabet gælder for alt indhold på Snapchat – og alle Snapchattere – i hele verden, uanset sted.

Oplysninger om individuelle lande, herunder alle EU-medlemsstater, er tilgængelige til download via den vedhæftede CSV-fil.

Snap er forpligtet til at sikre, at alle annoncer er fuldt ud i overensstemmelse med vores Annoncepolitik. Vi tror på en ansvarlig og respektfuld tilgang til annoncering, der skaber en sikker og fornøjelig oplevelse for alle vores brugere. Alle annoncer er underlagt gennemgang og godkendelse. Derudover forbeholder vi os retten til at fjerne annoncer, herunder som reaktion på brugerfeedback, som vi tager alvorligt. 

Nedenfor har vi inkluderet indsigt i vores moderation i forbindelse med betalte reklamer, der anmeldes til os efter deres offentliggørelse på Snapchat. Bemærk, at annoncer på Snapchat kan fjernes af en række årsager som beskrevet i Snaps Annoncepolitik, herunder vildledende indhold, voksenindhold, voldeligt eller foruroligende indhold, hadetale og krænkelse af intellektuel ejendom Derudover kan du nu finde Snapchats Annoncegalleri i navigationslinjen i denne gennemsigtighedsrapport.