U društvu Snap neprestano razvijamo svoje sigurnosne mehanizme i pravila platforme kako bismo ograničili mogućnost loših aktera da zloupotrijebe našu platformu. Koristimo naprednu tehnologiju za otkrivanje i blokiranje aktivnosti koje krše naša pravila, primjenjujemo načela dizajna za stvaranje napetosti u procesu prijateljstva, podržavamo provedbu zakona, surađujemo s državnim vlastima i radimo na podizanju svijesti i pružanju obrazovanja u vezi s najozbiljnijim štetama koje utječu na tinejdžere, i doista sve članove naše zajednice. 

Svoju odgovornost da zaštitimo tinejdžere shvaćamo vrlo ozbiljno. Naš rad je značajan, uključujući sljedeće: 

I. Pretvaranje Snapchata u neprijateljsko okruženje za loše aktere

Ranije ove godine najavili smo nove značajke koje će dodatno zaštititi našu zajednicu, posebno korisnike tinejdžerske dobi, i ojačati odnose u stvarnom svijetu koji Snapchat čine jedinstvenim. Ta ažuriranja uključuju: proširena upozorenja unutar aplikacije za sumnjive kontakte, poboljšane zaštite prijateljstva izgrađene posebno za tinejdžere i poboljšanje mogućnosti za blokiranje neželjenog kontakta. 

Ove promjene, usmjerene na borbu protiv seksualnog iznuđivanja na internetu, temelje se na našim stalnim ulaganjima u borbu protiv svih oblika seksualnog iskorištavanja i zlostavljanja djece. Na primjer: 

Koristimo signale za prepoznavanje ponašanja seksualnog iznuđivanja kako bismo aktivno uklonili loše aktere prije nego što dobiju priliku za ciljanje i viktimizaciju drugih. Ovo je dodatak korištenju i implementaciji tehnologije osmišljene za sprječavanje širenja poznatih slika seksualnog iskorištavanja i zlostavljanja djece (CSEAI) na Snapchatu, uključujući PhotoDNA (za otkrivanje duplikata poznatih nezakonitih slika), CSAI Match (za otkrivanje duplikata poznatih nezakonitih videozapisa) i API za sigurnost sadržaja (za pomoć u otkrivanju novih, “nikad prije objavljenih” slika).

Iako odavno nudimo jednostavno prijavljivanje sadržaja i računa koja krše naša pravila unutar aplikacije, 2023. godine smo napravili poboljšanja kako bismo unaprijedili našu borbu protiv šteta povezanih s seksualnim iznuđivanjem. Prošle godine smo pokrenuli prijavljivanje teksta razgovora unutar aplikacije - što Snapchaterima omogućuje da prijave pojedinačne poruke izravno iz samog razgovora. Također smo proširili naše alate za prijavljivanje unutar aplikacije kako bismo uključili specifičan, prilagođen razlog za prijavljivanje seksualnog iznuđivanja i, prema savjetima i smjernicama nevladine udruge CSEA Thorn, predstavili smo tu mogućnost prijavljivanja na razumljivom jeziku za tinejdžere i mladež ("Objavili su / prijete da će objaviti moju golotinju"). S druge strane, ta se izvješća koriste za informiranje o našim naporima u provedbi, uključujući otkrivanje i provedbu na temelju signala. Analiziramo trendove, obrasce i tehnike seksualnog iznuđivanja i, ako račun pokazuje određene karakteristike, zaključan je za seksualno iznuđivanje.

Nastavljamo poboljšavati i dopunjavati naš paket alata Obiteljski centar, objavljen 2022. godine, gdje roditelji mogu vidjeti s kim su njihovi tinejdžeri prijatelji na Snapchatu, s kim su nedavno razgovarali, i lako prijaviti račune koji bi ih mogli zabrinjavati. Naš cilj za Obiteljski centar oduvijek je bio potaknuti otvoren i konstruktivan dijalog među roditeljima/njegovateljima i tinejdžerima o sigurnosti na internetu. 

Blisko surađujemo s policijom, i snažno ulažemo u naše sigurnosne i operativne timove za provedbu zakona koji djeluju diljem svijeta 24/7 kako bi pomogli održati sigurnost naše zajednice. Na primjer, naši Timovi za povjerenje i sigurnost su se više nego udvostručili od 2020. godine, a naš Tim za provedbu zakona više se nego utrostručio u tom razdoblju. Domaćini smo godišnjih samita za provedbu zakona u SAD-u kako bismo osigurali da službenici i agencije znaju kako poduzeti odgovarajuće mjere protiv bilo koje nezakonite aktivnosti koja se može odvijati na našoj platformi. 

Također izravno surađujemo s policijskom provedbom u Nigeriji - odakle potječu mnogi slučajevi seksualnog iznuđivanja - kako bismo izgradili kapacitet i znanje za istraživanje i kazneni progon počinitelja, a planiramo nastaviti naš angažman s nigerijskom vladom za daljnju suradnju u ovom području. I radili smo s Međunarodnom pravosudnom misijom, NCMEC, drugim članovima industrije i nevladinim organizacijama kako bismo pružili obuku za provedbu zakona o istraživanju CyberTips-a u zemljama izvan SAD-a gdje je rasprostranjena aktivnost seksualnog iznuđivanja.

Također, već dugi niz godina djelujemo sa snažnim kadrom "pouzdanih zaštitara interneta": neprofitnim, nevladinim organizacijama i odabranim vladinim agencijama koje nam šalju slučajeve zlostavljanja, neposrednih prijetnji životu i druga hitna pitanja u ime Snapchattera u potrebi putem visokoprioritetnih kanala. Većina sudionika u našem Programu pouzdanog označavanja prijavljuju sadržaj i račune koji se odnose na seksualno zlostavljanje maloljetnika, uključujući seksualno iznuđivanje.  

II. Angažiranje stručnjaka iz industrije i koalicija 

Pored naših vlastitih ulaganja, također surađujemo sa stručnjacima diljem svijeta, jer znamo da niti jedan subjekt ili organizacija sama ne može značajno unaprijediti ova pitanja. Na primjer, društvo Snap predstavlja industriju na međunarodnom Odboru za politiku WeProtect Global Alliance; članovi smo Savjetodavnog vijeća INHOPE i sjedimo u Upravnom odboru zaklade UK Internet Watch Foundation (IWF). U srcu misija svih ovih organizacija iskorjenjivanje je seksualnog iskorištavanja i zlostavljanja djece putem interneta.

Ostajemo aktivni članovi Tech Coalition-a, globalnog industrijskog saveza usmjerenog na borbu protiv seksualnog iskorištavanja i zlostavljanja djece, a nedavno smo zaključili dvogodišnji mandat u Izvršnom odboru Upravnog odbora. Također smo bili osnivači inicijative Tech Coalition Lantern, prvog programa za razmjenu signala između platformi za tvrtke kako bi ojačali način na koji provode svoje politike o sigurnosti djece. Kroz aktivno sudjelovanje u ovom programu, tvrtke mogu pomoći jedna drugoj u unakrsnoj provjeri loših aktera, uključujući seksualne iznuđivače.   

Osim toga, koristimo bazu podataka Take it Down Nacionalnog centra za nestalu i zlostavljanu djecu (NCMEC), koja maloljetnicima omogućuje stvaranje digitalnog otiska prsta - koji se naziva "hash" - odabranih slika ili videozapisa izravno na njihovim uređajima. Tvrtke koje sudjeluju, uključujući društvo Snap, mogu koristiti te hash-ove za traženje i uklanjanje dupliciranih slika koje krše naše Smjernice za zajednicu. Sudjelujemo u sličnom programu u Ujedinjenom Kraljevstvu pod nazivom Report Remove, a prošle godine smo se pridružili SWGfL-ovoj suradnji StopNCII kako bismo spriječili širenje intimnih slika bez dopuštenja (NCII) na Snapchatu, koristeći hash bazu podataka te grupe. StopNCII pomaže u zaustavljanju širenja 18+ intimnih slika, i nudi žrtvama mogućnost da povrate privatnost nad svojim najprivatnijim fotografijama i videozapisima.

Ove godine smo pokrenuli i naše osnivačko Snap Vijeće za digitalnu dobrobit, grupu od 18 tinejdžera iz cijelog SAD-a, odabranih za sudjelovanje u jednogodišnjem pilot programu zagovaranja sigurnijih online navika i praksi u njihovim školama i zajednicama. U srpnju se ova grupa, zajedno s najmanje jednim roditeljem ili pratnjom, okupila u sjedištu Snap društva u Santa Monici u Kaliforniji radi rasprava koje su dale zanimljive uvide u teme poput online zamki i društvene dinamike te roditeljskih alata. Ovo je dodatak Savjetodavnom odboru za sigurnost društva Snap, koji se sastoji od 16 stručnjaka i tri zagovornika za mlade, koji društvu Snap pružaju izravne smjernice i smjernice o sigurnosnim pitanjima. Radujemo se 2025. godini, u kojoj se nadamo stvoriti više prilika za okupljanje članova obje grupe i otkrivanje dodatnih uvida. 

III. Pokretanje svijesti 

Osim naših internih ulaganja i rada sa stručnjacima te različitim industrijama, ključna komponenta u borbi protiv seksualnog zlostavljanja i shema seksualnog iznuđivanja na internetu je podizanje svijesti javnosti i Snapchattera. 

Godine 2022., pokrenuli smo Indeks digitalne dobrobiti, vodeće istraživanje u industriji koje nudi uvid u to kako se tinejdžeri i mladež snalaze na internetu na svim platformama. Kao dio ovog istraživanja, u posljednje dvije godine detaljno smo istražili seksualno iznuđivanje. Budući da ova studija obuhvaća iskustva na internetu općenito, ne samo na Snapchatu, ona ne samo da pomaže informirati naš rad, već se nadamo da nudi uvide drugima u cijelom tehnološkom ekosustavu, također. Kasnije ovog mjeseca, podijelit ćemo rezultate naše druge godine istraživanja seksualnog iznuđivanja, u suradnji s nadolazećim virtualnim Multi-Stakeholder forumom Tehnološke koalicije o financijskom seksualnom iznuđivanju maloljetnika. 

Ranije ove godine bili smo počašćeni biti prvi subjekt koji je podržao Know2Protect, prvu kampanju takve vrste o javnoj svijesti koju je ranije ove godine pokrenulo američko Ministarstvo domovinske sigurnosti (DHS). Kampanja educira i osnažuje mlade ljude, roditelje, pouzdane odrasle osobe i donositelje politika kako bi se spriječili i suzbili zločini poput financijskog seksualnog iznuđivanja. Osim donacije reklamnog prostora na Snapchatu za K2P obrazovne resurse, provodimo dodatna istraživanja s tinejdžerima i mladeži u SAD-u kako bismo dodatno informirali kampanju. Također smo zajedno pokrenuli Snapchat Lens za proširenu stvarnost kako bismo pomogli educirati Snapchatere putem interaktivnog Know2Protect kviza. A u Ujedinjenom Kraljevstvu smo podržali IWF-ovu opsežnu kampanju podizanja javne svijesti o ovim problemima do danas, Gurls Out Loud, osmišljenu da informira djevojke od 11 do 13 godina o seksualnom dotjerivanju, seksualnom sadržaju i slanju golotinje na internetu. Osim toga, nedavno smo pokrenuli Vodič kroz Snapchat za učitelje, udruživanjem sa Safe and Sound Schools kako bismo razvili sveobuhvatan alat za učitelje koji uključuju informacije i smjernice o tome kako se boriti protiv seksualnog iznuđivanja. 

Na temelju godina našeg istraživanja, znamo da su podizanje svijesti i obrazovanje zajednice moćni alati za sprječavanje šteta na internetu, te nastavljamo razvijati i promovirati resurse unutar aplikacije kako bismo doprli do tinejdžera i mladeži izravno na Snapchatu. U rujnu 2023. godine smo objavili četiri nove "Safety Snapshot" epizode unutar aplikacije koje se fokusiraju na seksualne rizike i štete, uključujući financijsko seksualno iznuđivanje. Također nudimo epizode o seksualnom sadržaju i posljedicama stvaranja i dijeljenja golotinje, dotjerivanju djece na internetu i trgovini djecom u seksualne svrhe. Sve ove resurse pregledali su stručnjaci u Nacionalnom centru za nestalu i zlostavljanu djecu (NCMEC) i stvorena su u suradnji s relevantnim dežurnim linijama i linijama za pomoć u ključnim zemljopisnim područjima. 

Nastavljamo se boriti protiv seksualnog iskorištavanja i zlostavljanja djece na internetu, ali još uvijek ima puno toga za učiniti. U 2025. godini nastavit ćemo podizati svijest o mogućim štetama na internetu i nastaviti ponavljati da svatko može biti potencijalna meta. Želimo ometati i sprječavati loše aktere rano i često, i želimo proizvesti još učinkovitije CyberTips savjete za policiju.

Važno je napomenuti da koristimo mnoge od ovih istih strategija dok se borimo protiv drugih nečuvenih šteta, poput nedopuštenih aktivnosti u vezi s drogom, uključujući prodaju krivotvorenih tableta, prijetnje nasiljem i sadržaj o samoubojstvu i samoozljeđivanju. Shvaćamo da naš posao u ovom prostoru možda nikada neće biti gotov, ali duboko nam je stalo do sigurnosti Snapchatera i nastavit ćemo surađivati s industrijom, vladom i tijelima za provedbu zakona kako bismo razmijenili informacije i ojačali našu obranu.