„Snap“ platformoje mes nuolat tobuliname saugos mechanizmus ir politiką, kad apribotume nepageidaujamų veikėjų galimybę piktnaudžiauti mūsų platforma. Naudojame pažangias technologijas, siekdami aptikti ir blokuoti veiklą, kuri pažeidžia mūsų taisykles, taikome projektavimo principus, kad sukurtume trintį draugystės procese, remiame teisėsaugą, bendradarbiaujame su valdžios institucijomis ir stengiamės didinti informuotumą bei švietimą apie didžiausią žalą bei jos daromą poveikį paaugliams ir visiems mūsų bendruomenės nariams.

Į atsakomybę apsaugoti paauglius žiūrime labai rimtai. Atliekame didelį darbą, įskaitant:

I. Padaryti „Snapchat“ priešiška aplinka nepageidaujamiems asmenims

Anksčiau šiais metais, mes pristatėme naujas funkcijas, padėsiančias toliau apsaugoti mūsų bendruomenę, ypač paauglius, ir sustiprinti tikrus santykius, kurių dėka „Snapchat“ yra unikali platforma. Šie atnaujinimai apima: išplėstus įspėjimus programoje apie įtartinus kontaktus, patobulintą susidraugavimo apsaugą, sukurtą specialiai paaugliams, ir patobulintą galimybę blokuoti nepageidaujamą kontaktą.

Šie pokyčiai, skirti kovai su seksualiniu išnaudojimu internete, grindžiami mūsų nuolatinėmis investicijomis, skirtomis kovai su visų formų seksualiniu vaikų išnaudojimu ir prievarta. Pavyzdžiui:

Naudojame signalus, kurie identifikuoja seksualinį išnaudojimą, kad galėtume aktyviai pašalinti nepageidaujamus asmenis prieš suteikiant jiems galimybę nusitaikyti į kitus ir paversti juos aukomis. Tai papildoma technologija, skirta užkirsti kelią nustatytų vaikų seksualinio išnaudojimo ir prievartos vaizdų (CSEAI) plitimui „Snapchat“ platformoje, įskaitant PhotoDNA (žinomų neteisėtų vaizdų dublikatams aptikti), CSAI Match (žinomų nelegalių vaizdų dublikatams aptikti) ir turinio saugos API (padeda aptikti naujus, „niekada anksčiau nematytus“ vaizdus).

Nors jau seniai siūlome paprastą pranešimų apie turinį ir paskyras, kurie pažeidžia mūsų taisykles, teikimą programoje, 2023 m. atlikome patobulinimus, kad sustiprintume kovą su seksualiniu išnaudojimu ir jo keliama žala. Praėjusiais metais pristatėme pokalbių teksto ataskaitų teikimą – tai leidžia „Snapchat“ vartotojams pranešti apie atskirus pranešimus pačiame pokalbyje. Taip pat praplėtėme ataskaitų teikimo programoje įrankius, įtraukdami konkrečią, pritaikytą ataskaitų teikimo priežastį dėl seksualinio išnaudojimo ir, remdamiesi su CSEA kovojančios nevyriausybinės organizacijos „Thorn“ patarimu ir gairėmis, šią ataskaitų teikimo parinktį pristatėme paaugliams ir jaunimui tinkama kalba („Jie nutekėjo / grasina nutekinti mano aktus“). Savo ruožtu tos ataskaitos naudojamos siekiant informuoti apie mūsų pastangas vykdyti veiksmus, įskaitant signalu pagrįstą aptikimą ir vykdymą. Mes analizuojame tendencijas, modelius ir seksualinio piktnaudžiavimo metodus ir, jei paskyra pasižymi tam tikromis savybėmis, ji užrakinama dėl seksualinio piktnaudžiavimo.

Toliau tobuliname ir papildome Šeimos centro įrankių rinkinį, išleistą 2022 m., kur tėvai gali matyti, su kuo jų paauglys draugauja „Snapchat“ platformoje, su kuo jie neseniai kalbėjosi, ir lengvai pranešti apie paskyras, kurios jiems gali kelti rūpesčių. Mūsų Šeimos centro tikslas visada buvo skatinti atvirą ir konstruktyvų dialogą tarp tėvų / globėjų ir paauglių apie saugumą internete.

Mes glaudžiai bendradarbiaujame su teisėsauga ir daug investuojame į saugos ir teisėsaugos operacijų komandas, veikiančias visame pasaulyje 24 valandas per parą, 7 dienas per savaitę, kad mūsų bendruomenė būtų saugi. Pavyzdžiui, nuo 2020 m. mūsų Pasitikėjimo ir saugos komandos išaugo daugiau nei dvigubai, o Teisėsaugos operacijų komanda per tą laiką išaugo daugiau nei trigubai. Kasmet rengiame JAV teisėsaugos aukščiausiojo lygio susitikimus siekdami užtikrinti, kad pareigūnai ir agentūros žinotų, kaip imtis atitinkamų veiksmų prieš bet kokią neteisėtą veiklą, kuri gali vykti mūsų platformoje.

Mes taip pat tiesiogiai bendradarbiaujame su teisėsauga Nigerijoje, kur kyla daug sekso išnaudojimo atvejų, siekdami stiprinti gebėjimus ir žinias tirti ir patraukti baudžiamojon atsakomybėn nusikaltėlius, ir planuojame toliau bendradarbiauti su Nigerijos vyriausybe, kad toliau bendradarbiautume šioje srityje. Taip pat dirbome su Tarptautine teisingumo misija, NCMEC, kitais industrijos atstovais ir NVO, siekdami surengti teisėsaugos institucijoms mokymus, kaip tirti kibernetines situacijas šalyse, esančiose už JAV ribų, kur vyrauja seksualinis išnaudojimas.

Jau eilę metų taip pat bendradarbiaujame su tvirtu „patikimų žymėtojų“ būriu: ne pelno siekiančiomis organizacijomis, NVO ir tam tikromis vyriausybinėmis agentūromis, kurios mums praneša apie piktnaudžiavimo atvejus, neišvengiamą grėsmę gyvybei ir kitas neatidėliotinas problemas „Snapchat“ vartotojo vardu per aukšto prioriteto kanalus. Dauguma mūsų Patikimų žymėtojų programos dalyvių praneša apie turinį ir paskyras, susijusias su seksualine žala nepilnamečiams, įskaitant seksualinį išnaudojimą.

II. Įtraukiami pramonės ekspertai ir koalicijos 

Be savo investicijų, mes taip pat bendradarbiaujame su ekspertais visame pasaulyje, nes žinome, kad joks subjektas ar organizacija atskirai negali reikšmingai išspręsti šių problemų. Pavyzdžiui, Snap atstovauja pramonei WeProtect Global Alliance tarptautinėje politikos valdyboje; esame INHOPE patariamosios tarybos nariai ir JK Internet Watch Foundation (IWF) patikėtinių taryboje. Visų šių organizacijų pagrindinis tikslas yra kovoti su CSEA.

Tebesame aktyvūs Tech Coalition – pasaulinio pramonės aljanso, kurio pagrindinis dėmesys skiriamas kovai su seksualiniu vaikų išnaudojimu ir prievarta internete, nariai, ir neseniai baigėme dvejų metų kadenciją jos Direktorių valdybos vykdomajame komitete. Taip pat buvome iniciatyvos Tech Coalition’s Lantern, pirmosios kelių platformų signalų dalijimosi programoje, skirtos įmonėms, kurios yra skirtos stiprinti vaikų saugos politikos įgyvendinimą, – steigėjai. Aktyviai dalyvaudamos šioje programoje įmonės gali padėti viena kitai kryžmiškai patikrinti, ar nėra blogų veikėjų, įskaitant sekso piktadarius.

Be to, pasitelkiame Nacionalinio dingusių ir išnaudojamų vaikų centro (NCMEC) Take It Down duomenų bazę, kuri leidžia nepilnamečiams tiesiogiai savo įrenginiuose generuoti pasirinktų vaizdų ar vaizdo įrašų skaitmeninį piršto atspaudą. Dalyvaujančios įmonės, įskaitant „Snap“, gali naudoti šias groteles, kad ieškotų ir pašalintų pasikartojančius vaizdus, ​​​​pažeidžiančius mūsų Bendruomenės gaires. Mes dalyvaujame panašioje JK programoje, pavadintoje Report Remove, o praėjusiais metais prisijungėme prie SWGfL StopNCII bendradarbiavimo, kad padėtume užkirsti kelią intymių vaizdų (NCII) plitimui "Snapchat" sistemoje, panaudojant šios grupės duomenų bazę. StopNCII padeda sustabdyti intymių 18 metų ir vyresnių asmenų vaizdų platinimą ir suteikia nukentėjusiems galimybę susigrąžinti privatumą savo privačioms nuotraukoms ir vaizdo įrašams.

Šiais metais mes taip pat pristatėme inauguracinę skaitmeninės gerovės tarybą „Snap Council for Digital Well-Being“ – grupė, kurią sudaro 18 paauglių iš visos JAV, atrinkta dalyvauti metus trunkančioje bandomojoje programoje, skatinančioje saugesnius interneto įpročius ir praktiką jų mokyklose ir bendruomenėse. Liepos mėnesį ši grupė kartu su bent vienu iš tėvų ar palydovų susirinko „Snap“ būstinėje Santa Monikoje, Kalifornijoje, diskutuoti; tai suteikė įdomių įžvalgų tokiomis temomis kaip interneto spąstai ir socialinė dinamika bei tėvų įrankiai. Tai papildoma „Snap“ Saugos patariamoji taryba, kurią sudaro 16 specialistų ir trys jaunimo advokatai, teikiantys tiesiogines gaires ir nurodymus „Snap“ saugos klausimais. Laukiame 2025 m., kai tikimės sukurti daugiau galimybių abiejų grupių nariams susiburti ir atskleisti papildomų įžvalgų.

III. Sąmoningumo įvedimas

Be mūsų vidinių investicijų ir darbo su ekspertais bei įvairių pramonės šakų atstovais, svarbus komponentas kovojant su seksualinės prievartos internete ir sekso prievartos schemomis yra visuomenės ir „Snapchat“ vartotojų informuotumo didinimas.

2022 m. mes pristatėme Skaitmeninį gerovės indeksą, tai industrijoje pirmaujantis tyrimas, leidžiantis suprasti, kaip paaugliams ir jauniems suaugusiems sekasi internete visose platformose. Atlikdami šį tyrimą, pastaruosius dvejus metus mes gilinomės į seksualinį išnaudojimą. Kadangi šis tyrimas apima patirtį internete apskritai, ne tik „Snapchat“, jis ne tik padeda informuoti mūsų darbą, bet tikimės, kad jis taip pat suteiks įžvalgų apie kitas technologijų ekosistemas. Vėliau šį mėnesį kartu su būsimu Technologijų koalicijos virtualiu kelių suinteresuotųjų šalių forumu apie nepilnamečių finansinį išnaudojimą pasidalinsime Antrųjų metų seksualinio išnaudojimo rezultatais.

Anksčiau šiais metais mums buvo didelė garbė būti pirmaisiais, palaikiusiais Know2Protect, pirmąją tokio pobūdžio visuomenės informavimo kampaniją, kurią šių metų pradžioje pradėjo taikyti JAV Tėvynės saugumo departamentas (DHS). Kampanija ugdo ir įgalina jaunimą, tėvus, patikimus suaugusiuosius ir politikos formuotojus, padedančius užkirsti kelią nusikaltimams, pvz., finansiniam išnaudojimui, ir su jais kovoti. Be to, kad dovanojame reklamos plotą Snapchat K2P švietimo ištekliams, atliekame papildomus tyrimus su paaugliais ir jaunais suaugusiaisiais JAV, kad gautume daugiau informacijos apie kampaniją. Mes taip pat bendrai pristatėme papildytos realybės „Snapchat“ Lens, padedantį suteikti žinių „Snapchat“ vartotojams interaktyvios „Know2Protect“ viktorinos pagalba. O JK iki šiol rėmėme IWF plačią visuomenės informuotumo didinimo kampaniją šiais klausimais, Gurls Out Loud, skirtą informuoti 11–13 metų mergaites apie seksualinį viliojantį internetinį seksą ir nuogų vaizdų siuntimą. Be to, neseniai pristatėme „Snapchat“ mokytojų vadovą, „Snapchat“ vadovą mokytojams, bendradarbiaudami su Saugiomis ir patikimomis mokyklomis, kad sukurtume visapusį pedagogams skirtą įrankių rinkinį, kuriame būtų pateikiama informacija ir gairės, kaip kovoti su seksualiniu išnaudojimu.

Remdamiesi ilgamečiais tyrimais, žinome, kad informuotumo didinimas ir bendruomenės švietimas yra galingi įrankiai, padedantys užkirsti kelią žalai internete, todėl toliau kuriame ir reklamuojame programoje esančius išteklius, kad paauglius ir jaunuolius jie pasiektų tiesiogiai „Snapchat“ platformoje. 2023 m. rugsėjo mėn. išleidome naują programėlės funkciją “Saugūs Snapshot” siužetai, sutelkiant dėmesį į seksualinę riziką ir žalą, įskaitant finansinį išnaudojimą. Taip pat siūlome siužetus apie sekstingą ir nuogų vaizdų kūrimo bei dalijimosi, vaikų viliojimo seksualiniais tikslais internete ir prekybos vaikais seksualiniais tikslais pasekmes. Visus šiuos išteklius peržiūrėjo Nacionalinio dingusių ir išnaudojamų vaikų centro (NCMEC) ekspertai ir jie buvo sukurti bendradarbiaujant su atitinkamomis karštosiomis linijomis ir pagalbos linijomis pagrindinėse geografinėse vietovėse.

Mes ir toliau kovojame su seksualiniu vaikų išnaudojimu ir prievarta internete, tačiau dar reikia nuveikti daugiau. 2025 m. toliau didinsime informuotumą apie galimą žalą internete ir kartosime, kad bet kas gali būti potencialus taikinys. Norime kuo anksčiau užfiksuoti nepageidaujamus asmenis ir juos sutrukdyti, o teisėsaugai norime parengti dar veiksmingesnius kibernetinius patarimus.

Svarbu pažymėti, kad kovodami su kitomis didžiulėmis žalomis, pvz., neteisėta narkotikų veikla, įskaitant padirbtų tablečių pardavimą, grasinimus smurtu ir savižudybių bei savęs žalojimo turiniu, naudojame daugelį tų pačių strategijų. Suprantame, kad mūsų darbas šioje erdvėje niekada nebus užbaigtas, bet mums labai rūpi „Snapchat“ vartotojų saugumas ir toliau bendradarbiausime su industrijos, vyriausybės ir teisėsaugos atstovais, siekdami keistis informacija ir sustiprinti apsaugą.