Snap on sügavalt pühendunud Snapchati kogukonna turvalisusele. Meie eesmärk on aidata kaitsta kasutajaid mitmesuguste veebiriskide ja võimalike kahjude eest, mis hõlmavad kogu digitaalset ökosüsteemi, sealhulgas jälestusväärseid kuritegusid, mis on seotud laste seksuaalse ärakasutamise ja väärkohtlemisega (CSEA). Snap on aastaid võidelnud selle ebaseadusliku sisu ja alatu kuritegeliku käitumise vastu, kasutades Snapchati rakenduses nii ennetavaid avastamis- kui ka reageerimismeetmeid. Viimase aasta jooksul oleme teinud täiendavaid muudatusi oma seotud poliitikatesse ja protsessidesse eesmärgiga aidata kurjategijaid vastutusele võtta. Soovime siin sellest tööst rohkem rääkida.

Mis on CSEA?

Laste seksuaalne ärakasutamine ja väärkohtlemine hõlmab mitmesuguseid ebaseaduslikke tegevusi, mis on seotud alaealiste seksuaalse kahjustamisega, sealhulgas: laste seksuaalse ärakasutamise ja väärkohtlemise kujutiste (CSEAI) vaatamine, tootmine ja levitamine, sealhulgas uuem oht tehisintellektiga loodud fotode ja videote näol; alaealiste veebis seksuaalsetel eesmärkidel peibutamine või ahvatlemine; ¹seksuaalne väljapressimine; ²laste seksuaalkaubandus; ja laste seksuaalse väärkohtlemise ja piinamise otseülekanne. ³On raske mõista, et need vastikud reaalsused on tegelikult olemas. Kuid kahjuks on selline väärkohtlemine alati eksisteerinud – ja digitaalne maailm pakub nüüd alternatiivseid väärkohtlemise vahendeid, laiendades kuritegevuse viise, muutes need kiiremaks ja kaugeleulatuvamaks.

„Tehnoloogia on põhjalikult muutnud seda, kuidas need, kellel on seksuaalne huvi laste vastu, neist fantaseerivad, neile ligi pääsevad ja neid saagiks peavad,“ ütles Londonis asuvaWeProtect Global Alliance. „New York Timeskirjutas: „Laste seksuaalse ärakasutamise kriis veebis on murdepunktis.“ Ajaleht märkis, et teadete arv kasvab, kurjategijad jagavad pilte noorematest ohvritest ja jõhkramatest kuritegudest ning õiguskaitseorganid näevad vaeva, et sammu pidada. Kui lisada sellele väljakutsele uusi variatsioone, nagu seksuaalne väljapressimine, mis FBI andmetel on kasvanud 7200%, väärkohtlemise otseülekanne ja muud, on selge, et see probleem peaks olema ülemaailmsete poliitiliste tegevuskavade tipus,“ lisas ta.

Tehnoloogiaettevõtete juriidilised kohustused

Kui USA tehnoloogiaettevõtted saavad teada CSEA-st oma platvormidel või teenustes, on neil seaduslik kohustus sellest teatada riiklikule kadunud ja ärakasutatud laste keskusele (NCMEC). NCMEC vaatab seejärel need kübervihjed läbi ja teeb koostööd nii siseriiklike kui ka rahvusvaheliste õiguskaitseorganitega, et aidata kaitsta lapsohvreid ja karistada kurjategijaid.

Kuni eelmise aastani oli NCMEC-le saadetud kübervihjete aastane koguarv aasta-aastalt suures osas kasvanud, ulatudes rekordilise 36,2 miljoni teateni ⁴aastal 2023, võrreldes veidi üle 32 miljoniga 2022. aastal ja 4560-ga 1998. aastal, kui NCMEC-i kübervihjeliin loodi. Just see kübervihjete rekordiline kasv – lisaks muudele teguritele, sealhulgas seksuaalse väljapressimise jätkuv kasv kogu maailmas ja õiguskaitseorganitelt saadud tagasiside meie enda kübervihjete rakendatavuse kohta – ajendas Snapi 2024. aastal esmakordselt NCMEC-i poole pöörduma, et oma kübervihjetest teatamist ümber kalibreerida.

Olen mitme aasta jooksul jälginud kübervihjetest teatamist ja usun kindlalt, et mõnede tehnoloogiaettevõtete praktika on kaldunud teatamakõigestNCMEC-le – isegi üle oma seadusliku kohustuse – kartuses, et neid süüdistatakse millegi kahe silma vahele jätmisesmillegi. ⁵Ettevõtted, kes ei teata vastavalt seadusele, võivad saada kopsakaid trahve. Kuid see lähenemine teatamisele, millele lisandub paljude teadete vähene rakendatavus (kas seetõttu, et kübervihjetel puudub piisav kontekst õiguskaitseorganite tegutsemiseks või kuna teatatud käitumine ei ole mõnel juhul nende jaoks prioriteet), on toonud kaasa kübervihjete kuhjumise, mitmed ulatuslikud ülevaatused ja suurenenud frustratsiooni õiguskaitseorganite seas.

Eesmärk: suure väärtusega kübervihjed

Meie NCMEC-ga tehtud ümberkalibreerimise eesmärk oli veelgi suurendada Snapi kübervihjete rakendatavust ja väärtust, täiustades oma platvormi poliitikaid ja protokolle, mis meil on NCMEC-le teatamiseks. See esialgne ümberkalibreerimine toimus 2024. aasta mais ja meie poliitikamuudatused jõustusid täielikult eelmise aasta teises pooles.

Kuigi me peaksime vältima liigset rõhuasetust pelgalt teadete arvule eraldi, on Snapil hea meel teatada, et pärast meie poliitika täiustuste rakendamist oleme näinud olulist langust meie üldises teatamismahus NCMEC-le ja sarnast langust veebis peibutamise eskaleerumises – seda kõike täites endiselt oma seaduslikke kohustusi teatada CSEA-st kübervihjetes. Madalamad koguarvud ei ole aga veel NCMEC-i iga-aastastesse teatamismahtudesse jõudnud, kuna muudatused rakendati 2024. aasta lõpus, jättes muudatuste kajastamiseks vaid mõned täiskuud aastast.

Paralleelselt on meie meeskond töötanud meie kübervihjete andmete ja märgistamise parandamise nimel. Sellised selgitused aitavad paremini tuvastada väidetavaid kuritegusid ja asjassepuutuvaid isikuid ning omakorda võimaldavad NCMEC-l ja õiguskaitseorganitel teateid kiiremini ja täpsemalt sorteerida. Isegi kui NCMEC-le teatamine ei pruugi olla õigustatud, jätkab Snap meie platvormi poliitikat rikkuvate kujutiste ja käitumisviiside käsitlemist, võttes meetmeid – mis võivad hõlmata rikkuva sisu eemaldamist, konto keelamist ja uute kontode loomise blokeerimist.

Ümberkalibreerimise kontrollpunkt

Eelmisel kuul korraldasime NCMEC-ga teise ümberkalibreerimise, kus Snapi meeskond võttis kokku eelmise aasta sisepoliitika muudatused, teavitas NCMEC-d meie edusammudest, kinnitas mõned täiendavad tegevusjuhised ja aitas seada ootusi tulevasteks kuudeks. Samuti andsime eelvaate mõnedest täiendavatest kavandatud poliitika- ja teatamislisadest, mis loodetavasti suurendavad jätkuvalt meie teadete väärtust nii NCMEC-le kui ka õiguskaitseorganitele. Loomulikult on see iteratiivne protsess, kuid meid julgustab viimase aasta edusamm.

Tulevikku vaadates

Aja jooksul eeldame, et NCMEC ja õiguskaitseorganid võivad jätkuvalt näha Snapi kübervihjete mahtude vähenemist võrreldes eelmiste aastatega, kuid suurem protsent neist, mida nadsiiskisaavad, peaksid sisaldama kvaliteetsemat teavet ja olema paremini rakendatavad.

Oleme pühendunud pidevale täiustamisele kõigis oma ohutustöö aspektides. Me ei teeskle, et meil on kõik vastused CSEA või mis tahes muu võimaliku veebikahju vastu võitlemisel; keegi ei peaks, sest kellelgi ei ole. Päevast päeva võitleme me kogu ühiskonda hõlmavate probleemidega ja me kasutame koguettevõttelähenemist – mille lõppeesmärk on riski leevendamine ja kahju vähendamine.

Mis puudutab meie kübervihjeid, siis meil on lähitulevikuks selge eesmärk: olgu tegemist osariigi lastevastaste internetikuritegude töörühma (ICAC) komandöri, föderaaluurija või õiguskaitseorgani liikmega poolel teel ümber maailma, me tahame, et osariigi, föderaal- ja rahvusvahelised ametiasutused tegeleksid enesekindlalt Snapi kübervihjetega, sest nad teavad, et meie teated on järjepidevalt usaldusväärsed, rakendatavad, väärtuslikud ja põhjalikud. Ja me loodame, et need jõupingutused aitavad kaasa vastavale kasvule seotud vahistamistes ⁶ja süüdimõistmistes üle kogu maailma.

Suur „aitäh“ NCMEC-le, WeProtectile, 61 ICAC-i töörühmale USA-s, õiguskaitseorganitele üle maailma ning kõigile meie kolleegidele ja koostööpartneritele CSEA-vastase võitluse maastikul – ja lisamärkusena, et oleme endiselt avatud ja ootame teie tagasisidet, et oma strateegiaid ja lähenemisviise veelgi parandada. Me oleme selles kõik koos.

- Jacqueline Beauchere, platvormi ohutuse ülemaailmne juht