A Snap mélyen elkötelezett a Snapchat közösség biztonsága mellett. Célunk, hogy segítsünk megvédeni a felhasználókat a digitális ökoszisztémát átfogó online kockázatok és potenciális károk széles skálájától, beleértve a gyermekek szexuális kizsákmányolásával és bántalmazásával (CSEA) kapcsolatos visszataszító bűncselekményeket. A Snap évek óta küzd ezen illegális tartalmak és aljas bűnözői magatartás ellen, proaktív felderítési és reaktív válaszintézkedéseket egyaránt alkalmazva a Snapchat alkalmazásban. Az elmúlt évben további változtatásokat hajtottunk végre a kapcsolódó irányelveinken és folyamatainkon azzal a szándékkal, hogy segítsünk az elkövetőket bíróság elé állítani. Szeretnénk itt többet megosztani erről a munkáról.

Mi az a CSEA?

A gyermekek szexuális kizsákmányolása és bántalmazása a kiskorúak szexuális bántalmazásával járó illegális tevékenységek széles körét fedi le, beleértve: a gyermekek szexuális kizsákmányolásáról és bántalmazásáról készült képek (CSEAI) megtekintését, előállítását és terjesztését, beleértve a mesterséges intelligencia által generált fényképek és videók újabb fenyegetését; a kiskorúak online szexuális célú ápolását vagy csábítását; ¹szexuális zsarolás; ²szexuális célú gyermekkereskedelem; és a szexuálisan bántalmazott és kínzott gyermekek élő közvetítése. ³Nehéz felfogni, hogy ezek a visszataszító valóságok valóban léteznek. De sajnos az ilyen bántalmazás mindig is létezett – és a digitális világ most a bántalmazás alternatív eszközét kínálja, kiterjesztve az elkövetési módokat, hogy gyorsabbak és messzebbre hatóak legyenek.

„A technológia alapvetően megváltoztatta azt, ahogyan a gyermekek iránt szexuálisan érdeklődők fantáziálnak róluk, hozzáférnek hozzájuk és zsákmányul ejtik őket” – mondta Ernie Allen, a londoni székhelyűWeProtect Global Alliance. „ANew York Timesazt írta: „Az online gyermekek szexuális kizsákmányolásának válsága törésponton van.” Megjegyezte, hogy a jelentések száma egyre nő, az elkövetők egyre fiatalabb áldozatokról és egyre szörnyűbb bűncselekményekről osztanak meg képeket, a bűnüldöző szervek pedig nehezen tudnak lépést tartani. Ha ehhez a kihíváshoz újabb változatokat adunk, mint például a szexuális zsarolást, amely az FBI jelentése szerint 7200%-kal nőtt, az élőben közvetített bántalmazást és másokat, egyértelmű, hogy ennek a problémának világszerte a politikai napirendek élén kellene állnia” – tette hozzá.

A technológiai vállalatok jogi kötelezettségei

Amikor az amerikai technológiai vállalatok tudomást szereznek a CSEA-ról a platformjaikon vagy szolgáltatásaikon, jogi kötelességük jelenteni azt az Eltűnt és Kizsákmányolt Gyermekek Nemzeti Központjának (NCMEC). Az NCMEC ezután felülvizsgálja ezeket a kiber-tippeket, és kapcsolatot tart a hazai és a nemzetközi bűnüldöző szervekkel, hogy segítsen megvédeni a gyermekáldozatokat és megbüntetni az elkövetőket.

A tavalyi évig az NCMEC-hez beérkezett kiber-tippek éves összesítése nagyrészt évről évre emelkedett, és rekordot jelentő 36,2 millió jelentéssel tetőzött ⁴2023-ban, szemben a 2022-es alig több mint 32 millióval és az 1998-as 4560-nal, amikor az NCMEC kiber-tipp vonalát létrehozták. A kiber-tippek számának ez a rekordmértékű emelkedése – más tényezők mellett, beleértve a szexuális zsarolás globális szintű folyamatos növekedését és a bűnüldöző szervektől kapott visszajelzéseket a saját kiber-tippjeink végrehajthatóságáról – késztette a Snapet arra, hogy 2024-ben először forduljon az NCMEC-hez a kiber-tipp jelentéseink újrakalibrálása érdekében.

Több éven keresztül figyelemmel kísértem a kiber-tippek jelentését, és szilárdan hiszem, hogy egyes technológiai vállalatok gyakorlata a jelentések felé tendáltmindentaz NCMEC-nek – még a jogi kötelezettségükön felül is –, attól tartva, hogy azzal vádolják őket, hogy kihagytakvalamit. ⁵A törvény által előírt jelentéstételi kötelezettséget elmulasztó vállalatok súlyos bírságokkal sújthatók. De ez a jelentéstételi megközelítés, párosulva számos jelentés alacsony végrehajthatóságával (akár azért, mert a kiber-tippek nem tartalmaznak elegendő kontextust a bűnüldöző szervek számára a cselekvéshez, akár azért, mert a jelentett magatartás bizonyos esetekben nem prioritás számukra), a kiber-tippek felhalmozódásához, többszörös, kiterjedt felülvizsgálatokhoz és a bűnüldöző szervek körében növekvő frusztrációhoz vezetett.

Cél: Nagy értékű kiber-tippek

Az NCMEC-vel végzett újrakalibrálásunk célja az volt, hogy tovább növeljük a Snap kiber-tippjeinek végrehajthatóságát és értékét a saját platformszabályzataink és az NCMEC-nek történő jelentéstételre vonatkozó protokolljaink finomításával. Ez a kezdeti újrakalibrálás 2024 májusában történt, és az irányelv-módosításaink a tavalyi év második felében léptek teljes mértékben hatályba.

Bár önmagában nem szabad túl nagy hangsúlyt fektetnünk a jelentések puszta számára, az irányelveink finomítása óta a Snap örömmel osztja meg, hogy jelentős csökkenést tapasztaltunk az NCMEC-nek küldött jelentéseink teljes mennyiségében, és hasonló csökkenést az online csábítás miatti eszkalációkban – mindezt úgy, hogy közben továbbra is teljesítjük a CSEA kiber-tippekben történő jelentésére vonatkozó jogi kötelezettségeinket. Az alacsonyabb összesített számok azonban még nem szűrődtek át az NCMEC éves jelentési mennyiségébe, mivel a változtatásokat 2024 végén vezették be, így az évből csak néhány teljes hónap maradt a módosítások tükrözésére.

Ezzel párhuzamosan csapatunk azon dolgozik, hogy javítsa a kiber-tippjeinkben szereplő adatokat és címkézést. Az ilyen pontosítások segíthetnek a feltételezett bűncselekmények és az érintett személyek jobb azonosításában, és ezáltal lehetővé teszik a jelentések gyorsabb és pontosabb osztályozását az NCMEC és a bűnüldöző szervek által. Még akkor is, ha az NCMEC-nek történő jelentéstétel nem indokolt, a Snap továbbra is fellép a platformszabályzatunkat sértő képekkel és viselkedésekkel szemben – ami magában foglalhatja a jogsértő tartalom eltávolítását, a fiók letiltását és az új fiókok létrehozásának megakadályozására irányuló törekvést.

Újrakalibrálási ellenőrzőpont

A múlt hónapban tartottunk egy második újrakalibrálást az NCMEC-vel, ahol a Snap csapata összefoglalta a tavalyi belső irányelv-módosításokat; tájékoztatta az NCMEC-t az elért haladásunkról; megerősített néhány további működési iránymutatást; és segített meghatározni a következő hónapokra vonatkozó elvárásokat. Előzetesen bemutattunk néhány további tervezett irányelv- és jelentési kiegészítést is, amelyek reményeink szerint tovább növelik a jelentéseink értékét mind az NCMEC, mind a bűnüldöző szervek számára. Természetesen ez egy iteratív folyamat, de bizakodóak vagyunk az elmúlt évben elért haladás miatt.

Előretekintés

Idővel arra számítunk, hogy az NCMEC és a bűnüldöző szervek a korábbi évekhez képest továbbra is csökkentett mennyiségű kiber-tippet fognak látni a Snaptől, de a kapott tippek nagyobb százalékadojobb minőségű információkat tartalmaz majd, és jobban végrehajtható lesz.

Elkötelezettek vagyunk a biztonsági munkánk minden aspektusának folyamatos fejlesztése mellett. Nem teszünk úgy, mintha mindenre tudnánk a választ a CSEA vagy bármely más lehetséges online kár elleni küzdelemben; senkinek sem kellene, mert senki sem tudja. Nap mint nap az egész társadalmat érintő problémákkal küzdünk, és egy egészvállalatimegközelítést alkalmazunk – a kockázat mérséklésének és a kár csökkentésének végső kettős céljával.

A kiber-tippjeinket illetően egyértelmű célunk van a nem túl távoli jövőre nézve: Legyen szó egy állami, a gyermekek elleni internetes bűncselekményekkel foglalkozó munkacsoport (ICAC) parancsnokáról, egy szövetségi nyomozóról vagy egy bűnüldöző szerv tagjáról a világ másik felén, azt akarjuk, hogy az állami, szövetségi és nemzetközi hatóságok magabiztosan kövessék a Snaptől származó kiber-tippeket, mert tudják, hogy jelentéseinkre következetesen támaszkodhatnak, mint végrehajtható, értékes és alapos információkra. És reméljük, hogy ezek az erőfeszítések hozzájárulnak a kapcsolódó letartóztatások számának megfelelő növekedéséhez ⁶és elítélésekhez világszerte.

Hatalmas „köszönet” az NCMEC-nek, a WeProtectnek, az Egyesült Államok 61 ICAC munkacsoportjának, a bűnüldöző szerveknek világszerte, valamint minden kollégánknak és együttműködőnknek a CSEA elleni küzdelem területén – és egy további megjegyzés, hogy továbbra is nyitottak vagyunk és várjuk a visszajelzéseiket stratégiáink és megközelítéseink további javítása érdekében. Mindannyian együtt vagyunk ebben.

- Jacqueline Beauchere, a platformbiztonság globális vezetője