A mesterséges intelligencia (MI) eszközeinek az utóbbi években tapasztalt gyors terjedése új lehetőségeket teremtett a kreativitás, a tanulás és a kapcsolatteremtés terén. A technológia azonban a meglévő online kockázatoknak is új dinamikát teremtett. Új kutatások azt mutatják, hogy miközben egyre nő azoknak a száma, akik mesterséges intelligencia által készített szexuális töltetű képekkel és videókkal találkoznak az interneten, az ilyen tartalmak egy részének jogellenességével kapcsolatos tudatosság továbbra is kihívás marad.

Annak érdekében, hogy jobban megértsük a tizenévesek és a fiatal felnőttek hozzáállását és viselkedését minden platformon és szolgáltatásban, a Snap éves kutatásokat folytat és oszt meg Digitális jóléti indexünk néven.  (A kutatást a Snap rendelte meg, de az a Z-generáció digitális térben szerzett tapasztalatait általában fedi le, és nem kifejezetten a Snapchat-re fókuszál.)  Bár a harmadik év kutatásának teljes eredményeit 2025. februárjában, a nemzetközi Biztonságosabb internet napjához kapcsolódóan tervezzük közzétenni, előzetesen szeretnénk néhány kulcsfontosságú megállapítást bemutatni arról, hogy a tizenévesek, a fiatal felnőttek, sőt a szülők hogyan viszonyulnak a generatív mesterséges intelligenciával kapcsolatos szexuális tartalmakhoz, és hogyan reagálnak rájuk. Tesszük ezt ma, annak fényében, hogy ezen a héten világszerte a gyermekek szexuális kizsákmányolására és zaklatására összpontosítunk, és az Empowering Voices DC csúcstalálkozón való részvételünk kapcsán, amely a mesterséges intelligenciával generált szexuális tartalmakkal kapcsolatos ártalmak kezelésére összpontosít. 

Például kutatásunkban, amely során 9007 tizenévest, fiatal felnőttet és tizenévesek szüleit kérdeztük meg 6 országban, ¹24%-uk válaszolta, hogy látott már szexuális jellegű, mesterséges intelligenciával generált képeket vagy videókat. Azok közül, akik azt állították, hogy láttak már ilyen tartalmat, csak 2%-uk mondta, hogy a képek 18 évesnél fiatalabb személyt ábrázoltak.

Biztató, hogy amikor az emberek ilyen tartalmakat láttak, 10-ből 9-en tettek valamilyen lépést, a tartalmak blokkolásától vagy törlésétől (54%) kezdve a megbízható barátokkal vagy családtagokkal való beszélgetésig (52%). Azonban csak 42%-uk mondta, hogy a tartalmat jelentették annak a platformnak vagy szolgáltatónak, ahol látták, vagy egy forródrótnak / segélyvonalnak. Ez a tény azt a nagyobb tendenciát követi, hogy a digitális biztonsággal kapcsolatos kérdések bejelentési aránya általában alacsonyabb. Egy korábbi bejegyzésben rámutattunk a bejelentéssel kapcsolatos negatív megítélések ellensúlyozásának fontosságára, hogy a fiatalok ne normalizálják a bizonyos problematikus online tartalmaknak és magatartásoknak való kitettséget, és ne tegyék egyenlővé a bejelentést az árulkodással. 

Még riasztóbb, hogy a válaszolók több mint 40%-a nem volt tisztában azzal, hogy a platformoknak/szolgáltatásoknak jogi kötelezettsége jelenteni a kiskorúakat ábrázoló szexuális képeket, még akkor is, ha az ilyen képeket viccnek vagy mémeknek szánják. És bár meglehetősen sokan (70%-nál többen) felismerték, hogy törvénybe ütköző a mesterséges intelligencia technológiáját arra használni, hogy hamis szexuális tartalmat hozzanak létre valakiről, tilos kiskorúakat ábrázoló szexuális képeket megőrizni, megtekinteni vagy megosztani, ezek az eredmények azt jelzik, még mindig jelentős munka szükséges ahhoz, hogy a közvélemény tisztában legyen az ilyen tartalmakkal kapcsolatos jogi követelményekkel.

Az Egyesült Államokban például a válaszadók közel 40%-a mondta, hogy legálisnak tartja az MI technológia használatát hamis szexuális képek létrehozásához valakiről. És az iparági kollégáktól hallottunk egy aggasztó tendenciáról: az ilyen típusú tartalmak elterjedésével néhány tinilány úgy érzi, hogy „kimarad”, ha nem szerepel az MI által manipulált szexuális tartalmú képeken, amelyeket társaik illetéktelenül hoznak létre és osztanak meg. Ez a nyugtalanító tény még inkább aláhúzza, hogy szükséges az oktatás és a tudatosság növelése ezzel a konkrét online kockázattal kapcsolatban, megbízható felnőttek és tájékozott kortársak aktív szerepe az ilyen típusú viselkedés visszaszorításában.  

A Snap állandó kötelezettségvállalása

A Snapnél folyamatosan befektetünk erőforrásokba, eszközökbe és technológiákba, hogy elősegítsük a biztonságosabb, egészségesebb és pozitívabb tapasztalatokat a Snapchaten és az egész technológiai ökoszisztémában.

Bizonyos esetekben viselkedési „jeleket” használunk a potenciálisan illegális tevékenység azonosítására, hogy proaktívan eltávolítsuk a rosszindulatú szereplőket és jelentsük őket a hatóságoknak. Továbbá, mint olyan szolgáltatás, amely egy társalgási MI chatbotot is tartalmaz, arra törekszünk, hogy megakadályozzuk az ilyen anyagok generálását a Snapchaten, valamint védekezzünk a más platformokon generált anyagok megosztásával és terjesztésével szemben. A kiskorúakról készült, mesterséges intelligenciával generált szexuális képeket úgy kezeljük, mint „hiteles”, gyermekek szexuális kizsákmányolását és bántalmazását ábrázoló képeket (CSEAI), amint tudomást szereztünk a tartalomról, eltávolítjuk azokat, és felfüggesztjük a jogsértő fiókot, és jelentjük azt az Eltűnt és kizsákmányolt gyermekek országos központjának (NCMEC). Mindez a CSEAI elterjedésének megakadályozását célzó technológiák, köztük a PhotoDNA (az ismert illegális képek másolatainak felderítéséhez) és a Google CSAI Match (az ismert illegális videók másolatainak felderítéséhez) felhasználásával és alkalmazásával történik. A közelmúltban kezdtük el használni a Google tartalombiztonsági API-ját is (az új, „még korábban soha nem hash-elt képek” felderítésére a Nyilvános tartalmakban). Az NCMEC-vel is együttműködünk abban a kérdésben, hogy miként használjuk ki a tavaly beérkezett 4700 jelentés, azaz a GenAI-t érintő, gyermekek szexuális zaklatásával kapcsolatos anyagról szóló jelentés egyedi digitális aláírását (vagy „hash-jét”). 

A bűnüldöző szervekkel együttműködünk, támogatjuk a nyomozásaikat, és jelentős összegeket fektetünk be a globális bizalmi és biztonsági, valamint bűnüldözési műveleti csapatainkba, amelyek a nap 24 órájában dolgoznak a közösségünk biztonságának megőrzéséért. Éves konferenciákat tartunk a bűnüldöző szervek számára az Egyesült Államokban, melynek célja, hogy a hatósági munkatársak és szervek tudják, hogy lépjenek fel hatékonyan bármilyen illegális tevékenység ellen, amely esetlegesen megjelenik a platformunkon. 

Tovább bővítjük az alkalmazáson belüli bejelentési eszközeinket is, amelyek a közösségünk számára lehetőséget biztosítanak a meztelenség és a szexuális tartalmak megjelölésére, és különösen a CSEAI bejelentésére is. A problémás tartalmak és fiókok jelentése kulcsfontosságú ahhoz, hogy a technológiai cégek eltávolíthassák a rosszindulatú felhasználókat a szolgáltatásaikból, és megakadályozhassák további tevékenységeiket, mielőtt az esetleg kárt okozna másoknak. 

A közelmúltban új funkciókkal bővítettük a Családi központ eszközcsomagunkat, amellyel a szülők jobban megérthetik, hogyan használja a tizenévesük a Snapchatet, beleértve az MI chatbotunkat is. Új forrásokat is kiadtunk, hogy segítsünk a pedagógusoknak és az iskolai adminisztrátoroknak megérteni, hogyan használják a diákjaik a Snapchatet, és milyen forrásokat kínálunk, hogy segítsük az iskolákat abban, hogy biztonságos és támogató környezetet teremtsenek a diákok számára.

És továbbra is befektetünk abba, hogy növeljük a nyilvánosság és a Snapchat felhasználók tudatosságát az online szexuális ártalmakkal kapcsolatban. Az alkalmazáson belüli „Biztonsági pillanatkép” epizódjaink a szexuális kockázatokra összpontosítanak, beleértve az olyan témákat, mint a gyermekek online zaklatása és az emberkereskedelem. Mi voltunk az első szervezet, amely támogatta a Know2Protect-et, az Egyesült Államok Belbiztonsági Minisztériumának kampányát, amely a fiatalok, a szülők, a megbízott felnőttek és a politikai döntéshozók oktatására és felhatalmazására összpontosított a gyermekek online szexuális zaklatásával kapcsolatban. 

Alig várjuk, hogy továbbra is együtt dolgozhassunk az összes érdekelt féllel – a szülőkkel, a fiatalokkal, a pedagógusokkal és a politikai döntéshozókkal, hogy csak néhányat említsünk – az ilyen típusú, egész társadalmat érintő kérdésekben, és reméljük, hogy a platformokon átívelő kutatásunk segít új ötleteket és lehetőségeket teremteni annak biztosítására, hogy az emberek tisztában legyenek a meglévő és az új online fenyegetésekkel, valamint az e kockázatok leküzdésére rendelkezésre álló forrásokkal. 

— Viraj Doshi, Platform biztonsági vezető