Straujais MI rīku pieaugums pēdējos gados ir radījis un turpinās radīt jauns iespējas radošumam, mācībām un sasaistēm. Taču tehnoloģija ir piešķīrusi jaunu dinamiku arī pastāvošajiem tiešsaistes riskiem. Jauns pētījums rāda, ka, turpinot pieaugt to cilvēku skaitam, kuri tiešsaistē saskaras ar seksuāli uzlādētiem MI attēliem un videoklipiem, noteiktas šāda satura daļas nelikumības apzināšanās joprojām ir izaicinājums.

Lai gūtu labāku izpratni par pusaudžu un jauniešu attieksmi un darbību visās platformās un pakalpojumos, Snap veic un kopīgo ikgadēju nozares mēroga pētījumu, kas tiek dēvēts par mūsu Digitālās labbūtības indeksu. (Snap pasūtīja pētījumu, bet tas aptver Z paaudzes pieredzi digitālajā telpā kopumā, īpaši nekoncentrējoties uz Snapchat.)  Kaut arī pilnos mūsu Trešā gada pētījuma rezultātus plānojam publiskot saistībā ar starptautisko Drošāka interneta dienu 2025. gada februārī, mēs vēlamies iepriekš apskatīt dažus galvenos secinājumus par to, kā pusaudži, jaunieši un pat vecāki saskaras ar un reaģē uz ģeneratīvo MI balstītu seksuāla rakstura saturu. Mēs to darām šodien, ņemot vērā šonedēļas vispasaules fokusu uz bērnu seksuālo ekspluatāciju un izmantošanu, kā arī saistībā ar mūsu piedalīšanos Empowering Voices DC samitā, kurā tika risināti jautājumi par kaitējumu, kas saistīts ar MI ģenerētu seksuāla rakstura saturu.

Piemēram, mūsu pētījumā, kurā tika aptaujāti 9007 pusaudži, jaunieši un pusaudžu vecāki 6 valstīs ¹, 24% teica, ka ir redzējuši kaut kāda veida MI ģenerētus attēlus vai videoklipus, kas bija seksuāla rakstura. No tiem, kuri apgalvoja, ka ir redzējuši šāda veida saturu, tikai 2% teica, ka tie bijuši kāda 18 gadus nesasnieguša cilvēka attēli.

Optimismu vieš tas, ka tad, kad cilvēki redzēja šāda veida saturu, 9 no 10 veica kaut kādu darbību, kas bija no satura bloķēšanas vai dzēšanas (54%) līdz runāšanai ar uzticamiem draugiem vai ģimenes locekļiem (52%). Tomēr tikai 42% teica, ka ziņojuši par šo saturu tai platformai vai pakalpojumam, kurā to redzējuši, vai pa uzticības / palīdzības tālruni. Šis ieskats atbilst lielākai tendencei mazāk ziņot par ar digitālo drošību saistītām problēmām kopumā. Savā agrākā publikācijā mēs norādījām uz to, cik svarīgi ir pretoties negatīvajiem uzskatiem par ziņošanu, lai jaunieši nesāktu uzskatīt pakļaušanu noteiktam problemātiskam saturam un rīcībai tiešsaistē par normālu vai nevienādotu ziņošanu ar sūdzēšanos.

Pat vēl satraucošāk ir tas, ka vairāk kā 40% respondentu nebija skaidrības par platformu/pakalpojumu juridisko pienākumu ziņot par seksuāla rakstura attēliem, kuros redzami nepilngadīgie, pat ja šādi attēli ir domāti kā joki vai mēmes. Un, lai gan lielāks skaits (70%) apzinājās, ka izmantot MI tehnoloģiju falsificēta seksuāla rakstura satura radīšanai vai kopīgot nepilngadīgu personu seksuāla rakstura attēlus ir nelikumīgi, šie secinājumi norāda, ka veicams ievērojams darbs, lai nodrošinātu, ka sabiedrība kopumā zina ar šāda veida saturu saistītās juridiskās prasības.

ASV, piemēram, gandrīz 40% respondentu teica, ka uzskata, ka izmantot MI tehnoloģiju falsificētu personas seksuāla rakstura attēlu radīšanai ir likumīgi. Un atsevišķos gadījumos esam no nozares kolēģiem dzirdējuši par satraucošu tendenci saistībā ar šāda veida satura izplatīšanu, kad konkrēti dažas pusaugu meitenes jūtas "atstātas ārpusē", ja viņas nav iekļautas MI vadītos seksuāla rakstura attēlos, kādus nepiemērotā veidā rada un kopīgo viņu vienaudži. Šis satraucošais aspekts vēl vairāk pasvītro nepieciešamību izglītot un vairot šī specifiskā tiešsaistes riska apzināšanos uzticamu pieaugušo un apzinīgu vienaudžu vidū, kam ir aktīva loma atrunāšanā no šāda veida rīcības.  

Snap nepārtrauktā apņemšanās

Mēs, Snap, nepārtraukti veicam ieguldījumus resursos, rīkos un tehnoloģijā, lai palīdzētu veicināt drošāku, veselīgāku un pozitīvāku pieredzi, lietojot Snapchat, kā arī visā tehnoloģiju ekosistēmā.

Dažkārt potenciāli nelikumīgas darbības identificēšanai mēs izmantojam rīcības radītus "signālus", lai mēs varētu proaktīvi aizvākt ļaunprāšus un ziņot par tiem varas iestādēm. Turklāt, kā pakalpojums, kurā ietilpst sarunām paredzēts MI tēržēšanas bots, mēs cenšamies būt īpaši modri iespējamas šāda materiāla radīšanas lietotnē Snapchat novēršanā, kā arī aizsargāšanā pret tāda materiāla, kas varētu būt radīts citās platformās, kopīgošanu un izplatīšanu. Pret aizdomīgiem MI radītiem nepilngadīgo seksuāla rakstura attēliem mēs attiecamies tāpat kā pret "autentiskiem" bērnu seksuālās ekspluatācijas un izmantošanas attēliem (CSEAI), aizvācot saturu tiklīdz par to uzzinām, apturot pārkāpēju kontu un ziņojot par to Nacionālajam pazudušo un ekspluatēto bērnu centram (NCMEC). Tas tiek darīts papildus tādas tehnoloģijas efektīvai izmantošanai un izvietošanai, kas paredzēta CSEAI izplatības novēršanai, tostarp PhotoDNA (lai atklātu zināmu nelegālu attēlu dublikātus) and Google CSAI Match (lai atklātu zināmu nelegālu videoklipu dublikātus). Mēs nesen sākām izmantot arī Google Content Safety API (lai palīdzētu atklāt jaunus, "nekad iepriekš neiejauktus" attēlus atvēŗtajā saturā). Mēs arī kopā ar NCMEC strādājam pie tā, kā efektīvi izmantot to 4700 ziņojumu, ko viņi saņēma pagājušajā gadā saistībā ar bērnu seksuālas izmantošanas materiālu, kurā iesaistīts GenAI, unikālos digitālos parakstus (jeb “sajaukumus”).

Mēs sadarbojamies ar tiesībsargājošajām iestādēm, atbalstot viņu veiktās izmeklēšanas, un daudz ieguldām mūsu vispasaules Uzticības un Drošības un Tiesībaizsardzības darbību nodaļās, kuras 24/7 strādā, lai palīdzētu uzturēt mūsu kopienu drošu. Mēs rīkojam ikgadējos samitus par tiesībaizsardzību ASV, ar mērķi nodrošināt, ka amatpersonas un aģentūras zina, kā atbilstoši rīkoties nelikumīgu darbību gadījumā, kas var notikt mūsu platformā.

Tāpat mēs turpinām paplašināt mūsu lietotnē esošos ziņošanas rīkus, kas ietver iespējas mūsu kopienai norādīt uz kailumu un seksuāla rakstura saturu, jo īpaši CSEAI. Ziņošana par problemātisku saturu un kontiem ir kritiski svarīga, lai palīdzētu tehnoloģiju uzņēmumiem izņemt ļaundarus no saviem pakalpojumiem un traucēt turpmāku to darbību, pirms tā potenciāli nodara kaitējumu citiem. 

Pavisam nesen mēs pievienojām jaunas funkcijas mūsu Ģimenes centra rīku komplektam, kuru var izmantot vecāki, lai labāk izprastu, kā viņu pusaudzis izmanto Snapchat, tostarp mūsu MI tērzēšanas botu. Mēs publicējām arī jaunus resursus, lai palīdzētu pedagogiem un skolu vadītājiem saprast, kā viņu skolēni izmanto Snapchat, un resursus, kurus piedāvājam, lai palīdzētu skolām viņu centienos radīt drošu un atbalstošu vidi skolēniem.

Un mēs turpinām investēt dažādos veidos sabiedrības un Snapchat lietotāju informētības par seksuālo apdraudējumu tiešsaistē palielināšanai. Mūsu lietotnē esošās “Safety Snapshot” epizodes koncentrējas uz seksuāla rakstura riskiem, ieskaitot tādas tēmas kā bērnu tiešsaistes grūmings un tirdzniecība. Mēs esam arī pirmā organizācija, kas atbalsta Know2Protect, ASV Iekšzemes drošības departamenta kampaņu, kas vērsta uz jauniešu, vecāku, uzticamu pieaugušo un politikas veidotāju izglītošanu un iespēju došanu saistībā ar bērnu seksuālo izmantošanu tiešsaistē. 

Mēs ceram turpināt darbu ar visu veidu ieinteresētajām personām, tostarp vecākiem, jauniešiem, pedagogiem un politikas veidotājiem, par šāda veida sabiedrības mēroga problēmām, un ceram, ka mūsu visu platformu pētījuma ieskati palīdz radīt jaunas idejas un iespējas, lai nodrošinātu, ka cilvēki apzinās pastāvošos un jaunos tiešaistes apdraudējumus un šo risku apkarošanai pieejamos resursus.

— Viradžs Doši, platformas drošības vadītājs