Tehisintellekti tööriistade kiire areng viimastel aastatel on loonud ja loob ka edaspidi uusi võimalusi loovuseks, õppimiseks ja sidemete loomiseks. Samas on see tehnoloogia toonud ka uue dünaamika juba olemasolevatele interneti riskidele. Uued uuringud näitavad, et inimeste arvu kasvades, kes puutuvad internetis kokku seksuaalse sisuga tehisintellekti piltide või videodega, on teadlikkus osa sellise sisu ebaseaduslikkusest jätkuvalt väljakutse.

Selleks, et paremini mõista teismeliste ja noorte täiskasvanute hoiakuid ja käitumist kõigil platvormidel ja teenustes, viib Snap igal aastal läbi ja jagab kogu valdkonda hõlmavat uuringut, mida nimetatakse meie digitaalse heaolu indeksiks.  (Snap tellis selle uuringu, kuid see hõlmab Z-generatsiooni kogemusi digitaalsetes ruumides üldiselt, ilma, et see keskenduks konkreetselt Snapchatile.)  Kuigi me plaanime avaldada meie kolmanda aasta uuringu täielikud tulemused seoses rahvusvahelise turvalisema interneti päevaga veebruaris 2025, tahame anda eelvaate mõnest peamisest järeldusest, kuidas teismelised, noored täiskasvanud ja isegi vanemad suhtlevad ja reageerivad genereeriva tehisintellektipõhise seksuaalse sisuga. Me teeme seda täna, pidades silmas globaalset fookust sel nädalal laste seksuaalse ekspluateerimise ja kuritarvitamisele ning seoses meie osalemisega DC Empowering Voices tippkohtumisel, mis keskendus tehisintellekti poolt loodud seksuaalse sisuga seotud kahjude käsitlemisele. 

Näiteks meie uuringus, milles küsitleti 9007 teismelist, noort täiskasvanut ja teismeliste vanemaid 6 riigis ¹, 24% ütles, et nad on näinud mingisuguseid tehisintellekti poolt loodud pilte või videoid, mis olid oma olemuselt seksuaalset laadi. Nendest, kes väitsid, et on näinud sellist sisu, ütlesid vaid 2%, et piltidel oli kujutatud alla 18-aastaseid isikuid.

Julgustav on see, et kui inimesed nägid sellist sisu, võtsid 9 inimest 10-st mingisuguseid meetmeid, alates sisu blokeerimisest või kustutamisest (54%) kuni usaldusväärsete sõprade või pereliikmetega rääkimiseni (52%). Kuid ainult 42% ütles, et nad teatasid infosisust platvormile või teenusele, kus nad seda nägid või vihjeliinile/abitelefonile. See järeldus järgib laiemat suundumust, mille kohaselt on digitaalse ohutusega seotud probleemide teatamise määr üldiselt madalam. Tõime välja varasemas postituses kui oluline on võidelda negatiivsete arusaamade vastu teavitamise kohta, et noored ei normaliseeriks kokkupuudet teatava problemaatilise sisu ja käitumisega internetis või et nad ei samastaks teavitamist peale kaebamisega. 

Veelgi murettekitavam on see, et rohkem kui 40% vastanutest ei teadvustanud platvormide/teenuste õiguslikku kohustust teatada alaealiste seksuaalsetest piltidest, isegi kui need on mõeldud nalja või meemidena. Ja kuigi suurem osa (70%+) teadvustas, et on ebaseaduslik kasutada tehisintellekti tehnoloogiat, et luua võltsitud seksuaalset sisu isikust või säilitada, vaadata või jagada alaealiste seksuaalseid pilte, näitavad need tulemused, et on vaja teha palju tööd, et tagada üldsuse teadlikkus sellist tüüpi sisuga seotud õiguslikest nõuetest.

Näiteks USAs ütles peaaegu 40% vastanutest, et nende arvates on seaduslik kasutada tehisintellekti tehnoloogiat, et luua võltsitud seksuaalseid pilte inimesest. Ja anekdootlikult oleme kuulnud sama valdkonna kolleegidelt murettekitavast suundumusest: seda tüüpi sisu leviku tõttu tunnevad mõned teismelised tüdrukud end "kõrvalejäetuna", kui nad ei esine tehisintellektiga manipuleeritud seksuaalsetes piltides, mida nende eakaaslased sobimatul viisil loovad ja jagavad. See murettekitav asjaolu rõhutab veelgi vajadust harida ja suurendada teadlikkust sellest konkreetsest internetiriskist, kus usaldusväärsed täiskasvanud ja informeeritud eakaaslased mängivad aktiivset rolli sedalaadi käitumise tõkestamisel.  

Snap'i jätkuv pühendumus

Snapis investeerime pidevalt ressurssidesse, tööriistadesse ja tehnoloogiasse, et aidata kaasa turvalisema, tervislikuma ja positiivsema kogemuse loomisele Snapchatis ja kogu tehnoloogilises ökosüsteemis.

Mõnel juhul kasutame käitumuslikke "signaale", et tuvastada potentsiaalselt ebaseaduslikku tegevust, et saaksime ennetavalt eemaldada pahalased ja teatada neist ametiasutustele. Lisaks sellele, teenusena, mis sisaldab vestlusliku tehisintellekti juturobotit, püüame olla eriti valvsad, et vältida sellise materjali võimalikku loomist Snapchatis, samuti kaitsta teistel platvormidel loodud materjali jagamise ja levitamise eest. Me käsitleme potentsiaalseid alaealistest tehisintellekti abil loodud seksuaalseid kujutisi samamoodi nagu "autentseid" laste seksuaalse ekspluateerimise ja kuritarvitamise kujutisi (CSEAI), eemaldades sisu, kui sellest teada saame, peatades rikkuva konto, ja teatades sellest kadunud ja ekspluateeritud laste riiklikule keskusele (NCMEC). See on lisaks CSEAI leviku vältimiseks mõeldud tehnoloogia, sealhulgas PhotoDNA (teadaolevate ebaseaduslike piltide duplikaatide tuvastamiseks) ja Google'i CSAI Match (teadaolevate ebaseaduslike videode duplikaatide tuvastamiseks), rakendamiseks ja kasutuselevõtmiseks. Samuti hakkasime hiljuti kasutama Google'i Content Safety API-d (mis aitab avastada uudseid, "varasemalt jagamata" pilte avalikus infosisus). Samuti oleme koos NCMECiga tegelenud sellega, kuidas kasutada ära unikaalseid digitaalallkirju (või "hash'e") 4700 raportist , mis nad said eelmisel aastal seoses laste seksuaalse kuritarvitamisega seotud materjaliga, mis hõlmas GenAI-d. 

Me teeme koostööd õiguskaitseorganitega, toetades nende uurimisi ning investeerime suurel määral meie globaalsesse usaldus- ja ohutus- ning õiguskaitseoperatsioonide meeskondadesse, mis töötavad iga päev ööpäevaringselt, et aidata meie kogukonda turvalisena hoida. Me korraldame iga-aastaseid tippkohtumisi USA korrakaitsjatele, eesmärgiga tagamaks, et ametnikud ja asutused teavad, kuidas võtta asjakohaseid meetmeid meie platvormil toimuva ebaseadusliku tegevuse vastu. 

Samuti laiendame jätkuvalt meie rakendusesiseseid raporteerimis tööriistu, mis sisaldavad võimalusi meie kogukonnale alastuse ja seksuaalse sisu äramärkimiseks, ning eriti CSEAI puhul. Probleemsest sisust ja kontodest teatamine on äärmiselt oluline, et aidata tehnoloogiaettevõtetel eemaldada oma teenustest pahalased ja takistada edasist tegevust enne, kui see jõuab teistele kahju tekitada. 

Viimasel ajal lisasime uued funktsioonid meie perekeskuse tööriistakomplekti, mida vanemad saavad kasutada, et paremini mõista, kuidas nende teismeline kasutab Snapchati, sealhulgas meie tehisintellekti juturobot. Samuti avaldasime uued ressursid , et aidata haridustöötajatel ja koolide administraatoritel mõista, kuidas nende õpilased kasutavad Snapchat'i ja milliseid ressursse me pakume, et aidata koolidel luua õpilastele turvalist ja toetavat keskkonda.

Ning me jätkame investeerimist viisidesse avalikkuse ja Snapchatterite teadlikkuse tõstmiseks seksuaalsetest kahjudest internetis. Meie rakendusesisene "Turvalisuse Snapshot" episoodid keskenduvad seksuaalsetele riskidele, sealhulgas sellistele teemadele nagu laste peibutamine internetis ja inimkaubandus. Olime ka esimene üksus, kes toetas initsiatiivi Know2Protect, Ameerika Ühendriikide sisejulgeolekuministeeriumi kampaaniat, mis keskendub noorte, vanemate, usaldusisikute ja poliitikakujundajate harimisele ja võimestamisele seoses laste seksuaalse kuritarvitamisega internetis. 

Jätkame hea meelega koostööd igat liiki sidusrühmadega - näiteks teiste hulgas lapsevanemate, noorte, haridustöötajate ja poliitikakujundajatega -- sellistes kogu ühiskonda hõlmavates küsimustes ning loodame, et meie platvormideülese uuringu tulemused aitavad luua uusi ideid ja võimalusi, et tagada inimeste teadlikkus olemasolevatest ja uutest internetiohtudest ning nende vastu võitlemiseks kättesaadavatest ressurssidest. 

— Viraj Doshi, platvormi ohutuse juht