Pomoč mladim, da uspevajo v digitalnem svetu, vključuje pogled onkraj poenostavljenih pripovedi, ki življenje na spletu prikazujejo bodisi kot samo po sebi dobro ali samo po sebi slabo. Osredotočiti se moramo tudi na pristne, vsakodnevne izkušnje generacije Z, da bi razumeli, kaj jim omogoča, da uspevajo. Ker vstopamo v novo obdobje, ki ga zaznamuje hiter vzpon generativne umetne inteligence, je naša zavezanost utemeljitvi našega varnostnega dela v objektivnih raziskavah bolj pomembna kot kdaj koli prej. Ta nam bo pomagala zagotoviti, da Snapchat ostane komunikacijska storitev, osredotočena na pristnost, povezavo, pripadnost in povezovanje.

Danes delimo nekaj novih izsledkov iz petega in zadnjega leta naše raziskave Indeksa digitalnega blagostanja (DWBI), natančneje rezultate, osredotočene na razvijajoče se področje vsebin, ustvarjenih z umetno inteligenco, in njihov vpliv na medosebne odnose.

Zadnjih pet let Snap izvaja raziskavo agnostične platforme, da bi pomagala spremljati in meriti spletno psihološko dobrobit generacije Z. To raziskavo izvajamo, da bi prispevali h globalni bazi dokazov o digitalnih navadah in praksah mladih, prav tako pa pomaga ozaveščati o porajajočih se izzivih, da lahko starši, izobraževalci, tehnološka podjetja, vlade in civilna družba učinkoviteje sodelujejo pri blažitvi tveganj, zmanjševanju morebitne škode in preprečevanju ponovitev. DWBI preučuje izkušnje uporabnikov od 13 do 24 let v šestih državah v širšem digitalnem ekosistemu, namesto da bi se osredotočal na katero koli posamezno platformo, vključno s Snapchatom. Najnovejše ugotovitve iz Avstralije, Francije, Nemčije, Indije, Združenega kraljestva in ZDA vključujejo nove vpoglede v ustvarjanje in distribucijo lažnih slik med generacijo Z.

Javna razprava okoli umetne inteligence pogosto niha med nebrzdanim optimizmom in globoko zaskrbljenostjo. Namesto da bi se zanašali na katero koli skrajnost, najnovejši izsledki DWBI ponujajo na dokazih utemeljen vpogled v to, kako uporabniki stari od 13 do 24 let, na šestih geografskih območjih uporabljajo generativno umetno inteligenco. Te ugotovitve razkrivajo zapleteno in včasih zaskrbljujočo sliko interakcij med vrstniki, ki vključujejo globoke ponaredke. Na primer:

• Skoraj tretjina (30 %) vprašanih, starih od 13 do 24 let, je poročala, da je že ustvarila globoki ponaredek nekoga drugega.

• Več kot polovica (53 %) tistih, ki so ustvarili globoki ponaredek, je poročala, da je dejanje povzročilo »dramo« ali »konflikt« v njihovih družbenih krogih, in

• medtem ko je večina uporabljala orodja generativne umetne inteligence za ustvarjalnost, zabavo in razvedrilo, je več kot tretjina (35 % neto) navedla, da so bili globoki ponaredki, ki so jih ustvarili, narejeni z zlonamernimi nameni, in sicer: da bi koga prikazali v slabi luči ali ga razburili (12 %), iz maščevanja (12 %) ali za zbadanje oziroma nadlegovanje (11 %).

Na vprašanje, kako bi se odzvali specifično na spolni globoki ponaredek s svojo lastno podobo, je velika večina (81 % neto) mladoletnih najstnikov navedla, da bi se z nekom pogovorila, in sicer najpogosteje s starši (65 %). Medtem je sedem od desetih mladih odraslih iz generacije Z (70 %) odgovorilo, da bi zadevo prijavili, pri čemer bi se najpogosteje obrnili na organe pregona (53 %) in tehnološke platforme (51 %). Več kot eden od desetih mladoletnih najstnikov (18 %) in več kot dva od desetih uporabnikov med 18 in 24 let (22 %) je navedlo, da bi zadevo preprosto ignorirali ali pa ne bi sprejeli nobenega od navedenih ukrepov. Spodnji graf prikazuje ponujene možnosti za ukrepanje.

Te ugotovitve poudarjajo ključno resnico: digitalno dobro počutje v 21. stoletju zahteva več kot le tradicionalna varnostna orodja in vire. Zahteva poglobljeno praktično pismenost na področju umetne inteligence. Ko 30 % mladih poroča, da so ustvarili sintetične medije, ki vključujejo njihove vrstnike, ima lahko ta dejavnost posledice za osebne odnose, ugled in posameznikov občutek nadzora nad tem, kako je predstavljen.

V skladu s tem se morajo razprave, usmerjene v politike, odmakniti od odzivov, ki temeljijo na strahu, in se preusmeriti k okviru, ki zajema »celovitega posameznika« današnjih mladih na spletu. Upoštevajmo lahko tri temeljne komponente:

1. Pismenost na področju umetne inteligence: Pomagati mladim razumeti ne le, kako uporabljati umetno inteligenco, temveč tudi etične in družbene posledice ustvarjanja vsebin, ki lahko vključujejo druge brez njihovega soglasja.

2. Osebni nadzor: Opolnomočiti mlade, da prepoznajo meje in si prizadevajo ohraniti nadzor nad lastno digitalno podobo, in

3. Odprta komunikacija: Spodbuditi najstnike, starše, izobraževalce in druge zaupanja vredne odrasle k odprtim in premišljenim pogovorom o kakovosti digitalnih interakcij v primerjavi z njihovo količino, ob zavedanju, da ima lahko vsak globoki ponaredek, ustvarjen celo »iz šale«, trajne posledice za druge.

Mimogrede, na vprašanje, kje in od koga so se naučili varne in odgovorne uporabe orodij umetne inteligence, je osem od deset uporabnikov, starih od 13 do 24 let (81 % neto), odgovorilo, da so samouki. Četrtina (27 %) uporabnikov, starih od 13 do 17 let, je dejala, da se učijo od svojih staršev, medtem ko je bil učitelj eden od 10 baz znanja najstnikov (11 %) in mladih odraslih (10 %).

Ti izsledki so del petletne raziskave družbe Snap o psihološkem blagostanju generacije Z na spletu na različnih platformah in predstavljajo najnovejši ter hkrati zadnji del našega Indeksa digitalnega blagostanja (DWBI) – merila, ki ugotavlja, kako se najstniki (stari od 13 do 17 let) in mladi odrasli (stari od 18 do 24 let) znajdejo na spletu v šestih državah. Anketirali smo tudi starše otrok, starih od 13 do 19 let, o spletnih izkušnjah njihovih najstnikov. Ta zadnja anketa je bila izvedena med 11. in 30. majem 2026 in je vključevala 9005 anketirancev iz treh starostnih skupin in šestih geografskih območij. Celotni rezultati, vključno z najnovejšimi vrednostmi DWBI za posamezno državo in za vseh šest skupaj, bodo objavljeni ob dnevu varne rabe interneta februarja 2027. Odločili smo se, da te izsledke, povezane z umetno inteligenco, predčasno damo na voljo, glede na potekajočo globalno razpravo o številnih od teh vprašanj.

Medtem ko zaključujemo to petletno poglavje proučevanja digitalnega dobrega počutja in razvijamo svoj raziskovalni fokus za naslednjih nekaj let, naše poslanstvo ekosistema ostaja jasno:  ustvariti spletne prostore, kjer se lahko mladi čim bolj varno in pristno učijo, se smejejo ter se povezujejo. Porast globokih ponaredkov je opomnik, da se morajo z razvojem tehnologije razvijati tudi naša operativna in izobraževalna prizadevanja. Z nadaljnjim osredotočanjem na pismenost, odpornost in kritično mišljenje lahko pomagamo zagotoviti, da naslednja generacija ne bo le »preživela« na spletu, temveč da resnično uspeva.

V podporo tem prizadevanju je Snap prejšnji mesec napovedal, da videoposnetki, v celoti ustvarjeni z umetno inteligenco, ne bodo več upravičeni do priporočila v funkciji V žarišču v aplikaciji Snapchat. Ker postaja nizkokakovostna, ponavljajoča se vsebina, ustvarjena z umetno inteligenco, vse pogostejša v spletnih prostorih, Snap želi, da Spotlight ostane kraj, kjer lahko ljudje odkrivajo pristno ustvarjalnost resničnih ljudi. Ustvarili smo tudi kratek informativni list za starše in najstnike o gradivu, ustvarjenem z umetno inteligenco. »Stop. Razmisli. Ali bi lahko bila to umetna inteligenca?« je zasnovano tako, da sproži pogovore med najstniki, starši in drugimi zaupanja vrednimi odraslimi o varni in odgovorni uporabi orodij umetne inteligence. Sodelujemo tudi s številnimi drugimi skupinami in organizacijami ter smo prvi podprli kampanjo Know2Protect Ministrstva za domovinsko varnost ZDA, s katero smo ozaveščali o spolnem izkoriščanju in zlorabi otrok. Know2Protect je tukaj objavil primer o globokih ponarejanjih.   

Na področju javne politike je Snap podprl Zakon Take It Down (Zakon o odstranitvi spolnih slikovnih posnetkov), ki je začel veljati maja 2025 in vzpostavil zvezni okvir ZDA za obravnavanje neprivoljenih intimnih posnetkov, vključno z vsebino, ustvarjeno z umetno inteligenco. Zakon kot zvezno kaznivo dejanje opredeljuje zavestno objavo ali grožnjo z objavo intimnih posnetkov brez privolitve, ne glede na to, ali je gradivo pristno ali sintetično ustvarjeno, hkrati pa od zavezanih platform zahteva, da zagotovijo postopek prijave in prijavljeno vsebino odstranijo v 48 urah.

Podobni pomisleki se odražajo v kampanji »Ne nudizmu«, ki se je začela na dan varnejšega interneta leta 2026 in je združila organizacije za varnost otrok in civilne družbe, od katerih so številni partnerji in sodelavci družbe Snap. Globalno zavezništvo WeProtect, INHOPE, Internet Watch Foundation, NCMEC, Child Helpline International, Offlimits in Safe Online so pozvali k prepovedi orodij za prenehanje uporabe umetne inteligence. Kampanja poudarja, da tako imenovane aplikacije »nudify« v resnici niso neškodljivo eksperimentiranje, temveč se namesto tega uporabljajo za ustvarjanje seksualiziranih podob brez privolitve iz običajnih fotografij in so vse pogosteje povezane z nadlegovanjem, prisilo, spolnim izsiljevanjem ter zlorabami, ki prizadenejo ženske, dekleta in otroke.

Snap sodeluje tudi v praktičnih medpanožnih programih, namenjenih omejevanju širjenja takšnega gradiva v aplikaciji Snapchat. Smo člani programa NCMEC Take It Down za mladoletnike in programa SWGfL’s StopNCII za 18+, pri katerem prejemamo in uporabljamo edinstvene digitalne podpise ali ključnike za pomoč pri odkrivanju podvojenih intimnih slik in odstranjevanju vsebine, ki krši naša pravila. Ta prizadevanja so pomembna, ker se ne osredotočajo le na prvo odkrivanje, temveč tudi na preprečevanje ponovnega kroženja znanih intimnih posnetkov in spolnih ponaredkov, ko se začnejo širiti.

– Jacqueline Beauchere, globalna vodja oddelka za varnost platforme, Snap Inc.