Pomaganje mladima da napreduju u digitalnom svijetu uključuje nadilaženje pojednostavljenih narativa koji život na mreži prikazuju kao sam po sebi dobar ili sam po sebi loš. Moramo se usredotočiti i na autentična, svakodnevna iskustva generacije Z kako bismo razumjeli što im omogućuje napredak. Dok ulazimo u novu eru definiranu brzim rastom generativne umjetne inteligencije, naša predanost utemeljenju sigurnosnog rada na objektivnom istraživanju ključnija je nego ikada – i to će pomoći da Snapchat ostane komunikacijska usluga usmjerena na autentičnost, povezivanje, pripadnost i osjećaj važnosti.

Danas dijelimo neke nove spoznaje iz pete i ujedno posljednje godine naše studije Indeks digitalne dobrobiti (DWBI), posebno rezultate usmjerene na promjenjivi kontekst sadržaja generiranog umjetnom inteligencijom i njegov utjecaj na međuljudske odnose.

Posljednjih pet godina tvrtka Snap je provodila istraživanje neovisno o platformama kako bi pratila i mjerila psihološku dobrobit generacije Z na internetu. Provodimo ovu anketu kako bismo doprinijeli globalnoj bazi dokaza o digitalnim navikama i praksama mladih, a ona pomaže podići svjesnost o novim problemima kako bi roditelji, nastavnici, tehnološke tvrtke, vlade i civilno društvo mogli učinkovitije surađivati na ublažavanju rizika, smanjenju potencijalne štete i sprječavanju ponavljanja. DWBI ispituje iskustva osoba u dobi od 13 do 24 godine u šest zemalja diljem šireg digitalnog ekosustava, umjesto da se usredotočuje na bilo koju pojedinačnu platformu, uključujući Snapchat. Najnovija otkrića iz Australije, Francuske, Njemačke, Indije, Ujedinjenog Kraljevstva i SAD-a uključuju nove uvide o stvaranju i distribuciji deepfake slika među generacijom Z.

Javni diskurs o umjetnoj inteligenciji često se kreće između neobuzdanog optimizma i duboke zabrinutosti. Umjesto da se oslanjaju na bilo koji od ekstrema, najnoviji rezultati DWBI-ja pružaju na dokazima temeljen pregled o tome kako osobe u dobi od 13 do 24 godine u šest geografskih područja komuniciraju s generativnom umjetnom inteligencijom. Ti nalazi otkrivaju složenu i ponekad zabrinjavajuću sliku interakcija između vršnjaka koje uključuju deepfake. Na primjer:

• Gotovo jedna trećina (30 %) ispitanika, u dobi od 13 do 24 godine, izjavila je da je stvorila deepfake druge osobe

• Više od polovice (53 %) onih koji su stvorili deepfake izjavilo je da je ta akcija rezultirala „dramom“ ili „sukobom“ u njihovim društvenim krugovima, i 

• Iako je većina koristila alate generativne umjetne inteligencije za kreativnost, razonodu i zabavu, više od trećine (35 % neto) izjavilo je da su deepfakeovi koje su stvorili napravljeni sa zlonamjernom namjerom, konkretno: kako bi netko izgledao loše ili kako bi ga uzrujali (12 %), u svrhu odmazde (12 %) ili kako bi zadirkivali ili maltretirali drugu osobu (11 %). 

Na pitanje kako bi točno reagirali na seksualni deepfake o sebi, velika većina (ukupno 81 %) maloljetnih tinejdžera izjavila je da bi razgovarali s nekim, točnije s roditeljem (65 %), dok je sedam od 10 mladih odraslih osoba iz generacije Z (70 %) izjavilo da bi to prijavili, pri čemu su im tijela za provedbu zakona (53 %) i tehnološke platforme (51 %) primarni načini prijave. Više od jednog na deset maloljetnih tinejdžera (18 %) i više od dvoje na deset mladih u dobi od 18 do 24 godine (22 %) reklo je da bi to jednostavno ignoriralo ili da ne bi poduzelo nijednu od navedenih radnji. Grafikon u nastavku prikazuje ponuđene opcije za akciju.

Ovi rezultati naglašavaju ključnu istinu: digitalna dobrobit u 21. stoljeću zahtijeva više od tradicionalnih sigurnosnih alata i resursa; zahtijeva duboku, praktičnu AI pismenost. Kada 30 % mladih ljudi izjavi da su stvorili sintetičke medije koji uključuju njihove vršnjake, ta aktivnost može imati posljedice na osobne odnose, ugled i osjećaj kontrole pojedinca nad načinom na koji je prikazan.

Prema tome, razgovori usmjereni na politiku moraju se udaljiti od reakcija temeljenih na strahu i usmjeriti se na okvir koji utjelovljuje „cjelovitu osobu“ mladih na internetu danas. Možemo razmotriti tri temeljne komponente:

1. AI pismenost: Pomoći mladima da razumiju ne samo kako koristiti umjetnu inteligenciju, već i etičke i društvene posljedice stvaranja sadržaja koji može uključivati druge bez njihovog pristanka.

2. Osobna kontrola: Osnažiti mlade ljude da prepoznaju granice i nastoje zadržati kontrolu nad vlastitim digitalnim prikazima i

3. Otvorena komunikacija: Poticanje tinejdžera, roditelja, edukatora i drugih pouzdanih odraslih osoba na otvorene i promišljene razgovore o kvaliteti naspram količine digitalnih interakcija, uz uvažavanje činjenice da svaki deepfake stvoren čak i „kao šala“ može imati trajne posljedice na druge.

Zanimljivo je da na pitanje gdje i od koga su učili sigurno i odgovorno koristiti AI alate, 8 od 10 osoba u dobi od 13 do 24 godine (81 % neto) izjavilo je da su samouki. Četvrtina (27 %) mladih u dobi od 13 do 17 godina izjavila je da uči od svojih roditelja, dok su učitelji bili izvor znanja za svaku desetu osobu među tinejdžerima (11 %) i mlađim odraslim osobama (10 %).

Rezultati su dio petogodišnje studije društva Snap o online psihološkoj dobrobiti generacije Z na različitim platformama i predstavljaju najnoviji i konačni dio našeg Indeksa digitalne dobrobiti (DWBI), mjere toga kako se tinejdžeri (u dobi od 13 do 17 godina) i mlade odrasle osobe (u dobi od 18 do 24 godine) snalaze na internetu u šest zemalja. Također anketiramo roditelje djece od 13 do 19 godina o online iskustvima njihovih tinejdžera. Ova najnovija anketa provedena je između 11. i 30. svibnja 2026. i uključivala je 9.005 ispitanika iz tri demografske dobne skupine i šest geografskih područja. Cjeloviti rezultati, uključujući najnovije očitanje DWBI-ja za svaku zemlju i za svih šest zajedno, bit će objavljeni na Dan sigurnijeg interneta 2027. godine u veljači. Odlučili smo ove nalaze povezane s umjetnom inteligencijom učiniti dostupnim rano s obzirom na kontinuirani globalni dijalog o mnogim od ovih pitanja.

Dok privodimo kraju ovo petogodišnje poglavlje proučavanja digitalne dobrobiti i razvijamo naš istraživački fokus za narednih nekoliko godina, naša misija u cijelom ekosustavu ostaje jasna: izgraditi online prostore u kojima mladi mogu učiti, smijati se i povezivati na što sigurniji i autentičniji mogući način. Porast deepfakeova podsjetnik je da se, kako se tehnologija razvija, s njom moraju razvijati i naši operativni i obrazovni napori. Kontinuiranim fokusom na pismenost, otpornost i kritičko razmišljanje možemo pomoći osigurati da sljedeća generacija ne samo da se „snalazi“ na internetu, već da istinski napreduje.

U znak podrške ovim naporima, prošlog mjeseca tvrtka Snap je najavila da videozapisi generirani u potpunosti umjetnom inteligencijom više neće ispunjavati uvjete za preporuku na značajki Fokus na Snapchatu. Doista, budući da nekvalitetni, ponavljajući sadržaj generiran umjetnom inteligencijom postaje sve češći u online prostorima, Snap želi da Fokus ostane mjesto gdje ljudi mogu otkriti autentičnu kreativnost stvarnih ljudi. Također smo kreirali kratki informativni list za roditelje i tinejdžere o materijalu generiranom umjetnom inteligencijom. „Zastani. Razmisli. Može li OVO biti AI?” osmišljen je da potakne razgovore između tinejdžera, roditelja i drugih pouzdanih odraslih osoba o sigurnoj i odgovornoj upotrebi AI alata. Surađujemo i s brojnim drugim skupinama i organizacijama te smo prvi podržali kampanju Ministarstva domovinske sigurnosti SAD-a Know2Protect, podižući svjesnost o seksualnom iskorištavanju i zlostavljanju djece. Know2Protect je objavio priručnik o deepfakeovima ovdje.

U području javne politike, tvrtka Snap je podržala Zakon Take It Down, koji je stupio na snagu u svibnju 2025., uspostavljajući američki savezni okvir za rješavanje intimnih slika bez pristanka, uključujući sadržaj generiran umjetnom inteligencijom. Zakon definira kao savezni zločin svjesno objavljivanje ili prijetnju objavljivanjem intimnih slika bez pristanka, bez obzira na to je li materijal autentičan ili umjetno generiran, a to zahtijeva da platforme koje su obuhvaćene zakonom omoguće postupak prijave i uklone prijavljeni sadržaj u roku od 48 sati.

Slični problemi prikazani su u kampanji „No to Nudify“ pokrenutoj na Dan sigurnijeg interneta 2026., koja je okupila organizacije za sigurnost djece i organizacije civilnog društva, od kojih su mnoge partneri i suradnici tvrtke Snap. Globalni savez WeProtect, INHOPE, Internet Watch Foundation, NCMEC, Child Helpline International, Offlimits i Safe Online pozvali su na zabranu AI alata za nudifikaciju. Kampanja tvrdi da takozvane “nudify” aplikacije nisu, zapravo, bezopasni eksperimenti, već se umjesto toga koriste kako bi se stvorile seksualizirane slike iz običnih fotografija bez pristanka, a sve su više povezane s maltretiranjem, prisilom, seksualnom iznudom i zlostavljanjem koje pogađa žene, djevojčice i djecu.

Snap također sudjeluje u praktičnim međuindustrijskim programima osmišljenim za ograničavanje širenja takvog materijala na Snapchatu. Članovi smo programa Take It Down organizacije NCMEC za maloljetnike i inicijative StopNCII organizacije SWGfL za osobe starije od 18 godina, primamo i koristimo jedinstvene digitalne potpise ili „hashove“, kako bismo pomogli u otkrivanju dupliciranih intimnih slika i uklonili sadržaj koji krši naša Pravila. Ovi napori su važni jer su usmjereni ne samo na početno otkrivanje, već i na sprječavanje ponovnog širenja poznatih intimnih slika i seksualnih deepfake sadržaja jednom kada se počnu širiti.

– Jacqueline Beauchere, Globalna voditeljica za sigurnost platforme, Snap Inc.