Pomaganje mladima da napreduju u digitalnom svijetu uključuje nadilaženje pojednostavljenih narativa koji život na mreži prikazuju kao sam po sebi dobar ili sam po sebi loš. Moramo se usredotočiti i na autentična, svakodnevna iskustva generacije Z kako bismo razumjeli što im omogućuje napredak. Dok ulazimo u novu eru definiranu brzim rastom generativne umjetne inteligencije, naša predanost utemeljenju sigurnosnog rada na objektivnom istraživanju ključnija je nego ikada – i to će pomoći da Snapchat ostane komunikacijska usluga usmjerena na autentičnost, povezivanje, pripadnost i osjećaj važnosti.

Danas dijelimo neke nove spoznaje iz pete i ujedno posljednje godine naše studije Indeks digitalne dobrobiti (DWBI), posebno rezultate usmjerene na promjenjivi kontekst sadržaja generiranog umjetnom inteligencijom i njegov utjecaj na međuljudske odnose.

Posljednjih pet godina tvrtka Snap je provodila istraživanje neovisno o platformama kako bi pratila i mjerila psihološku dobrobit generacije Z na internetu. Provodimo ovu anketu kako bismo doprinijeli globalnoj bazi dokaza o digitalnim navikama i praksama mladih, a ona pomaže podići svjesnost o novim problemima kako bi roditelji, nastavnici, tehnološke tvrtke, vlade i civilno društvo mogli učinkovitije surađivati na ublažavanju rizika, smanjenju potencijalne štete i sprječavanju ponavljanja. DWBI ispituje iskustva osoba u dobi od 13 do 24 godine u šest zemalja diljem šireg digitalnog ekosustava, umjesto da se usredotočuje na bilo koju pojedinačnu platformu, uključujući Snapchat. Najnovija otkrića iz Australije, Francuske, Njemačke, Indije, Ujedinjenog Kraljevstva i SAD-a uključuju nove uvide o stvaranju i distribuciji deepfake slika među generacijom Z.

Dok privodimo kraju ovo petogodišnje poglavlje proučavanja digitalne dobrobiti i razvijamo naš istraživački fokus za narednih nekoliko godina, naša misija u cijelom ekosustavu ostaje jasna: izgraditi online prostore u kojima mladi mogu učiti, smijati se i povezivati na što sigurniji i autentičniji mogući način. Porast deepfakeova podsjetnik je da se, kako se tehnologija razvija, s njom moraju razvijati i naši operativni i obrazovni napori. Kontinuiranim fokusom na pismenost, otpornost i kritičko razmišljanje možemo pomoći osigurati da sljedeća generacija ne samo da se „snalazi“ na internetu, već da istinski napreduje.

U znak podrške ovim naporima, prošlog mjeseca tvrtka Snap je najavila da videozapisi generirani u potpunosti umjetnom inteligencijom više neće ispunjavati uvjete za preporuku na značajki Fokus na Snapchatu. Doista, budući da nekvalitetni, ponavljajući sadržaj generiran umjetnom inteligencijom postaje sve češći u online prostorima, Snap želi da Fokus ostane mjesto gdje ljudi mogu otkriti autentičnu kreativnost stvarnih ljudi. Također smo kreirali kratki informativni list za roditelje i tinejdžere o materijalu generiranom umjetnom inteligencijom. „Zastani. Razmisli. Može li OVO biti AI?” osmišljen je da potakne razgovore između tinejdžera, roditelja i drugih pouzdanih odraslih osoba o sigurnoj i odgovornoj upotrebi AI alata. Surađujemo i s brojnim drugim skupinama i organizacijama te smo prvi podržali kampanju Ministarstva domovinske sigurnosti SAD-a Know2Protect, podižući svjesnost o seksualnom iskorištavanju i zlostavljanju djece. Know2Protect je objavio priručnik o deepfakeovima ovdje.

U području javne politike, tvrtka Snap je podržala Zakon Take It Down, koji je stupio na snagu u svibnju 2025., uspostavljajući američki savezni okvir za rješavanje intimnih slika bez pristanka, uključujući sadržaj generiran umjetnom inteligencijom. Zakon definira kao savezni zločin svjesno objavljivanje ili prijetnju objavljivanjem intimnih slika bez pristanka, bez obzira na to je li materijal autentičan ili umjetno generiran, a to zahtijeva da platforme koje su obuhvaćene zakonom omoguće postupak prijave i uklone prijavljeni sadržaj u roku od 48 sati.

Slični problemi prikazani su u kampanji „No to Nudify“ pokrenutoj na Dan sigurnijeg interneta 2026., koja je okupila organizacije za sigurnost djece i organizacije civilnog društva, od kojih su mnoge partneri i suradnici tvrtke Snap. Globalni savez WeProtect, INHOPE, Internet Watch Foundation, NCMEC, Child Helpline International, Offlimits i Safe Online pozvali su na zabranu AI alata za nudifikaciju. Kampanja tvrdi da takozvane “nudify” aplikacije nisu, zapravo, bezopasni eksperimenti, već se umjesto toga koriste kako bi se stvorile seksualizirane slike iz običnih fotografija bez pristanka, a sve su više povezane s maltretiranjem, prisilom, seksualnom iznudom i zlostavljanjem koje pogađa žene, djevojčice i djecu.

Snap također sudjeluje u praktičnim međuindustrijskim programima osmišljenim za ograničavanje širenja takvog materijala na Snapchatu. Članovi smo programa Take It Down organizacije NCMEC za maloljetnike i inicijative StopNCII organizacije SWGfL za osobe starije od 18 godina, primamo i koristimo jedinstvene digitalne potpise ili „hashove“, kako bismo pomogli u otkrivanju dupliciranih intimnih slika i uklonili sadržaj koji krši naša Pravila. Ovi napori su važni jer su usmjereni ne samo na početno otkrivanje, već i na sprječavanje ponovnog širenja poznatih intimnih slika i seksualnih deepfake sadržaja jednom kada se počnu širiti.

– Jacqueline Beauchere, Globalna voditeljica za sigurnost platforme, Snap Inc.