Pomáhat mladým lidem vzkvétat v digitálním světě znamená překonat zjednodušující narativy, které zobrazují online život buď jako z podstaty dobrý, nebo jako z podstaty špatný. Musíme se také zaměřit na autentické, každodenní zkušenosti Generace Z, abychom pochopili, co jim umožňuje prosperovat. Vzhledem k tomu, že vstupujeme do nové éry definované rychlým vzestupem generativní umělé inteligence, je náš závazek zakládat naši práci v oblasti bezpečnosti na objektivním výzkumu důležitější než kdy jindy – a pomůže to zajistit, aby Snapchat zůstal komunikační službou zaměřenou na autenticitu, propojení, sounáležitost a důležitost.

Dnes sdílíme některé nové poznatky z pátého a posledního roku naší studie Indexu digitální pohody (Digital Well-Being Index, DWBI), konkrétně výsledky zaměřené na vyvíjející se prostředí obsahu generovaného umělou inteligencí a jeho dopad na mezilidské vztahy.

Společnost Snap posledních pět let provádí výzkum bez zřetele k platformě, aby pomohla sledovat a měřit online psychickou pohodu generace Z. Tento průzkum provádíme, abychom rozšířili globální základnu poznatků o digitálních návycích a praktikách mladých lidí, a pomáhá nám zvyšovat povědomí o nově vznikajících obavách, aby rodiče, pedagogové, technologické společnosti, vlády a občanská společnost mohli efektivněji spolupracovat na zmírňování rizik, snižování potenciálních škod a předcházení jejich opakování. DWBI zkoumá zkušenosti lidí ve věku 13 až 24 let v šesti zemích v širším digitálním ekosystému, namísto aby se zaměřoval jen na nějakou jedinou platformu, jako například Snapchat. Nejnovější zjištění z Austrálie, Francie, Německa, Indie, Spojeného království a USA zahrnují nové poznatky o vytváření a distribuci deepfake vyobrazení mezi Generací Z.

Veřejná diskuse kolem umělé inteligence často kolísá mezi bezuzdným optimismem a hlubokým znepokojením. Nejnovější zjištění DWBI namísto výběru některé z obou krajností poskytují důkazy podložený pohled na to, jak lidé ve věku 13 až 24 let v šesti geografických oblastech interagují s generativní umělou inteligencí. Tato zjištění odhalují složitý a někdy znepokojující obraz interakcí mezi vrstevníky zahrnujících deepfakes. Například:

• Téměř jedna třetina (30 %) respondentů ve věku 13 až 24 let uvedla, že vytvořili deepfake někoho jiného

• Více než polovina (53 %) těch, kteří vytvořili deepfake, uvedla, že akce vyústila v „drama“ nebo „konflikt“ v jejich společenských kruzích, a 

• zatímco většina z nich používala nástroje generativní umělé inteligence pro tvořivost, radost a zábavu, více než třetina (čistých 35 %) uvedla, že deepfakes, které vytvořili, vznikly se zlovolným úmyslem, konkrétně: někoho hanobit nebo naštvat (12 %), v rámci odvety (12 %) nebo někoho provokovat nebo obtěžovat (11 %). 

Na otázku, jak by reagovali konkrétně na sexuální deepfakes sebe sama, převážná většina (81 %) nezletilých dospívajících uvedla, že by si s někým promluvili, konkrétně s rodičem (65 %), zatímco sedm z 10 mladých dospělých generace Z (70 %) uvedlo, že by to nahlásili, primárně orgánům činným v trestním řízení (53 %) a technologickým platformám (51 %). Více než jeden z 10 nezletilých dospívajících (18 %) a více než dva z 10 dospělých ve věku 18 až 24 let (22 %) uvedli, že by to prostě ignorovali nebo by nepodnikli žádnou z uvedených akcí. Níže uvedený graf nastiňuje nabízené možnosti akce.

Tato zjištění zdůrazňují jednu zásadní pravdu: digitální pohoda v 21. století vyžaduje více než jen tradiční bezpečnostní nástroje a prostředky; vyžaduje hlubokou, praktickou gramotnost v oblasti umělé inteligence. Když 30 % mladých lidí uvádí, že vytvořili syntetická média, v nichž vystupují jejich vrstevníci, může tato aktivita mít dopady na osobní vztahy a pověst jednotlivce a jeho pocit vlády nad tím, jak je vyobrazován.

Proto se musí konverzace zaměřené na zásady posunout od reakcí založených na strachu směrem k rámci, který ztělesňuje „celou osobnost“ dnešní mládeže online. Můžeme zvážit tři základní složky:

1. Gramotnost v oblasti umělé inteligence: Pomáhat mladým lidem pochopit nejen to, jak umělou inteligenci používat, ale etické a společenské důsledky vytváření obsahu, ve kterém případně vystupují jiní, kteří k tomu nedali souhlas.

2. Osobní kontrola: Umožnit mladým lidem rozpoznat hranice a snažit se udržet si kontrolu nad svou vlastní digitální podobou.

3. Otevřená komunikace: Nabádat dospívající, rodiče, pedagogy a další důvěryhodné dospělé, aby vedli otevřené a promyšlené rozhovory o kvalitě digitálních interakcí ve srovnání s jejich kvantitou, a přitom uznali, že jakýkoli deepfake, byť i jen vytvořený žertem, může mít trvalý dopad na ostatní.

Mimochodem, na otázku, kde a od koho se učí používat nástroje umělé inteligence bezpečně a zodpovědně, osm z 10 mladých lidí ve věku 13 až 24 let (celkem 81 %) uvedlo, že jsou samouci. Čtvrtina (27 %) dětí ve věku 13 až 17 let uvedla, že se učí od svých rodičů, zatímco učitelé byli zdrojem znalostí pro jednoho z deseti dospívajících (11 %) i mladých dospělých (10 %).

Tato zjištění jsou součástí pětileté studie společnosti Snap o online psychické pohodě generace Z na různých platformách a představují nejnovější a poslední část našeho Indexu digitální pohody (DWBI), což je měřítko toho, jak se dospívajícím (ve věku 13–17 let) a mladým dospělým (ve věku 18–24 let) v šesti zemích daří online. Provádíme také průzkum mezi rodiči dětí ve věku 13 až 19 let ohledně online zkušeností jejich teenagerů. Tento nejnovější průzkum se konal v období od 11. května do 30. května 2026 a zahrnoval 9 005 respondentů ze tří věkových demografických skupin a šesti zeměpisných oblastí. Úplné výsledky, včetně nejnovějšího skóre DWBI pro každou zemi a napříč všemi šesti zeměmi dohromady, budou zveřejněny v únoru u příležitosti Dne bezpečnějšího internetu 2027. Vzhledem k probíhajícímu globálnímu dialogu o mnoha těchto otázkách jsme se rozhodli tato zjištění týkající se umělé inteligence zpřístupnit již nyní.

Jak uzavíráme tuto pětiletou kapitolu studia digitální pohody a vyvíjíme zaměření našeho výzkumu pro příštích několik let, naše poslání pro celý ekosystém zůstává jasné:  budovat online prostory, kde se budou mladí lidé moci co nejbezpečněji a nejautentičtěji učit, smát se a setkávat se. Nárůst deepfakes je připomínkou, že jak se vyvíjí technologie, musí se spolu s ní vyvíjet i naše operační a vzdělávací úsilí. Tím, že se budeme i nadále zaměřovat na gramotnost, odolnost a kritické myšlení, můžeme zajistit, aby příští generace nejenom „zvládala“ život online, ale aby se jí skutečně dařilo.

Na podporu tohoto úsilí společnost Snap minulý měsíc oznámila, že videa generovaná výhradně umělou inteligencí již nebudou způsobilá k doporučení ve funkci To nejlepší na Snapchatu. Vzhledem k tomu, že se nekvalitní, opakující se obsah generovaný umělou inteligencí v online prostorech stává stále běžnějším, Snap chce, aby sekce To nejlepší zůstala místem, kde lidé mohou objevovat autentickou tvorbu od skutečných lidí. Také jsme vytvořili krátký přehled o materiálech generovaných umělou inteligencí pro rodiče a dospívající. „Zastavte se. Přemýšlejte. Mohla by TOTO být AI?“ má za cíl podnítit rozhovory mezi dospívajícími, rodiči a dalšími důvěryhodnými dospělými na téma bezpečného a zodpovědného používání nástrojů umělé inteligence. Spolupracujeme také s řadou dalších skupin a organizací a jako první jsme podpořili kampaň Know2Protect Ministerstva vnitřní bezpečnosti USA, která zvyšuje povědomí o sexuálním vykořisťování a zneužívání dětí. Know2Protect zveřejnila příručku o deepfakes zde.   

V oblasti veřejné politiky Snap podpořil zákon Take It Down Act, který vstoupil v platnost v květnu 2025 a kterým byl v USA vytvořen federální rámec pro řešení intimních vyobrazení bez svolení, včetně obsahu vygenerovaného umělou inteligencí. Zákon činí federálním zločinem vědomé zveřejnění nebo vyhrožování zveřejněním intimních vyobrazení bez svolení, ať už je materiál autentický nebo synteticky generovaný, a požaduje, aby dotčené platformy poskytovaly proces hlášení a odstranily nahlášený obsah do 48 hodin.

Podobné obavy se odrážejí v kampani „Ne obnažování“, která byla zahájena ke Dni bezpečnějšího internetu 2026 a která spojila organizace pro bezpečnost dětí a občanské společnosti, z nichž mnohé jsou partnery a spolupracovníky Snapu. Globální aliance WeProtect, INHOPE, Internet Watch Foundation, NCMEC, Child Helpline International, Offlimits a Safe Online vyzvaly k zákazu nástrojů využívajících umělou inteligenci k vytváření nahoty. Kampaň tvrdí, že takzvané „obnažovací“ aplikace nejsou ve skutečnosti neškodným experimentováním, ale používají se k vytváření sexuálních vyobrazení bez svolení z běžných fotografií, a stále častěji jsou spojovány s obtěžováním, nátlakem, sexuálním vydíráním a zneužíváním postihujícím ženy, dívky a děti.

Snap se také účastní praktických programů napříč obory, jejichž cílem je omezit šíření takového materiálu na Snapchatu. Jsme členy programu „Take It Down“ NCMEC pro nezletilé a účastníky iniciativy StopNCII organizace SWGfL pro osoby starší 18 let, přičemž přijímáme a využíváme jedinečné digitální podpisy neboli „hashe“, které pomáhají odhalovat duplicitní intimní vyobrazení a odstraňovat obsah, který porušuje naše Pravidla. Toto úsilí je důležité, protože se zaměřuje nejen na počáteční detekci, ale i na prevenci opětovného šíření známých intimních snímků a sexuálních deepfakes, jakmile se začnou šířit.

– Jacqueline Beauchere, globální vedoucí bezpečnosti platformy, Snap Inc.