Veřejná diskuse kolem umělé inteligence často kolísá mezi bezuzdným optimismem a hlubokým znepokojením. Nejnovější zjištění DWBI namísto výběru některé z obou krajností poskytují důkazy podložený pohled na to, jak lidé ve věku 13 až 24 let v šesti geografických oblastech interagují s generativní umělou inteligencí. Tato zjištění odhalují složitý a někdy znepokojující obraz interakcí mezi vrstevníky zahrnujících deepfakes. Například:

• Téměř jedna třetina (30 %) respondentů ve věku 13 až 24 let uvedla, že vytvořili deepfake někoho jiného

• Více než polovina (53 %) těch, kteří vytvořili deepfake, uvedla, že akce vyústila v „drama“ nebo „konflikt“ v jejich společenských kruzích, a 

• zatímco většina z nich používala nástroje generativní umělé inteligence pro tvořivost, radost a zábavu, více než třetina (čistých 35 %) uvedla, že deepfakes, které vytvořili, vznikly se zlovolným úmyslem, konkrétně: někoho hanobit nebo naštvat (12 %), v rámci odvety (12 %) nebo někoho provokovat nebo obtěžovat (11 %). 

Na otázku, jak by reagovali konkrétně na sexuální deepfakes sebe sama, převážná většina (81 %) nezletilých dospívajících uvedla, že by si s někým promluvili, konkrétně s rodičem (65 %), zatímco sedm z 10 mladých dospělých generace Z (70 %) uvedlo, že by to nahlásili, primárně orgánům činným v trestním řízení (53 %) a technologickým platformám (51 %). Více než jeden z 10 nezletilých dospívajících (18 %) a více než dva z 10 dospělých ve věku 18 až 24 let (22 %) uvedli, že by to prostě ignorovali nebo by nepodnikli žádnou z uvedených akcí. Níže uvedený graf nastiňuje nabízené možnosti akce.

Jak uzavíráme tuto pětiletou kapitolu studia digitální pohody a vyvíjíme zaměření našeho výzkumu pro příštích několik let, naše poslání pro celý ekosystém zůstává jasné:  budovat online prostory, kde se budou mladí lidé moci co nejbezpečněji a nejautentičtěji učit, smát se a setkávat se. Nárůst deepfakes je připomínkou, že jak se vyvíjí technologie, musí se spolu s ní vyvíjet i naše operační a vzdělávací úsilí. Tím, že se budeme i nadále zaměřovat na gramotnost, odolnost a kritické myšlení, můžeme zajistit, aby příští generace nejenom „zvládala“ život online, ale aby se jí skutečně dařilo.

Na podporu tohoto úsilí společnost Snap minulý měsíc oznámila, že videa generovaná výhradně umělou inteligencí již nebudou způsobilá k doporučení ve funkci To nejlepší na Snapchatu. Vzhledem k tomu, že se nekvalitní, opakující se obsah generovaný umělou inteligencí v online prostorech stává stále běžnějším, Snap chce, aby sekce To nejlepší zůstala místem, kde lidé mohou objevovat autentickou tvorbu od skutečných lidí. Také jsme vytvořili krátký přehled o materiálech generovaných umělou inteligencí pro rodiče a dospívající. „Zastavte se. Přemýšlejte. Mohla by TOTO být AI?“ má za cíl podnítit rozhovory mezi dospívajícími, rodiči a dalšími důvěryhodnými dospělými na téma bezpečného a zodpovědného používání nástrojů umělé inteligence. Spolupracujeme také s řadou dalších skupin a organizací a jako první jsme podpořili kampaň Know2Protect Ministerstva vnitřní bezpečnosti USA, která zvyšuje povědomí o sexuálním vykořisťování a zneužívání dětí. Know2Protect zveřejnila příručku o deepfakes zde.   

V oblasti veřejné politiky Snap podpořil zákon Take It Down Act, který vstoupil v platnost v květnu 2025 a kterým byl v USA vytvořen federální rámec pro řešení intimních vyobrazení bez svolení, včetně obsahu vygenerovaného umělou inteligencí. Zákon činí federálním zločinem vědomé zveřejnění nebo vyhrožování zveřejněním intimních vyobrazení bez svolení, ať už je materiál autentický nebo synteticky generovaný, a požaduje, aby dotčené platformy poskytovaly proces hlášení a odstranily nahlášený obsah do 48 hodin.

Podobné obavy se odrážejí v kampani „Ne obnažování“, která byla zahájena ke Dni bezpečnějšího internetu 2026 a která spojila organizace pro bezpečnost dětí a občanské společnosti, z nichž mnohé jsou partnery a spolupracovníky Snapu. Globální aliance WeProtect, INHOPE, Internet Watch Foundation, NCMEC, Child Helpline International, Offlimits a Safe Online vyzvaly k zákazu nástrojů využívajících umělou inteligenci k vytváření nahoty. Kampaň tvrdí, že takzvané „obnažovací“ aplikace nejsou ve skutečnosti neškodným experimentováním, ale používají se k vytváření sexuálních vyobrazení bez svolení z běžných fotografií, a stále častěji jsou spojovány s obtěžováním, nátlakem, sexuálním vydíráním a zneužíváním postihujícím ženy, dívky a děti.

Snap se také účastní praktických programů napříč obory, jejichž cílem je omezit šíření takového materiálu na Snapchatu. Jsme členy programu „Take It Down“ NCMEC pro nezletilé a účastníky iniciativy StopNCII organizace SWGfL pro osoby starší 18 let, přičemž přijímáme a využíváme jedinečné digitální podpisy neboli „hashe“, které pomáhají odhalovat duplicitní intimní vyobrazení a odstraňovat obsah, který porušuje naše Pravidla. Toto úsilí je důležité, protože se zaměřuje nejen na počáteční detekci, ale i na prevenci opětovného šíření známých intimních snímků a sexuálních deepfakes, jakmile se začnou šířit.

– Jacqueline Beauchere, globální vedoucí bezpečnosti platformy, Snap Inc.