Ak chceme pomáhať mladým ľuďom prosperovať v digitálnom svete, musíme hľadieť ďalej než na zjednodušené príbehy, ktoré zobrazujú online život buď ako vo svojej podstate dobrý, alebo ako vo svojej podstate zlý. Musíme sa tiež zamerať na autentické každodenné skúsenosti generácie Z, aby sme pochopili, čo im umožňuje prosperovať. Keďže vstupujeme do novej éry definovanej rýchlym rozvojom generatívnej umelej inteligencie, náš záväzok založiť našu prácu v oblasti bezpečnosti na objektívnom výskume je dôležitejší ako kedykoľvek predtým – a pomôže zabezpečiť, aby Snapchat zostal komunikačnou službou zameranou na autenticitu, pripojenie, spolupatričnosť a pocit, že na veciach záleží.

Dnes sa s vami podelíme o niektoré nové poznatky z piateho a posledného roka našej štúdie indexu digitálnej pohody (DWBI), konkrétne o výsledky zamerané na vyvíjajúce sa prostredie obsahu generovaného umelou inteligenciou a jeho vplyv na medziľudské vzťahy.

Spoločnosť Snap v posledných piatich rokoch uskutočnila výskum platformy na sledovanie a meranie psychickej pohody generácie Z v online prostredí. Tento prieskum uskutočňujeme s cieľom doplniť globálnu základňu dôkazov o digitálnych návykoch a postupoch mladých ľudí. Pomáha nám zvyšovať povedomie o vznikajúcich obavách, aby rodičia, pedagógovia, technologické spoločnosti, vlády a občianska spoločnosť mohli efektívnejšie spolupracovať na zmierňovaní rizika, znížení potenciálnej škody a predchádzaní opätovnému výskytu. DWBI skúma skúsenosti ľudí vo veku od 13 do 24 rokov v šiestich krajinách v širšom digitálnom ekosystéme a nezameriava sa na akúkoľvek platformu vrátane Snapchatu. Najnovšie zistenia z Austrálie, Francúzska, Nemecka, Indie, Spojeného kráľovstva a USA zahŕňajú nové poznatky o vytváraní a distribúcii deepfake obrázkov medzi zástupcami generácie Z.

Verejná diskusia o umelej inteligencii sa často pohybuje v rozmedzí medzi neobmedzeným optimizmom a výraznými obavami. Najnovšie zistenia o indexe DWBI sa neopierajú o žiadny z extrémov, ale poskytujú na dôkazoch založený prehľad o tom, ako ľudia vo veku od 13 do 24 rokov v šiestich geografických oblastiach používajú generatívnu umelú inteligenciu. Tieto zistenia odhaľujú zložitý a niekedy znepokojujúci obraz interakcií medzi rovesníkmi zahŕňajúcich obsahy deepfake. Napríklad:

• Takmer jedna tretina respondentov (30 %) vo veku od 13 do 24 rokov uviedla, že vytvorila deepfake o niekom inom

• Viac ako polovica (53 %) tých, ktorí vytvorili deepfake, uviedla, že akcia viedla k „dráme“ alebo ku „konfliktu“ v ich sociálnych kruhoch 

• Hoci väčšina respondentov používala nástroje generatívnej umelej inteligencie na kreatívne účely, pobavenie a zábavu, viac ako tretina (35 % netto) uviedla, že obsahy deepfake, ktoré vytvorili, boli vytvorené s podlým úmyslom, konkrétne: aby niekoho vysvetlili v zlom svetle alebo s úmyslom túto osobu nahnevať (12 %), v rámci odplaty (12 %) alebo s úmyslom niekoho podráždiť, prípadne obťažovať (11 %). 

Na otázku, ako by konkrétne reagovali na sexuálny deepfake obsah o sebe, prevažná väčšina tínedžerov v neplnoletom veku (81 % netto) uviedla, že by sa s niekým porozprávali, konkrétne s rodičom (65 %), zatiaľ čo 7 z 10 mladých dospelých generácie Z (70 %) uviedlo, že by to nahlásili, pričom ohlasovacím bodom by boli orgány činné v trestnom konaní (53 %) a technologické platformy (51 %). Viac ako jeden z 10 maloletých tínedžerov (18 %) a viac ako dvaja z 10 tínedžerov vo veku od 18 do 24 rokov (22 %) uviedli, že by to jednoducho ignorovali alebo by nepodnikli žiaden z uvedených krokov. Nasledujúci graf uvádza ponúkané možné kroky.

Tieto zistenia podčiarkujú zásadnú pravdu: digitálna pohoda v 21. storočí vyžaduje viac než len tradičné bezpečnostné nástroje a prostriedky: vyžaduje si detailne praktické znalosti v oblasti umelej inteligencie. Keď 30 % mladých ľudí uviedlo, že vytvorili syntetické médiá so zapojením rovesníkov, znamená to, že táto aktivita môže mať vplyv na osobné vzťahy, reputáciu a pocit kontroly jednotlivca nad tým, ako sú vykreslení.

Preto sa konverzácie o zásadách musia odkloniť od reakcií založených na strachu a musia smerovať k rámcu, ktorý stelesňuje „celú osobu“ dnešnej mládeže v online priestore. Môžeme zvážiť tri základné zložky:

1. Gramotnosť v oblasti umelej inteligencie: pomoc mladým ľuďom pochopiť nielen to, ako môžu používať umelú inteligenciu, ale aj etické a sociálne dôsledky vytvárania obsahu, ktorý môže zahŕňať iných bez ich súhlasu.

2. Osobná kontrola: podpora mladých ľudí pri rozpoznávaní hraníc a v snahe udržiavať kontrolu nad svojou vlastnou digitálnou podobou

3. Otvorená komunikácia: podporiť tínedžerov, rodičov, pedagógov a iných dôveryhodných dospelých, aby otvorene a premyslene diskutovali o kvalite a kvantite digitálnych interakcií s vedomím, že každý deepfake vytvorený aj „ako žart“ môže mať trvalý vplyv na ostatných.

Mimochodom, na otázku, kde a od koho sa učili používať nástroje umelej inteligencie bezpečne a zodpovedne, osem z 10 ľudí vo veku od 13 do 24 rokov (81 % netto) uviedlo, že sa učili sami. Štvrtina detí (27 %) vo veku od 13 do 17 rokov uviedla, že sa učia od svojich rodičov, zatiaľ čo učitelia predstavovali jednu z 10 vedomostných základní tínedžerov (11 %) a mladých dospelých (10 %).

Zistenia sú súčasťou päťročnej štúdie spoločnosti Snap o online psychickej pohode generácie Z na rôznych platformách a predstavujú najnovšiu a záverečnú verziu nášho indexu digitálnej pohody (DWBI), ktorý je meradlom toho, ako sa dospievajúcim (vo veku od 13 do 17 rokov) a mladým dospelým (vo veku od 18 do 24 rokov) v šiestich krajinách darí v online priestore. Tiež sme uskutočnili prieskum rodičov detí vo veku od 13 do 19 rokov o online skúsenostiach ich tínedžerov. Tento najnovší prieskum prebiehal v období od 11. mája do 30. mája 2026 a zapojilo sa doň 9 005 respondentov z troch vekových demografických skupín a šiestich geografických oblastí. Úplné výsledky vrátane najnovšieho výsledku DWBI pre každú krajinu a spoločne pre všetkých šesť krajín budú zverejnené vo februári pri príležitosti Dňa bezpečnejšieho internetu 2027. Tieto zistenia týkajúce sa umelej inteligencie sme sa rozhodli sprístupniť vopred vzhľadom na prebiehajúci globálny dialóg o mnohých z týchto otázok.

Keď túto päťročnú kapitolu skúmania digitálnej pohody uzatvárame a smerujeme zameranie nášho výskumu na nasledujúcich niekoľko rokov, naše poslanie pre celý ekosystém zostáva jasné: budovať online priestory, v ktorých sa mladí ľudia môžu čo najbezpečnejšie a autentickejšie učiť, smiať a spájať. Nárast obsahu deepfake nám pripomína, že s vývojom technológií sa musí vyvíjať aj naše úsilie v oblasti procesov a vzdelávania. Tým, že sa naďalej zameriavame na gramotnosť, odolnosť a kritické myslenie, môžeme pomôcť zabezpečiť, aby ďalšia generácia v online prostredí nielen „prežívala“, ale aj skutočne prosperovala.

Na podporu tohto úsilia spoločnosť Snap minulý mesiac oznámila, že videá, ktoré boli úplne vygenerované umelou inteligenciou, už nebudú môcť byť zaradené do obsahu, ktorý je možné odporúčať vo funkcii Stred záujmu aplikácie Snapchat. Keďže nekvalitný opakujúci sa obsah vygenerovaný umelou inteligenciou sa v online priestoroch stáva čoraz bežnejším, spoločnosť Snap chce, aby Spotlight zostal miestom, kde ľudia môžu objavovať autentickú kreativitu skutočných ľudí. Vytvorili sme tiež krátky informačný leták pre rodičov a tínedžerov o materiáli vytvorenom umelou inteligenciou. „Zastav sa. Premýšľaj. Nie je TOTO náhodou umelá inteligencia?“ Tento materiál je navrhnutý tak, aby podnecoval rozhovory medzi dospievajúcimi, rodičmi a inými dôveryhodnými dospelými osobami o bezpečnom a zodpovednom používaní nástrojov umelej inteligencie. Spolupracujeme aj s mnohými ďalšími skupinami a organizáciami a ako prví sme podporili kampaň Know2Protect Ministerstva pre vnútornú bezpečnosť USA, ktorá zvyšovala povedomie o sexuálnom vykorisťovaní a zneužívaní detí. V rámci kampane Know2Protect bol uverejnený príklad obsahu deepfake tu.   

V oblasti verejnej politiky spoločnosť Snap podporila zákon Take It Down Act, ktorý nadobudol účinnosť v máji 2025 a vytvoril federálny rámec v USA na riešenie nedobrovoľných intímnych obrázkov vrátane obsahu vytvoreného umelou inteligenciou. Zákon stanovuje, že vedomé zverejňovanie intímnych obrázkov alebo vyhrážanie sa uverejnením bez súhlasu, bez ohľadu na to, či je materiál autentický alebo synteticky vygenerovaný, je federálny trestný čin, a zároveň vyžaduje, aby zahrnuté platformy poskytli proces nahlasovania a odstránili nahlásený obsah do 48 hodín.

Podobné obavy sa odrážajú v kampani „No to Nudify“, ktorá bola spustená v Deň bezpečnejšieho internetu 2026 a spojila organizácie pre bezpečnosť detí a občiansku spoločnosť, z ktorých mnohé sú partnermi a spolupracovníkmi spoločnosti Snap. Globálna aliancia WeProtect, INHOPE, Internet Watch Foundation, NCMEC, Child Helpline International, Offlimits a Safe Online vyzvali na zavedenie zákazu nástrojov umelej inteligencie na vytváranie obsahu obsahujúceho nahotu. Kampaň tvrdí, že takzvané „nudify“ aplikácie nie sú v skutočnosti neškodným experimentom, ale používajú sa na vytváranie sexualizovaných obrázkov z bežných fotografií bez súhlasu a čoraz častejšie sú spojené s obťažovaním, nátlakom, sexuálnym vydieraním a zneužívaním postihujúcim ženy, dievčatá a deti.

Spoločnosť Snap sa tiež zúčastňuje na praktických medziodvetvových programoch určených na obmedzenie šírenia takéhoto materiálu na Snapchate. Sme členmi programu Taje It Down NCMEC pre maloletých a programu StopNCII spoločnosti SWGfL pre osoby od 18 rokov, ktorý prijíma a využíva jedinečné digitálne podpisy alebo „haše“ na odhaľovanie duplicitných intímnych obrázkov a odstránenie obsahu, ktorý porušuje naše pravidlá. Toto úsilie je dôležité, pretože sa zameriava nielen na počiatočné odhaľovanie, ale aj na zabránenie opätovnému šíreniu známych intímnych obrázkov a sexuálneho obsahu deepfake, keď sa začnú šíriť.

– Jacqueline Beauchere, globálna vedúca bezpečnosti platformy, spoločnosť Snap Inc.