Iż-żieda rapida fl-għodod tal-IA fl-aħħar snin ħolqot u se tkompli toħloq opportunitajiet ġodda għall-kreattività, għat-tagħlim, u għall-konnessjoni. Madankollu, it-teknoloġija introduċiet ukoll dinamiki ġodda mar-riskji onlajn li diġà jeżistu. Riċerka ġdida turi li hekk kif in-numru ta' nies li jiltaqgħu ma' stampi u vidjows tal-IA b'suġġessjonijiet sesswali onlajn jkompli jikber, l-għarfien dwar l-illegalità ta' partijiet minn dan il-kontenut għadu jkun ta' sfida.

Biex tifhem aħjar l-attitudnijiet u l-imġiba tal-adoloxxenti u tal-adulti żgħażagħ fuq il-pjattaformi u s-servizzi kollha, Snap twettaq u taqsam riċerka annwali madwar l-industrija kollha msejħa l-Indiċi tal-Benessri Diġitali (Digital Well-Being Index) tagħna.  (Snap ikkummissjonat ir-riċerka, iżda tkopri l-esperjenzi tal-Ġenerazzjoni Ż fuq l-ispazji diġitali kollha b'mod ġenerali, b'ebda enfasi speċifika fuq Snapchat.)  Filwaqt li qed nippjanaw li noħorġu r-riżultati sħaħ tal-istudju tat-Tielet Sena tagħna fl-istess żmien tal-Jum internazzjonali għal Internet Aktar Sigur fi Frar 2025, irridu nipprovdu ħarsa minn qabel dwar xi sejbiet ewlenin fuq kif l-adoloxxenti, l-adulti żgħażagħ, u anki l-ġenituri qed jinteraġixxu ma' kontenut sesswali bbażat fuq l-IA ġenerattiva u kif jirreaġixxu għalih. Qed nagħmlu dan illum, fid-dawl tal-enfasi globali ta' din il-ġimgħa fuq l-isfruttament u l-abbuż sesswali tat-tfal, u fl-istess żmien waqt li qed nipparteċipaw fis-Summit Empowering Voices f'DC, li ffoka fuq l-indirizzar tal-ħsarat assoċjati ma' kontenut sesswali ġġenerat mill-IA. 

Pereżempju, fl-istudju tagħna, li għamel stħarriġ fost 9,007 adoloxxenti, adulti żgħażagħ u ġenituri ta' adoloxxenti f'6 pajjiżi ¹, 24% qalu li kienu raw xi forma ta' stampi jew vidjows iġġenerati mill-IA li kienu ta' natura sesswali. Minn dawk li affermaw li raw dan it-tip ta' kontenut, 2% biss qalu li l-istampi kienu ta' xi ħadd li kellu inqas minn 18-il sena.

Fuq nota inkoraġġanti, meta n-nies raw dan it-tip ta' kontenut, 9 minn 10 ħadu xi forma ta' azzjoni, li varjat mill-imblukkar jew it-tħassir tal-kontenut (54%) sa li kellmu lill-ħbieb fdati jew lill-familja (52%). Madankollu, 42% biss qalu li rrappurtaw il-kontenut lill-pjattaforma jew lis-servizz fejn rawh, jew lil hotline / helpline. Dan l-għarfien isegwi tendenza aktar mifruxa ta' rati ta' rappurtar iktar baxxi fuq kwistjonijiet relatati mas-sigurezza diġitali b'mod ġenerali. F'post li għamilna qabel, semmejna l-importanza tal-ġlieda kontra perċezzjonijiet negattivi li hemm fuq ir-rappurtar biex iż-żgħażagħ ma jinnormalizzawx l-esponiment għal ċerti kontenut u mġiba online problematiċi, jew iqabblu lil persuna li tirrapporta ma' xi ħadd li joqgħod jugża lil ħaddieħor. 

Hu saħansitra iktar allarmanti li iktar minn 40% minn fost dawk li wieġbu ma kinux ċari fuq l-obbligu legali għall-pjattaformi/għas-servizzi li jirrappurtaw stampi sesswali ta' minorenni, anki jekk stampi bħal dawn ikunu maħsuba bħala ċajt jew memes. U, filwaqt li numru ikbar (70%+) għarfu li kien illegali li tintuża teknoloġija tal-AI biex jinħoloq kontenut sesswali falz ta' persuna, jew li wieħed iżomm, jara, jew jaqsam stampi sesswali ta' minorenni, dawn is-sejbiet jindikaw li hemm ħidma konsiderevoli xi ssir biex jiġi żgurat li l-pubbliku ġenerali jkun konxju mill-obbligi legali relatati ma' dan it-tip ta' kontenut.

Pereżempju, fl-Istati Uniti, kważi 40% ta' dawk li wieġbu qalu li jemmnu li hu legali li tintuża teknoloġija tal-IA biex jinħolqu stampi sesswali foloz ta' persuna. U mingħand kollegi tal-industrija smajna rakkonti dwar xi ħaġa inkwetanti li qiegħda taqbad: bit-tixrid ta' dan it-tip ta' kontenut, xi tfajliet adoloxxenti b'mod partikolari qed iħossuhom "imwarrbin" jekk ma jidhrux fi stampi sesswali manipulati bl-IA li sħabhom joħolqu u jaqsmu kif mhux suppost isir. Dan il-punt tassew inkwetanti jkompli jenfasizza l-ħtieġa ta' edukazzjoni u ta' għarfien akbar dwar dan ir-riskju onlajn speċifiku, bl-adulti fdati u bil-ħbieb informati li jridu jaqdu rwol attiv biex jiskoraġġixxu dan it-tip ta' mġiba.  

L-impenn kontinwu ta' Snap

Aħna ta' Snap il-ħin kollu ninvestu f'riżorsi, f'għodod, u f'teknoloġija biex ngħinu nrawmu esperjenzi iktar sikuri, f'saħħithom, u iktar pożittivi fuq Snapchat u fl-ekosistema tat-teknoloġija.

F'xi każijiet, nużaw "senjalazzjonijiet" tal-imġiba biex nidentifikaw attività potenzjalment illegali biex inkunu nistgħu nneħħu b'mod proattiv lil min iġib ruħu ħażin u nirrappurtawhom lill-awtoritajiet. Barra minn hekk, bħala servizz li jinkludi chatbot tal-IA għall-konverżazzjoni, nagħmlu sforzi biex noqogħdu iktar attenti li nwaqqfu l-ħolqien potenzjali ta' materjal bħal dan fuq Snapchat, kif ukoll ngħassu kontra t-tqassim u t-tixrid ta' materjal li jista' jkun ġie ġġenerat fuq pjattaformi oħra. Nittrattaw suspetti ta' stampi sesswali ġġenerati bl-IA ta' minorenni bl-istess mod hekk kif nittrattaw stampi ta' sfruttament u abbuż sesswali tat-tfal (CSEAI) "awtentiċi", billi nneħħu l-kontenut malli nsiru nafu bih, nissospendu l-kont li jkun qed jikser ir-regoli, u nirrappurtawh lin-National Center for Missing and Exploited Children (NCMEC). Dan minbarra li nisfruttaw u nvaraw teknoloġija mfassla biex tipprevjeni t-tixrid ta' CSEAI, inklużi PhotoDNA (biex naqbdu duplikati ta' stampi illegali magħrufa) u CSAI Match ta' Google (biex naqbdu duplikati ta' vidjows illegali magħrufa). Dan l-aħħar bdejna wkoll nużaw l-API Content Safety ta' Google (biex tgħinna nidentifikaw stampi ġodda "li jkunu għadhom qatt ma ġew hashed" f'kontenut pubbliku). Ħdimna wkoll flimkien mal-NCMEC dwar kif nisfruttaw il-firem diġitali uniċi (jew "hashes") tal-4,700 rapport li rċivew is-sena l-oħra b'rabta ma' materjal ta' abbuż sesswali tat-tfal li involva l-IA Ġenerattiva. 

Aħna nikkollaboraw mal-awtoritajiet tal-infurzar tal-liġi, nappoġġjaw l-investigazzjonijiet tagħhom, u ninvestu bis-saħħa fit-timijiet globali tagħna tal-Operazzjonijiet tal-Fiduċja u tas-Sigurezza u tal-Infurzar tal-Liġi li jaħdmu 24 siegħa kuljum biex jgħinu fiż-żamma tal-komunità tagħna sigura. Ta' kull sena norgannizzaw summits għall-infurzar tal-liġi fl-Istati Uniti, bl-għan li niżguraw li l-uffiċjali u l-aġenziji jkunu jafu kif jieħdu azzjoni xierqa kontra kwalunkwe attività illegali li tista' tkun qed isseħħ fuq il-pjattaforma tagħna. 

Aħna nkomplu wkoll nespandu l-għodod ta' rappurtar fl-app tagħna, li jinkludu possibbiltajiet għall-komunità tagħna biex tiġbed l-attenzjoni fuq kontenut b'nudiżmu u kontenut sesswali, u speċifikament CSEAI. Ir-rappurtar ta' kontenut u kontijiet problematiċi hu kruċjali biex jgħin lill-kumpaniji tat-teknoloġija jneħħu lil dawk li jġibu ruħhom ħażin mis-servizzi tagħhom u jxekkel iktar attività qabel ma potenzjalment tkun ta' ħsara għall-oħrajn. 

B'mod iktar riċenti, żidna funzjonijiet ġodda fil-medda ta' għodod taċ-Ċentru tal-Familja tagħna, li l-ġenituri jistgħu jużaw biex jifhmu aħjar kif l-adoloxxenti tagħhom ikunu qed jużaw Snapchat, inkluż iċ-chatbot tal-IA tagħna. Ħriġna wkoll riżorsi ġodda biex ngħinu lill-edukaturi u lill-amministraturi tal-iskejjel jifhmu kif l-istudenti tagħhom jużaw Snapchat u r-riżorsi li noffru biex nassistu lill-iskejjel fl-isforzi tagħhom li joħolqu ambjenti siguri u ta' sapport għall-istudenti.

U qed inkomplu ninvestu f'modi kif inżidu l-għarfien fost il-pubbliku u l-iSnapchatters dwar il-ħsarat sesswali li jseħħu onlajn. L-episodji “Safety Snapshot” fl-app tagħna jiffukaw fuq ir-riskji sesswali, inklużi suġġetti bħall-grooming u t-traffikar onlajn tat-tfal. Konna wkoll l-ewwel entità li appoġġat lil Know2Protect, kampanja tad-Department of Homeland Security tal-Istati Uniti ffukata fuq l-edukar u l-għoti tas-setgħa liż-żgħażagħ, lill-ġenituri, lill-adulti fdati u lil dawk li jfasslu l-politika fuq il-qasam tal-abbuż sesswali tat-tfal onlajn. 

Ninsabu ħerqanin biex inkomplu naħdmu ma' kull tip ta' parti kkonċernata -- ġenituri, żgħażagħ, edukaturi, u dawk li jfasslu l-politika, fost ħafna oħrajn -- fuq dawn it-tipi ta' kwistjonijiet li jolqtu lis-soċjetà kollha kemm hi, u nittamaw li l-għarfien minn din ir-riċerka tagħna li tkopri diversi pjattaformi jgħin biex jinħolqu ideat u opportunitajiet ġodda biex jiġi żgurat li n-nies ikunu konxji dwar it-theddid onlajn eżistenti u ġdid, u r-riżorsi disponibbli biex jgħinu fil-ġlieda kontra dawn ir-riskji. 

— Viraj Doshi, il-Kap tas-Sigurezza tal-Pjattaforma