ഡിജിറ്റൽ ലോകത്ത് യുവജനങ്ങളുടെ വളർച്ചയെ പിന്തുണയ്ക്കുന്നതിൽ, ഓൺലൈൻ ജീവിതത്തെ തികച്ചും നല്ലതെന്നോ തികച്ചും മോശമെന്നോ ചിത്രീകരിക്കുന്ന ലളിതമായ കാഴ്ചപ്പാടുകൾക്കപ്പുറത്തേക്ക് നോക്കുന്നത് ഉൾപ്പെടുന്നു. നമ്മൾ ജനറേഷൻ Z-നെ അഭിവൃദ്ധി നേടാൻ പ്രാപ്തരാക്കുന്നത് എന്താണെന്ന് മനസ്സിലാക്കുന്നതിനായി ആധികാരികമായ, ദൈനംദിന അനുഭവങ്ങളിൽ ശ്രദ്ധ കേന്ദ്രീകരിക്കണം. ജനറേറ്റീവ് AI-യുടെ ദ്രുതഗതിയിലുള്ള വളർച്ച അടയാളപ്പെടുത്തുന്ന ഒരു പുതിയ യുഗത്തിലേക്ക് നമ്മൾ പ്രവേശിക്കുമ്പോൾ, വസ്തുനിഷ്ഠമായ ഗവേഷണങ്ങളിൽ അധിഷ്ഠിതമായി ഞങ്ങളുടെ സുരക്ഷാ പ്രവർത്തനങ്ങൾ മുന്നോട്ട് കൊണ്ടുപോകുമെന്ന പ്രതിബദ്ധത എപ്പോഴത്തെക്കാളും നിർണായകമാണ്. Snapchat എന്നും ആധികാരികത, പരസ്പരബന്ധം, ചേർച്ച, പ്രാധാന്യം എന്നിവയിൽ കേന്ദ്രീകരിച്ചുള്ള ഒരു ആശയവിനിമയ സേവനമായി നിലകൊള്ളുന്നുവെന്ന് ഉറപ്പാക്കാൻ ഇത് സഹായിക്കും.

ഇന്ന്, ഞങ്ങളുടെ ഡിജിറ്റൽ വെൽ-ബീയിംഗ് ഇൻഡക്സ് (DWBI) പഠനത്തിന്റെ അഞ്ചാമത്തെയും അവസാനത്തെയും വർഷത്തിൽ നിന്നുള്ള ചില പുതിയ ഉൾക്കാഴ്ചകൾ ഞങ്ങൾ പങ്കുവെക്കുന്നു. പ്രത്യേകിച്ച്, AI നിർമ്മിത ഉള്ളടക്കത്തിന്റെ വളർന്നുവരുന്ന മാറ്റങ്ങളെക്കുറിച്ചും വ്യക്തിബന്ധങ്ങളിൽ അത് ചെലുത്തുന്ന സ്വാധീനത്തെക്കുറിച്ചുമുള്ള ഫലങ്ങളിലാണ് ഇത് പ്രധാനമായും ശ്രദ്ധ കേന്ദ്രീകരിച്ചിരിക്കുന്നത്.

കഴിഞ്ഞ അഞ്ച് വർഷമായി, ജനറേഷൻ Z-ന്റെ ഓൺലൈൻ മാനസിക ക്ഷേമം നിരീക്ഷിക്കുന്നതിനും അളക്കുന്നതിനുമായി പ്ലാറ്റ്‌ഫോം-സ്വതന്ത്രമായ ഗവേഷണങ്ങൾ Snap നടത്തിവരുന്നു. യുവജനങ്ങളുടെ ഡിജിറ്റൽ ശീലങ്ങളെയും രീതികളെയും കുറിച്ചുള്ള ആഗോള വിവരശേഖരത്തിലേക്ക് സംഭാവന നൽകുന്നതിനാണ് ഞങ്ങൾ ഈ സർവേ നടത്തുന്നത്. ഇത് ഉയർന്നുവരുന്ന ആശങ്കകളെക്കുറിച്ച് അവബോധം വളർത്താൻ സഹായിക്കുന്നു; അതിലൂടെ മാതാപിതാക്കൾ, അധ്യാപകർ, സാങ്കേതികവിദ്യ കമ്പനികൾ, സർക്കാരുകൾ, പൗര സമൂഹം എന്നിവയ്ക്ക് അപകടസാധ്യതകൾ കുറയ്ക്കുന്നതിനും സാധ്യമായ ദോഷം കുറയ്ക്കുന്നതിനും അത്തരം സംഭവങ്ങൾ ആവർത്തിക്കുന്നത് തടയുന്നതിനും കൂടുതൽ കാര്യക്ഷമമായി ഒരുമിച്ച് ചേർന്ന് പ്രവർത്തിക്കാൻ സാധിക്കും. Snapchat ഉൾപ്പെടെയുള്ള ഏതെങ്കിലും ഒരൊറ്റ പ്ലാറ്റ്‌ഫോമിൽ ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്നതിന് പകരം, വിശാലമായ ഡിജിറ്റൽ ഇക്കോസിസ്റ്റത്തിൽ ആറ് രാജ്യങ്ങളിലെ 13 മുതൽ 24 വയസ്സ് വരെയുള്ളവരുടെ അനുഭവങ്ങൾ DWBI പരിശോധിക്കുന്നു. ഓസ്ട്രേലിയ, ഫ്രാൻസ്, ജർമ്മനി, ഇന്ത്യ, യുകെ, യു.എസ് എന്നിവിടങ്ങളിൽ നിന്നുള്ള പുതിയ കണ്ടെത്തലുകളിൽ ജനറേഷൻ Z-ന് ഇടയിലെ ഡീപ്‌ഫേക്ക് ചിത്രങ്ങളുടെ നിർമ്മാണത്തെക്കുറിച്ചും വിതരണത്തെക്കുറിച്ചുമുള്ള പുതിയ വിവരങ്ങൾ ഉൾപ്പെടുന്നു.

AI-യെക്കുറിച്ചുള്ള പൊതുചർച്ചകൾ പലപ്പോഴും അനിയന്ത്രിതമായ പ്രത്യാശയ്ക്കും കടുത്ത ആശങ്കയ്ക്കുമിടയിൽ ഉലയാറുണ്ട്. ഏതെങ്കിലും ഒരു തീവ്രമായ നിലപാടിനെ ആശ്രയിക്കുന്നതിന് പകരം, ഈ ആറ് രാജ്യങ്ങളിലെ 13 മുതൽ 24 വയസ്സ് വരെയുള്ളവർ ജനറേറ്റീവ് AI എങ്ങനെ ഉപയോഗിക്കുന്നു എന്നതിന്റെ തെളിവ് അടിസ്ഥാനപ്പെടുത്തിയ ഒരു കാഴ്ചപ്പാടാണ് ഏറ്റവും പുതിയ DWBI കണ്ടെത്തലുകൾ നൽകുന്നത്. ആ കണ്ടെത്തലുകൾ, ഡീപ്‌ഫേക്കുകൾ ഉൾപ്പെടുന്ന പരസ്പരമുള്ള ഇടപെടലുകളുടെ സങ്കീർണ്ണവും ചില സമയത്ത് ആശങ്കാജനകവുമായ ഒരു ചിത്രമാണ് വ്യക്തമാക്കുന്നത്. ഉദാഹരണത്തിന്:

• 13 മുതൽ 24 വയസ്സ് വരെയുള്ള ഏതാണ്ട് മൂന്നിലൊന്ന് (30%) പ്രതികരിച്ച ആളുകൾ മറ്റൊരാളുടെ ഡീപ്ഫേക്ക് സൃഷ്ടിച്ചതായി റിപ്പോർട്ട് ചെയ്തു

• ഡീപ്‌ഫേക്ക് നിർമ്മിച്ചവരിൽ പകുതിയിലധികവും (53%) ആളുകൾ ഈ പ്രവൃത്തി തങ്ങളുടെ സാമൂഹിക ബന്ധങ്ങൾക്കിടയിൽ 'നാടകീയമായ സംഭവങ്ങൾക്കോ' 'സംഘർഷങ്ങൾക്കോ' വഴിവെച്ചതായി രേഖപ്പെടുത്തി 

• ഭൂരിഭാഗം ആളുകളും ജനറേറ്റീവ് AI ടൂളുകൾ സർഗ്ഗാത്മകതയ്ക്കും വിനോദത്തിനും വേണ്ടിയാണ് ഉപയോഗിച്ചതെങ്കിലും, മൂന്നിലൊന്നിൽ അധികം ആളുകൾ (ആകെ 35%) തങ്ങൾ നിർമ്മിച്ച ഡീപ്‌ഫേക്കുകൾ ദുരുദ്ദേശ്യത്തോടെ ഉണ്ടാക്കിയതാണെന്ന് വ്യക്തമാക്കി; പ്രത്യേകിച്ച്: മറ്റൊരാളെ മോശമായി ചിത്രീകരിക്കാനോ വിഷമിപ്പിക്കാനോ (12%), പ്രതികാരമായി (12%), അല്ലെങ്കിൽ മറ്റൊരാളെ കളിയാക്കാനോ ഉപദ്രവിക്കാനോ (11%). 

സ്വന്തം ലൈംഗിക ഡീപ്‌ഫേക്കുകൾ പ്രചരിച്ചാൽ എങ്ങനെ പ്രതികരിക്കും എന്ന ചോദ്യത്തിന്, പ്രായപൂർത്തിയാകാത്ത കൗമാരക്കാരിൽ ഭൂരിഭാഗവും (ആകെ 81%) തങ്ങൾ ആരോടെങ്കിലും പറയുമെന്ന് വ്യക്തമാക്കി, പ്രത്യേകിച്ച് മാതാപിതാക്കളോട് (65%); എന്നാൽ ജനറേഷൻ Z-ലെ ചെറുപ്പക്കാരിൽ പത്തിൽ ഏഴു പേരും (70%) റിപ്പോർട്ട് ചെയ്യുമെന്ന് പറഞ്ഞു, നിയമപാലകരും (53%) സാങ്കേതികവിദ്യ പ്ലാറ്റ്‌ഫോമുകളുമാണ് (51%) ഇവരുടെ പ്രധാന അഭയകേന്ദ്രങ്ങൾ. പ്രായപൂർത്തിയാകാത്ത കൗമാരക്കാരിൽ പത്തിലൊന്നിൽ അധികവും (18%), 18 മുതൽ 24 വയസ്സ് വരെയുള്ളവരിൽ പത്തിൽ രണ്ടിൽ അധികവും (22%), തങ്ങൾ ഇത് അവഗണിക്കുകയോ അല്ലെങ്കിൽ നൽകിയിട്ടുള്ള നടപടികളൊന്നും സ്വീകരിക്കാതിരിക്കുകയോ ചെയ്യുമെന്ന് വ്യക്തമാക്കി. താഴെ നൽകിയിരിക്കുന്ന ചാർട്ട് നടപടികൾക്കായി മുന്നോട്ടുവെച്ച ഓപ്ഷനുകളുടെ രൂപരേഖ നൽകുന്നു.

ഈ കണ്ടെത്തലുകൾ ഒരു നിർണായകമായ സത്യത്തിന് അടിവരയിടുന്നു: 21-ാം നൂറ്റാണ്ടിലെ ഡിജിറ്റൽ ക്ഷേമത്തിന് പരമ്പരാഗത സുരക്ഷാ ടൂളുകളിലും വിഭവങ്ങളിലും കൂടുതൽ ആവശ്യമാണ്; അത് ആഴത്തിലുള്ളതും പ്രായോഗികവുമായ AI സാക്ഷരത ആവശ്യപ്പെടുന്നു. 30% കൗമാരക്കാരും തങ്ങളുടെ സഹപ്രവർത്തകരെ ഉൾപ്പെടുന്ന സിന്തറ്റിക് മീഡിയ സൃഷ്ടിച്ചതായി റിപ്പോർട്ട് ചെയ്യുമ്പോൾ, ആ പ്രവർത്തനം വ്യക്തി ബന്ധങ്ങൾ, പ്രശസ്തി, അവരെ എങ്ങനെ ചിത്രീകരിക്കുന്നു എന്നതിനെക്കുറിച്ചുള്ള ഒരു വ്യക്തിയുടെ നിയന്ത്രണബോധം എന്നിവയിൽ പ്രത്യാഘാതങ്ങൾ ഉണ്ടാക്കിയേക്കാം.

അതനുസരിച്ച്, നയരൂപീകരണവുമായി ബന്ധപ്പെട്ട ചർച്ചകൾ ഭയത്തിൽ അധിഷ്ഠിതമായ പ്രതികരണങ്ങളിൽ നിന്ന് മാറി, ഇന്നത്തെ യുവജനങ്ങളുടെ 'സമഗ്ര വ്യക്തിത്വത്തെ' ഉൾക്കൊള്ളുന്ന ഒരു ചട്ടക്കൂടിലേക്ക് പുരോഗമിക്കേണ്ടതുണ്ട്. മൂന്ന് പ്രധാന ഘടകങ്ങൾ നമുക്ക് പരിഗണിക്കാം:

1. AI സാക്ഷരത: AI എങ്ങനെ ഉപയോഗിക്കാം എന്ന് മാത്രമല്ല, സമ്മതമില്ലാതെ മറ്റുള്ളവരെ ഉൾപ്പെടുത്തിയേക്കാവുന്ന ഉള്ളടക്കം സൃഷ്ടിക്കുന്നതിന്റെ ധാർമ്മികവും സാമൂഹികവുമായ പ്രത്യാഘാതങ്ങൾ മനസ്സിലാക്കാൻ യുവജനങ്ങളെ സഹായിക്കുന്നതിന്.

2. വ്യക്തിഗത നിയന്ത്രണം: അതിർവരമ്പുകൾ തിരിച്ചറിയാനും അവരുടെ സ്വന്തം ഡിജിറ്റൽ സാമ്യതകളുടെ നിയന്ത്രണം നിലനിർത്താൻ ശ്രമിക്കാനും കൗമാരക്കാരെ ശാക്തീകരിക്കാനും, കൂടാതെ

3. തുറന്ന ആശയവിനിമയം: "ഒരു തമാശ" ആയി സൃഷ്ടിക്കുന്ന ഒരു ഡീപ്ഫെയ്ക്ക് പോലും മറ്റുള്ളവരിൽ ശാശ്വതമായ പ്രത്യാഘാതങ്ങൾ ഉണ്ടാക്കുമെന്ന് തിരിച്ചറിഞ്ഞുകൊണ്ട്, ഡിജിറ്റൽ ഇടപെടലുകളുടെ ഗുണനിലവാരവും അളവും സംബന്ധിച്ച് തുറന്നതും ചിന്താപരവുമായ സംഭാഷണങ്ങൾ നടത്താൻ കൗമാരക്കാർ, രക്ഷിതാക്കൾ, അധ്യാപകർ, മറ്റ് വിശ്വസ്തരായ മുതിർന്നവർ എന്നിവരെ പ്രോത്സാഹിപ്പിക്കുക.

യാദൃശ്ചികമായി, അവർ AI ടൂളുകൾ സുരക്ഷിതമായും ഉത്തരവാദിത്തത്തോടെയും ഉപയോഗിക്കാൻ എവിടെവെച്ചും, ആരിൽ നിന്ന് പഠിക്കുന്നു എന്ന് ചോദിച്ചപ്പോൾ, 13 മുതൽ 24 വയസ്സ് വരെയുള്ള 10 കുട്ടികളിൽ എട്ട് (മൊത്തം 81%) പേരും തങ്ങൾ സ്വയം പഠിപ്പിച്ചതാണെന്ന് പറഞ്ഞു. 13 മുതൽ 17 വയസ്സ് വരെയുള്ള കുട്ടികളിൽ നാലിൽ ഒരു ഭാഗം (27%) അവരുടെ മാതാപിതാക്കളിൽ നിന്ന് പഠിക്കുന്നുവെന്ന് പറഞ്ഞു, അതേസമയം 'കൗമാരക്കാരുടെയും (11%) കൗമാരക്കാരുടെയും' (10%)നോളജ് ബേസുകളിൽ 10 പേരിൽ ഒരാൾ ഉണ്ടെന്ന് അധ്യാപകർ പറഞ്ഞു.

ഈ കണ്ടെത്തലുകൾ വിവിധ പ്ലാറ്റ്‌ഫോമുകളിലുടനീളമുള്ള ജനറേഷൻ Z-ന്റെ ഓൺലൈൻ മാനസിക ക്ഷേമത്തെക്കുറിച്ച് സ്നാപ്പ് നടത്തിയ അഞ്ച് വർഷത്തെ പഠനത്തിന്റെ ഭാഗമാണ്. കൂടാതെ, ആറ് രാജ്യങ്ങളിലെ കൗമാരക്കാരും (13-17 വയസ്സ്) യുവജനങ്ങളും (18-24 വയസ്സ്) ഓൺലൈനിൽ എങ്ങനെ ഇടപെടുന്നുവെന്ന് അളക്കുന്ന ഞങ്ങളുടെ ഡിജിറ്റൽ വെൽ-ബീയിംഗ് ഇൻഡക്സിന്റെ (DWBI) ഏറ്റവും പുതിയതും അവസാനത്തേതുമായ ഘട്ടത്തെ ഇത് അടയാളപ്പെടുത്തുന്നു. 13 മുതൽ 19 വയസ്സ് വരെയുള്ള കൗമാരക്കാരുടെ ഓൺലൈൻ അനുഭവങ്ങളെക്കുറിച്ച് ഞങ്ങൾ അവരുടെ മാതാപിതാക്കൾക്കിടയിലും സർവേ നടത്തുന്നുണ്ട്. ഈ പുതിയ സർവേ 2026 മെയ് 11 മുതൽ മെയ് 30 വരെയുള്ള കാലയളവിൽ നടത്തി, മൂന്ന് പ്രായപരിധിയിലുള്ള ജനസംഖ്യാ വിഭാഗങ്ങളിലായി ആറ് ഭൂമിശാസ്ത്രപരമായ വിഭാഗങ്ങളിലായി 9,005 പേർ ഇതിൽ ഉൾപ്പെട്ടിരുന്നു. ഓരോ രാജ്യത്തിനും ആറ് രാജ്യങ്ങൾക്കുമുള്ള ഏറ്റവും പുതിയ DWBI റീഡിംഗ് ഉൾപ്പെടെയുള്ള സംയോജിപ്പിച്ച പൂർണ്ണമായ ഫലങ്ങൾ 2027 ഫെബ്രുവരിയിലെ സുരക്ഷിത ഇന്റർനെറ്റ് ദിനത്തിൽ പുറത്തിറക്കും. ഈ വിഷയങ്ങളിലധികവും ആഗോളതലത്തിൽ തുടർച്ചയായി ചർച്ച ചെയ്യപ്പെട്ടുകൊണ്ടിരിക്കുന്ന സാഹചര്യം കണക്കിലെടുത്ത്, AI സംബന്ധിയായ ഈ കണ്ടെത്തലുകൾ നേരത്തെ തന്നെ ലഭ്യമാക്കാൻ ഞങ്ങൾ തീരുമാനിക്കുകയായിരുന്നു.

ഡിജിറ്റൽ വെൽബീയിംഗ് പഠനത്തിന്റെ അഞ്ച് വർഷത്തെ ഈ ഘട്ടം അവസാനിപ്പിക്കുകയും വരും വർഷങ്ങളിലേക്ക് ഞങ്ങളുടെ ഗവേഷണ ലക്ഷ്യങ്ങളിൽ മാറ്റം വരുത്തുകയും ചെയ്യുമ്പോഴും, ഞങ്ങളുടെ ആവാസവ്യവസ്ഥയിലുടനീളമുള്ള ദൗത്യം വ്യക്തതയോടെ തുടരുന്നു:  ചെറുപ്പക്കാർക്ക് കഴിയുന്നത്ര സുരക്ഷിതമായും ആധികാരികമായും പഠിക്കാനും സന്തോഷിക്കാനും ആശയവിനിമയം നടത്താനും സാധിക്കുന്ന ഓൺലൈൻ ഇടങ്ങൾ നിർമ്മിക്കുക. സാങ്കേതികവിദ്യ വികസിക്കുന്നതിനനുസരിച്ച് ഞങ്ങളുടെ പ്രവർത്തനപരവും വിദ്യാഭ്യാസപരവുമായ ശ്രമങ്ങൾ അതിനൊപ്പം വളർന്നിരിക്കണം എന്നതിന്റെ ഒരു ഓർമ്മപ്പെടുത്തലാണ് ഡീപ്ഫേക്കുകളുടെ വളർച്ച. സാക്ഷരത, പ്രതിരോധശേഷി, വിമർശനാത്മക ചിന്ത എന്നിവയിൽ ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്നത് തുടരുന്നതിലൂടെ, അടുത്ത തലമുറ ഓൺലൈനിൽ വെറുതെ "പിടിച്ചുനിൽക്കുക" മാത്രമല്ല, യഥാർത്ഥത്തിൽ അഭിവൃദ്ധി പ്രാപിക്കുന്നുവെന്നും ഉറപ്പാക്കാൻ നമുക്ക് സാധിക്കും.

ഈ ശ്രമങ്ങളെ പിന്തുണച്ചുകൊണ്ട്, കഴിഞ്ഞ മാസം, Snapchat-ൻെറ സ്പോട്ട്ലൈറ്റ് സവിശേഷതയിൽ പൂർണ്ണമായും AI ഉപയോഗിച്ച് നിർമ്മിച്ച വീഡിയോകൾ ഇനി മുതൽ ശുപാർശ ചെയ്യാൻ യോഗ്യമല്ലെന്ന് Snap പ്രഖ്യാപിച്ചു. തീർച്ചയായും, ഓൺലൈൻ ഇടങ്ങളിൽ ഗുണനിലവാരം കുറഞ്ഞതും ആവർത്തിക്കപ്പെടുന്നതുമായ AI നിർമ്മിത ഉള്ളടക്കങ്ങൾ വർദ്ധിച്ചുവരുന്ന സാഹചര്യത്തിൽ, യഥാർത്ഥ വ്യക്തികളിൽ നിന്നുള്ള തനതായ സർഗ്ഗാത്മകത കണ്ടെത്താൻ സാധിക്കുന്ന ഒരു ഇടമായി സ്പോട്ട്‌ലൈറ്റ് നിലനിൽക്കണം എന്നാണ് Snap ആഗ്രഹിക്കുന്നത്. AI ഉപയോഗിച്ച് സൃഷ്ടിച്ച ഉള്ളടക്കത്തെക്കുറിച്ച് രക്ഷിതാക്കൾക്കും കൗമാരക്കാർക്കുമായി ഒരു ഹ്രസ്വ ഫാക്റ്റ്ഷീറ്റും ഞങ്ങൾ സൃഷ്ടിച്ചു. “നിർത്തുക. ചിന്തിക്കുക. ഇത് AI ആയിരിക്കുമോ?”AI ടൂളുകളുടെ സുരക്ഷിതവും ഉത്തരവാദിത്തത്തോടെയുള്ളതുമായ ഉപയോഗത്തെക്കുറിച്ച് കൗമാരക്കാർ, രക്ഷിതാക്കൾ, മറ്റ് വിശ്വസ്തരായ മുതിർന്നവർ എന്നിവരുമായി സംഭാഷണങ്ങൾ ആരംഭിക്കുന്നതിനാണ് രൂപകൽപ്പന ചെയ്തിരിക്കുന്നത്. ഞങ്ങൾ മറ്റ് നിരവധി ഗ്രൂപ്പുകളുമായും സംഘടനകളുമായും സഹകരിച്ച് പ്രവർത്തിക്കുന്നുണ്ട്. കൂടാതെ കുട്ടികൾക്കെതിരെയുള്ള ലൈംഗിക ചൂഷണത്തെയും അതിക്രമങ്ങളെയും കുറിച്ച് അവബോധം വളർത്തുന്ന യു.എസ്. ഡിപ്പാർട്ട്മെന്റ് ഓഫ് ഹോംലാന്റ് സെക്യൂരിറ്റിയുടെ 'Know2Protect' ക്യാമ്പെയ്നിനെ പിന്തുണച്ച ആദ്യത്തെ പങ്കാളി കൂടിയാണ് ഞങ്ങൾ. Know2Protect ഇവിടെ ഡീപ്‌ഫേക്കുകളെക്കുറിച്ച് ഒരു പ്രാഥമിക വിവരശേഖരം പ്രസിദ്ധീകരിച്ചു.   

പൊതു നയങ്ങളുടെ രംഗത്ത്, സമ്മതമില്ലാതെയെടുക്കുന്ന സ്വകാര്യ ചിത്രങ്ങളും AI നിർമ്മിത ഉള്ളടക്കങ്ങളും തടയുന്നതിനായി 2025 മെയ് മാസത്തിൽ പ്രാബല്യത്തിൽ വന്ന യു.എസ് ഫെഡറൽ ചട്ടക്കൂടായ Take It Down ആക്റ്റിനെ Snap പിന്തുണച്ചിരുന്നു. സമ്മതമില്ലാതെ സ്വകാര്യ ചിത്രങ്ങൾ — അത് യഥാർത്ഥമാണെങ്കിലും കൃത്രിമമായി നിർമ്മിക്കപ്പെട്ടതാണെങ്കിലും — ബോധപൂർവ്വം പ്രസിദ്ധീകരിക്കുന്നതോ പ്രസിദ്ധീകരിക്കുമെന്ന് ഭീഷണിപ്പെടുത്തുന്നതോ ഫെഡറൽ കുറ്റകൃത്യമാക്കുന്ന ഈ നിയമം, ഉൾപ്പെട്ടിരിക്കുന്ന പ്ലാറ്റ്‌ഫോമുകൾ പരാതി നൽകാനുള്ള സൗകര്യം ലഭ്യമാക്കണമെന്നും പരാതി ലഭിച്ച ഉള്ളടക്കങ്ങൾ 48 മണിക്കൂറിനുള്ളിൽ നീക്കം ചെയ്യണമെന്നും നിഷ്കർഷിക്കുന്നു.

സുരക്ഷിത ഇന്റർനെറ്റ് ദിനം 2026-ൽ ആരംഭിച്ച "No to Nudify" കാമ്പെയ്നിലും സമാനമായ ആശങ്കകൾ പ്രതിഫലിക്കുന്നുണ്ട്. കുട്ടികളുടെ സുരക്ഷയ്ക്കായി പ്രവർത്തിക്കുന്ന സംഘടനകളും സിവിൽ സൊസൈറ്റി പ്രസ്ഥാനങ്ങളും ഇതിനായി ഒന്നിച്ചുച്ചേർന്നു. ഇവരിൽ ഭൂരിഭാഗവും Snap-ന്റെ പങ്കാളികളും സഹകാരികളുമാണ്. WeProtect ഗ്ലോബൽ അലയൻസ്, INHOPE, ദി ഇന്റർനെറ്റ് വാച്ച് ഫൗണ്ടേഷൻ, NCMEC, ചൈൽഡ് ഹെൽപ്പ്ലൈൻ ഇന്റർനാഷണൽ, ഓഫ് ലിമിറ്റ്സ്, സേഫ് ഓൺലൈൻ എന്നിവ AI ന്യൂഡിഫിക്കേഷൻ ടൂളുകൾ വിലക്കാൻ ആവശ്യപ്പെട്ടു. "ന്യൂഡിഫൈ" എന്ന് വിളിക്കപ്പെടുന്ന ആപ്പുകൾ യഥാർത്ഥത്തിൽ ദോഷകരമല്ലാത്ത ഒരു പരീക്ഷണം അല്ലെന്നും, മറിച്ച് സാധാരണ ചിത്രങ്ങളിൽ നിന്ന് സമ്മതമില്ലാതെ ലൈംഗികാധിഷ്ഠിതമായ ചിത്രങ്ങൾ നിർമ്മിക്കാൻ ഉപയോഗിക്കുന്നവയാണെന്നുമാണ് ഈ കാമ്പെയ്ൻ വ്യക്തമാക്കുന്നത്. കൂടാതെ, ഇവ സ്ത്രീകൾ, പെൺകുട്ടികൾ, കുട്ടികൾ എന്നിവരെ ബാധിക്കുന്ന ഉപദ്രവങ്ങൾ, ഭീഷണിപ്പെടുത്തൽ, ലൈംഗിക ഭീഷണിപ്പെടുത്തൽ, ചൂഷണം എന്നിവയുമായി കൂടുതലായി ബന്ധപ്പെട്ടിരിക്കുന്നുവെന്നും ചൂണ്ടിക്കാണിക്കുന്നു.

Snapchat-ൽ അത്തരം ഉള്ളടക്കങ്ങളുടെ വ്യാപനം പരിമിതപ്പെടുത്തുന്നതിനായി രൂപകൽപ്പന ചെയ്‌തിരിക്കുന്ന വ്യാവസായിക തലത്തിലുള്ള പ്രായോഗിക കൂട്ടായ്മകളിലും Snap പങ്കെടുക്കുന്നുണ്ട്. പ്രായപൂർത്തിയാകാത്തവർക്കായുള്ള NCMEC-യുടെ 'ടേക്ക് ഇറ്റ് ഡൗൺ' പ്രോഗ്രാമിലും, 18 വയസ്സിന് മുകളിലുള്ളവർക്കായുള്ള SWGfL-ന്റെ StopNCII സംരംഭത്തിലും ഞങ്ങൾ പങ്കാളികളാണ്. ഡ്യൂപ്ലിക്കേറ്റ് സ്വകാര്യ ചിത്രങ്ങൾ കണ്ടെത്താനും ഞങ്ങളുടെ ചട്ടങ്ങൾ ലംഘിക്കുന്ന ഉള്ളടക്കങ്ങൾ നീക്കം ചെയ്യാനും സഹായിക്കുന്ന സവിശേഷമായ ഡിജിറ്റൽ സിഗ്നേച്ചറുകൾ അല്ലെങ്കിൽ "ഹാഷുകൾ" ഞങ്ങൾ സ്വീകരിക്കുകയും പ്രയോജനപ്പെടുത്തുകയും ചെയ്യുന്നു. ഈ ശ്രമങ്ങൾ പ്രധാനപ്പെട്ടതാണ്, കാരണം ഇവ പ്രാഥമികമായി കണ്ടെത്തുന്നതിൽ മാത്രമല്ല, ഇത്തരം സ്വകാര്യ ചിത്രങ്ങളും ലൈംഗിക സ്വഭാവമുള്ള ഡീപ്‌ഫേക്കുകളും പ്രചരിച്ചു തുടങ്ങിക്കഴിഞ്ഞാൽ അവ വീണ്ടും വിതരണം ചെയ്യപ്പെടുന്നത് തടയുന്നതിലും ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്നു.

– ജാക്വലിൻ ബ്യൂഷെർ, പ്ലാറ്റ്‌ഫോം സുരക്ഷയുടെ ഗ്ലോബൽ ഹെഡ്, Snap Inc.