2015-ൽ ലെൻസുകൾ വന്നപ്പോൾ, ഓഗ്‌മെന്റഡ് റിയാലിറ്റി (AR) സാങ്കേതികവിദ്യ നമ്മുടെ കൺമുന്നിൽ ഇന്ദ്രജാലം ഒരുക്കി, സാധ്യമാണെന്ന് ഞങ്ങൾ കരുതിയ കാര്യങ്ങളിൽ വിപ്ലവം സൃഷ്ടിച്ചു. ഇന്ന്, ഓരോ ദിവസവും ശരാശരി 300 ദശലക്ഷത്തിലധികം സ്നാപ്പ്ചാറ്റർമാർ AR-മായി ഇടപഴകുന്നു, കാരണം ഞങ്ങളുടെ ദൈനംദിന ക്യാമറ അനുഭവത്തിൽ ഇത്തരത്തിലുള്ള സാങ്കേതികവിദ്യ ഞങ്ങൾ പ്രതീക്ഷിക്കുന്നു.

ഇപ്പോൾ, AI-ലെ സമീപകാല മുന്നേറ്റങ്ങൾ അനന്തവും അതിശയകരവുമായ സാധ്യതകൾ തുറക്കുന്നു, ഞങ്ങൾ വീണ്ടും സാധ്യമാണെന്ന് കരുതിയതിനെ മാറ്റിമറിക്കുന്നു.

ഇതിനകം, AI ഉപയോഗിച്ച് സ്വയം പ്രകടിപ്പിക്കാൻ സ്‌നാപ്‌ചാറ്റർമാർക്ക് പ്രചോദനാത്മകമായ നിരവധി മാർഗങ്ങളുണ്ട്, ഒരു സുഹൃത്തുമായുള്ള സംഭാഷണത്തിന്റെ രൂപം വ്യക്തിഗതമാക്കുന്നതിന് ഒരു യഥാർത്ഥ ജനറേറ്റീവ് AI ചാറ്റ് വാൾപേപ്പർ സൃഷ്ടിക്കുക, AI-പവർഡ് ലെൻസുകൾ ഉപയോഗിച്ച് ഭാവനാത്മകമായ രീതിയിൽ സ്വയം പരിവർത്തനം ചെയ്യുക, അല്ലെങ്കിൽ My AI-യുമായുള്ള സംഭാഷണങ്ങളിലൂടെ ലോകത്തെ കുറിച്ച് പഠിക്കുക. ഞങ്ങളുടെ കമ്മ്യൂണിറ്റിയെ അവരുടെ സർഗ്ഗാത്മകതയും ഭാവനയും അൺലോക്ക് ചെയ്യുന്നത് തുടരാൻ സഹായിക്കുന്നതിനുള്ള ഈ സാങ്കേതികവിദ്യയുടെ കഴിവിൽ ഞങ്ങൾ വളരെ ആവേശത്തിലാണ്.

AI സുതാര്യത

രസകരമായ ദൃശ്യങ്ങൾ സൃഷ്ടിക്കുന്നതിനോ My AI-യുമായുള്ള ടെക്സ്റ്റ് അധിഷ്ഠിത സംഭാഷണങ്ങളിലൂടെ പഠിക്കുന്നതിനോ സ്നാപ്ചാറ്റർമാരെ അവർ ഉപയോഗിക്കുന്ന സാങ്കേതികവിദ്യകളെക്കുറിച്ച് അറിയിക്കണമെന്ന് ഞങ്ങൾ വിശ്വസിക്കുന്നു.

AI സാങ്കേതികവിദ്യയാൽ പ്രവർത്തിക്കുന്ന ഒരു സവിശേഷതയുമായി ഇടപഴകുമ്പോൾ സ്നാപ്പ്ചാറ്റർമാർക്ക് സന്ദർഭോചിതമായ സുതാര്യത നൽകുന്നതിന് ഞങ്ങൾ ആപ്ലിക്കേഷനിൽ സന്ദർഭോചിത ഐക്കണുകൾ, ചിഹ്നങ്ങൾ, ലേബലുകൾ എന്നിവ ഉപയോഗിക്കുന്നു. ഉദാഹരണത്തിന്, ഒരു സ്നാപ്പ്ചാറ്റർ AI സൃഷ്ടിച്ച ഡ്രീംസ് ഇമേജ് പങ്കിടുമ്പോൾ, സ്വീകർത്താവ് കൂടുതൽ വിവരങ്ങളുള്ള ഒരു സന്ദർഭ കാർഡ് കാണുന്നു. ഒരു സ്‌നാപ്പിനെ കൂടുതൽ സൂം ഔട്ട് ആക്കുന്നതിന് AI പ്രയോജനപ്പെടുത്തുന്ന എക്സ്റ്റൻഡഡ് ടൂൾ പോലുള്ള മറ്റ് സവിശേഷതകൾ, സ്‌നാപ്പ് സൃഷ്ടിക്കുന്ന സ്നാപ്പ്ചാറ്ററിന് ഒരു തിളക്കമാർന്ന ഐക്കണുള്ള ഒരു AI സവിശേഷതയായി വേർതിരിച്ചിരിക്കുന്നു.

വഞ്ചനാപരമായ ചിത്രങ്ങളോ ഉള്ളടക്കമോ സൃഷ്ടിക്കുന്നതിന് AI ഉൾപ്പെടെ ഉള്ളടക്കത്തിന്റെ തെറ്റിദ്ധാരണാജനകമായ ഉപയോഗത്തിനായി സമഗ്രമായ പരിശോധന ഉൾപ്പെടെ കർശനമായ മാനുഷിക അവലോകന പ്രക്രിയയിലൂടെ എല്ലാ രാഷ്ട്രീയ പരസ്യങ്ങളും പരിശോധിക്കാനും ഞങ്ങൾ വളരെയധികം ശ്രദ്ധിക്കുന്നു.

താമസിയാതെ, AI ജനറേറ്റഡ് ഇമേജുകളിലേക്ക് ഞങ്ങൾ ഒരു വാട്ടർമാർക്ക് ചേർക്കും. ചിത്രം എക്‌സ്‌പോർട്ടുചെയ്യുമ്പോഴോ ക്യാമറ റോളിൽ സംരക്ഷിക്കുമ്പോഴോ സ്‌നാപ്പിൻ്റെ ജനറേറ്റീവ് AI ടൂളുകൾ ഉപയോഗിച്ച് സൃഷ്‌ടിച്ച ചിത്രങ്ങളിൽ ഇത് ദൃശ്യമാകും. Snapchat-ൽ നിർമ്മിച്ച AI ജനറേറ്റഡ് ഇമേജ് സ്വീകർത്താക്കൾക്ക് വ്യാപകമായി അംഗീകരിക്കപ്പെട്ട സ്പാർക്കിൾ ഐക്കണുള്ള ഒരു ചെറിയ ഗോസ്റ്റ് ലോഗോ കാണാൻ കഴിയും. ഈ വാട്ടർമാർക്കുകൾ ചേർക്കുന്നത് ചിത്രം Snapchat-ൽ AI ഉപയോഗിച്ചാണ് നിർമ്മിച്ചതെന്ന് അത് കാണുന്നവരെ അറിയിക്കാൻ സഹായിക്കും.

സ്റ്റാൻഡേർഡൈസ്ഡ് സേഫ്റ്റി ടെസ്റ്റിംഗും പ്രോട്ടോക്കോളുകളും 

സ്വകാര്യത, സുരക്ഷ, പ്രായത്തിന് അനുയോജ്യത എന്നിവയ്ക്ക് മുൻഗണന നൽകുന്ന ഉൽപ്പന്നങ്ങളും അനുഭവങ്ങളും രൂപകൽപ്പന ചെയ്യുന്നതിനുള്ള ഞങ്ങളുടെ ഉത്തരവാദിത്തം ഞങ്ങൾ ഗൗരവമായി എടുക്കുന്നു. ഞങ്ങളുടെ എല്ലാ ഉൽപ്പന്നങ്ങളെയും പോലെ, AI പവർ ചെയ്ത സവിശേഷതകൾ ഞങ്ങളുടെ സുരക്ഷയും സ്വകാര്യതാ തത്വങ്ങളും പാലിക്കുന്നുണ്ടെന്ന് ഉറപ്പാക്കുന്നതിന് എല്ലായ്പ്പോഴും കർശനമായ അവലോകനത്തിന് വിധേയമായിട്ടുണ്ട് – കാലക്രമേണ ഞങ്ങളുടെ പഠനങ്ങളിലൂടെ, ഞങ്ങൾ അധിക സുരക്ഷാ സംവിധാനങ്ങൾ വികസിപ്പിച്ചെടുത്തിട്ടുണ്ട്:

റെഡ്-ടീമിംഗ്

AI മോഡലുകളിലും AI പ്രാപ്തമാക്കിയ സവിശേഷതകളിലും സംഭവ്യമായ പോരായ്മകൾ പരിശോധിക്കുന്നതിനും തിരിച്ചറിയുന്നതിനും AI ഔട്ട്പുട്ടുകളുടെ സുരക്ഷയും സ്ഥിരതയും മെച്ചപ്പെടുത്തുന്നതിനുള്ള പരിഹാരങ്ങൾ നടപ്പിലാക്കുന്നതിനും ഉപയോഗിക്കുന്ന ഒരു സാധാരണ തന്ത്രമാണ് AI റെഡ്-ടീമിംഗ്.

ജനറേറ്റീവ് ഇമേജ് മോഡലുകൾക്കായി നൂതന AI റെഡ്-ടീമിംഗ് രീതികൾ ഞങ്ങൾ നേരത്തെ സ്വീകരിച്ചു, ഞങ്ങളുടെ കർശനമായ സുരക്ഷകളുടെ ഫലപ്രാപ്തി പരീക്ഷിക്കുന്നതിനായി 2,500 മണിക്കൂറിലധികം HackerOne-മായി പങ്കാളിത്തത്തോടെ ഞങ്ങൾ പ്രവർത്തിച്ചു.

സുരക്ഷാ ഫിൽട്ടറിംഗ്, സ്ഥിരമായ ലേബലിംഗ്

Snapchat-ൽ ലഭ്യമായ ജനറേറ്റീവ് AI അധിഷ്ഠിത അനുഭവങ്ങൾ ഞങ്ങൾ വിപുലീകരിച്ചപ്പോൾ, ഞങ്ങൾ ഉത്തരവാദിത്ത ഭരണ തത്വങ്ങൾ സ്ഥാപിക്കുകയും ഞങ്ങളുടെ സുരക്ഷാ പരിഹാരങ്ങൾ മെച്ചപ്പെടുത്തുകയും ചെയ്തു.

ഞങ്ങളുടെ ടീം രൂപകൽപ്പന ചെയ്ത AI ലെൻസ് അനുഭവങ്ങളുടെ വികസനത്തിന്റെ ആദ്യ ഘട്ടങ്ങളിൽ പ്രശ്നകരമായ പ്രോംപ്റ്റുകൾ കണ്ടെത്തുന്നതിനും നീക്കം ചെയ്യുന്നതിനും ഞങ്ങൾ ഒരു സുരക്ഷാ അവലോകന പ്രക്രിയ സൃഷ്ടിച്ചു. പ്രോംപ്റ്റിൽ നിന്ന് ഒരു ഇമേജ് സൃഷ്ടിക്കുന്ന ഞങ്ങളുടെ എല്ലാ AI ലെൻസുകളും അന്തിമമാക്കുന്നതിനും ഞങ്ങളുടെ കമ്മ്യൂണിറ്റിക്ക് ലഭ്യമാകുന്നതിനുമുമ്പ് ഈ പ്രക്രിയയിലൂടെ കടന്നുപോകുന്നു.

സമഗ്രമായ പരിശോധന

ഞങ്ങളുടെ ആപ്പിലെ എല്ലാ സവിശേഷതകളും, പ്രത്യേകിച്ച് ഞങ്ങളുടെ AI പവർ ചെയ്യുന്ന അനുഭവങ്ങൾ ഉപയോഗിക്കുമ്പോൾ ജീവിതത്തിന്റെ എല്ലാ തുറകളിലുമുള്ള സ്നാപ്പ്ചാറ്റർമാർക്ക് തുല്യമായ ആക്സസും പ്രതീക്ഷകളും ഉണ്ടായിരിക്കണമെന്ന് ഞങ്ങൾ ആഗ്രഹിക്കുന്നു.

ഇത് മനസ്സിൽ വച്ചുകൊണ്ട്, പക്ഷപാതപരമായ AI ഫലങ്ങൾ കുറയ്ക്കുന്നതിന് ഞങ്ങൾ അധിക പരിശോധന നടപ്പാക്കുന്നു. 

AI സാക്ഷരതയോടുള്ള തുടർച്ചയായ പ്രതിബദ്ധത

സ്വയം പ്രകടിപ്പിക്കുന്നതിനും പരസ്പരം ബന്ധപ്പെടുന്നതിനുമുള്ള ഞങ്ങളുടെ കമ്മ്യൂണിറ്റിയുടെ കഴിവ് മെച്ചപ്പെടുത്തുന്നതിനുള്ള AI സാങ്കേതികവിദ്യയുടെ മഹത്തായ സാധ്യതയിൽ ഞങ്ങൾ വിശ്വസിക്കുന്നു – ഈ സുരക്ഷയും സുതാര്യത പ്രോട്ടോക്കോളുകളും മെച്ചപ്പെടുത്തുന്നത് തുടരാൻ ഞങ്ങൾ പ്രതിജ്ഞാബദ്ധരാണ്.

ഞങ്ങളുടെ എല്ലാ AI ടൂളുകളും, ടെക്സ്റ്റ് അധിഷ്ഠിതവും ദൃശ്യപരവും, തെറ്റായതോ ദോഷകരമോ തെറ്റിദ്ധരിപ്പിക്കുന്നതോ ആയ മെറ്റീരിയൽ നിർമ്മിക്കുന്നത് ഒഴിവാക്കാൻ രൂപകൽപ്പന ചെയ്തിട്ടുണ്ടെങ്കിലും, തെറ്റുകൾ ഇപ്പോഴും സംഭവിച്ചേക്കാം. Snapchat ഉപയോക്താക്കൾക്ക് ഉള്ളടക്കം റിപ്പോർട്ട് ചെയ്യാൻ കഴിയും, ഈ ഫീഡ്‌ബാക്ക് ഞങ്ങൾ വിലമതിക്കുന്നു. 

അവസാനമായി, ഈ ഉപകരണങ്ങൾ നന്നായി മനസ്സിലാക്കാൻ ഞങ്ങളുടെ കമ്മ്യൂണിറ്റിയെ സഹായിക്കുന്നതിനുള്ള ഈ തുടർച്ചയായ പ്രതിബദ്ധതയുടെ ഭാഗമായി, ഞങ്ങളുടെ പിന്തുണാ സൈറ്റിൽ ഞങ്ങൾക്ക് ഇപ്പോൾ അധിക വിവരങ്ങളും വിഭവങ്ങളും ഉണ്ട്.