Nang dumating ang Lenses noong 2015, isinabuhay ng augmented reality (AR) technology ang magic sa harapan nating lahat, na binabago kung ano ang akala nating posible. Ngayon, mahigit 300 milyong Snapchatter ang gumagamit ng AR kada araw sa average, habang inasahan na natin ang ganitong uri ng teknolohiya sa ating pang-araw-araw na karanasan sa camera. 

Ngayon, nagbubukas ng napakarami at mga pambihirang posibilidad ang mga kamakailang advancement sa AI, na binabago ulit kung ano ang inaakala nating pasibleng gawin. 

Napakarami nang nakaka-inspire na paraan para maipahayag ng mga Snapchatter ang kanilang mga sarili gamit ang AI, gumagawa man sila ng orihinal na Generative AI Chat Wallpaper para i-personalize ang hitsura ng isang chat sa isang friend, binabago ang kanilang sarili sa malilikhaing paraan gamit ang Lenses na pinapatakbo ng AI, o natututo tungkol sa mundo gamit ang pakikipag-chat sa My AI. Talagang nae-excite kami sa potensyal ng teknolohiyang ito para tulungan ang ating komunidad na patuloy na ma-unlock ang kanilang pagkamalikhain at imahinasyon. 

Transparency ng AI

Naniniwala kami na dapat ipaalam sa mga Snapchatter ang tungkol sa mga uri ng mga teknolohiya na ginagamit nila kapag gumagawa sila ng mga nakakaaliw na visual o natututo sa pamamagitan ng mga text-based na chat gamit ang My AI. 

Gumagamit kami ng mga contextual icon, simbolo, at label sa app para magbigay ng contextual transparency sa mga Snapchatter kapag nakikipag-interaksyon sila sa isang feature na pinapatakbo ng AI technology. Halimbawa, kapag nagsi-share ang isang Snapchatter ng isang AI-generated na larawan ng Dreams, may nakikitang context card na may iba pang impormasyon ang recipient nito. Nillagyan ng limitasyon bilang isang AI feature ang iba pang feature, gaya ng extend tool na gumagamit ng AI para magmukhang mas nakazoom out ang isang Snap, gamit ang isang sparkle icon para sa Snapchatter na gumawa ng Snap. 

Nag-iingat din kami na suriin ang lahat ng pampulitikang ad sa pamamagitan ng mahigpit na proseso ng pag-review ng tao, kasama ang masinsing pagsusuri para sa anumang mapanlinlang na paggamit ng content, kasama ang paggamit ng AI para gumawa ng mga mapanlinlang na larawan o content. 

Hindi magtatagal, maglalagay na rin kami ng watermark sa mga AI-generated na larawan. Makikita ito sa mga larawan na ginawa gamit ang mga generative AI tool ng Snap kapag ine-export ang larawan o sine-save sa camera roll. Makakakita ng maliit na ghost logo na may makikilalang sparkle icon sa tabi nito ang mga recipient ng isang AI-generated na larawan na ginawa sa Snapchat. Makakatulong ang pagdaragdag ng ganitong mga watermark para ipaalam sa mga nakakakita nito na ginawa ang larawan gamit ang AI sa Snapchat. 

Mga Standardized na Testing at Mga Protocol para sa Kaligtasan 

Sineseryoso namin ang aming responsibilidad na magdisenyo ng mga produkto at karanasan na nagbibigay priyoridad sa privacy, kaligtasan, at pagiging angkop sa edad. Katulad ng lahat ng aming produkto, palaging dumadaan sa mahigpit na review ang mga feature na pinapatakbo ng AI para matiyak na nakakasunod ang mga ito sa aming mga prinsipyo sa kaligtasan at privacy—at sa aming mga natutunan sa paglipas ng panahon, gumawa kami ng mga karagdagang pangkaligtasang hakbang:

Red-Teaming

Ang AI red-teaming ay isang nakikilalang diskarte na ginagamit sa pag-test at pagtukoy sa mga potensyal na problema sa mga AI model at AI-enabled feature at nagpapatupad ng mga solusyon para mapahusay ang kaligtasan at consistency ng mga AI output. 

Maaga kaming nag-adopt ng mga novel AI-red teaming method para sa mga generative image model, at nakipag-partner sa HackerOne sa mahigit 2,500 oras para i-test ang bisa ng aming mahihigpit na pangkaligtasang hakbang. 

Pangkaligtasang Pag-filter at Patuloy na Paglalagay ng Label

Habang pinalapawak namin ang mga Generative AI-enabled na karanasang available sa Snapchat, nagtaguyod kami ng mga responsableng prinsipyo sa pamamahala at pinahusay ang aming mga hakbang na pag-mitigate ng kaligtasan. 

Gumawa kami ng proseso ng pagkaligtasang review para tukuyin at tanggalin ang mga potensyal na magkaproblemang prompt sa mga unang yugto ng pagbubuo ng mga karanasan sa AI Lens na binubuo ng aming team. Dumadaan sa prosesong ito ang lahat ng aming AI Lenses na gumagawa ng larawan mula sa isang prompt bago i-finalize ang mga ito at maging available sa ating komunidad. 

Inclusive Testing

Gusto naming magkaroon ng patas na access at expectation ang mga Snapchatter mula sa lahat ng antas ng buhay kapag ginagamit ang lahat ng feature sa loob ng aming app, partikular na ang aming mga karanasan na pinapatakbo ng AI. 

Sa pagsasaalang-alang nito, nagpapatupad kami ng dagdag na testing para i-minimize ang mga potensyal na may kinikilangang resulta ng AI. 

Tuloy-tuloy na Commitment sa AI Literacy

Naniniwala kami sa napakalaking potensyal ng AI technology para mapahusay ang kakayahan ng aming komunidad na ipahayag ang kanilang sarili at kumonekta sa isa't isa— at nakatuon kaming patuloy na mapahusay ang ganitong mga protocol sa kaligtasan at transparency. 

Bagama't idinisenyo ang lahat ng AI tool namin, parehong text-based at visual, para iwasang gumawa ng mali, mapaminsala, o mapanlinlang na material, posible pa ring magkaroon ng mga pagkakamali. Puwedeng mag-report ng content ang mga Snapchatter, at pinapahalagahan namin ang ganitong feedback. 

Panghuli, bilang bahagi ng aming tuloy-tuloy na commitment na tulungan ang aming komunidad na mas maunawaan ang mga tool na ito, mayroon na kami ngayong karagdagang impormasyon at mga sanggunian sa aming Site ng Support.