Kad su 2015. stigli Objektivi, tehnologija proširene stvarnosti (AR) učinila je naš život čarobnim revolucionarizirajući ono što smo smatrali mogućim. Danas je prosječno više od 300 milijuna Snapchattera svakoga dana u doticaju s AR-om jer nam je postalo uobičajeno očekivati tu vrstu tehnologije u svakodnevnom radu s kamerom.

Nedavni napretci AI-ja otvaraju bezgranične mogućnosti koje oduzimaju dah te još jednom nadilaze sve što smo smatrali mogućim. 

Danas postoji nevjerojatno mnogo inspirativnih načina na koje se Snapchatteri mogu izraziti pomoću AI-ja, neovisno o tome stvaraju li originalnu pozadinu razgovora pomoću generativnog AI-ja kako bi personalizirali izgled razgovora s prijateljem, preobražavaju li se na maštovite načine pomoću AI objektiva ili uče li o svijetu kroz razgovore s Mojim AI-jem. Iznimno smo uzbuđeni zbog mogućnosti ove tehnologije kojima ona može pomoći našoj zajednici da otkriva svoju kreativnost i maštu. 

Transparentnost AI-ja

Smatramo da bi Snapchattere trebalo obavijestiti o vrstama tehnologija koje upotrebljavaju, neovisno o tome izrađuju li zabavne vizuale ili uče kroz tekstualne razgovore uz Moj AI. 

Upotrebljavamo kontekstualne ikone, simbole i oznake u aplikaciji kako bismo Snapchatterima omogućili kontekstualnu transparentnost kada rade sa značajkom koja se temelji na tehnologiji AI-ja. Naprimjer, kada Snapchatter dijeli sliku Snova koju je generirao AI, primatelj vidi kontekstnu karticu s više informacija. Druge značajke, poput alata za proširenje koji koristi AI kako bi Snap izgledao umanjeno, označene su sjajnom ikonom kao značajka AI-ja za Snapchattera koji stvara Snap. 

Također se jako trudimo pregledati sve političke oglase; oni prolaze kroz strogu reviziju koju vode ljudi, a koja uključuje temeljitu provjeru bilo kakve zavaravajuće upotrebe sadržaja, uključujući upotrebu AI-ja za stvaranje obmanjujućih slika ili sadržaja. 

Uskoro ćemo slike generirane pomoću AI-ja označavati vodenim žigom. Žig će se pojaviti na slikama koje su izrađene pomoću Snapovih generativnih AI alata kad se slika izveze ili spremi na snimku kamere. Primatelji slike koja je na Snapchatu generirana AI-jem mogu vidjeti mali logotip duha s opće poznatom blistavom ikonom uz logotip. Dodavanje tih vodenih žigova pomoći će da osobe koje gledaju sliku obavijestimo da je ona izrađena pomoću AI-ja na Snapchatu. 

Standardizirana ispitivanja sigurnosti i protokoli 

Ozbiljno shvaćamo svoju odgovornost stvaranja proizvoda i iskustava koji na prvo mjesto stavljaju zaštitu privatnosti, sigurnosti i dobnu primjerenost. Kao i svi naši proizvodi, značajke koje nastanu pomoću AI-ja uvijek prolaze strogu reviziju kako bismo osigurali da su usklađeni s našim načelima zaštite sigurnosti i privatnosti, a učenjem smo tijekom vremena razvili dodatne zaštitne mjere:

Okupljanje crvenog tima

Okupljanje AI crvenog tima sve je učestalija taktika koja se primjenjuje za testiranje i identificiranje potencijalnih nedostataka u modelima AI-ja i značajkama koje omogućuje AI te za provedbu rješenja kojima se poboljšavaju sigurnost i dosljednost rezultata nastalih AI-jem. 

Vrlo rano prihvatili smo nove metode okupljanja AI crvenog tima za generativne modele slika te smo u partnerstvu s platformom HackerOne uložili više od 2500 sati rada kako bismo ispitali učinkovitost naših strogih zaštitnih mjera. 

Sigurnosno filtriranje i dosljedno označavanje

S obzirom na to da smo proširili generativna iskustva koja omogućuje AI i koja su dostupna na Snapchatu, utvrdili smo odgovorna načela upravljanja te unaprijedili svoja ublažavanja sigurnosnih rizika. 

Osmislili smo proces revizije sigurnosti kako bismo otkrili i uklonili potencijalno problematične upite u najranijim fazama razvoja iskustva AI objektiva koja je oblikovao naš tim. Svi naši AI objektivi koji generiraju sliku na temelju upita prolaze taj proces prije negoli se finaliziraju i postanu dostupni našoj zajednici. 

Uključivo testiranje

Želimo da Snapchatteri iz najrazličitijih društvenih krugova imaju pravedan pristup i očekivanja kad upotrebljavaju sve značajke u našoj aplikaciji, a posebno naša iskustva na temelju AI-ja. 

S tim na umu, provodimo dodatna testiranja kako bismo potencijalno pristrane rezultate AI-ja smanjili na najmanju moguću mjeru. 

Stalna predanost AI pismenosti

Vjerujemo u ogroman potencijal AI tehnologije kako bismo poboljšali sposobnost članova naše zajednice da se izraze i međusobno povezuju. Predani smo nastavku unaprjeđivanja tih protokola sigurnosti i transparentnosti. 

Iako su svi naši AI alati, i tekstualni i vizualni, dizajnirani tako da se izbjegne stvaranje netočnog, štetnog ili zavaravajućeg materijala, greške su uvijek moguće. Snapchatteri mogu prijaviti sadržaj, a mi cijenimo takve povratne informacije. 

Na kraju, u kontekstu naše kontinuirane posvećenosti kako bismo svojoj zajednici pomogli da bolje razumije te alate, sada na svojoj stranici za podršku pružamo dodatne informacije i resurse.