Ko smo leta 2015 razvili funkcijo Lenses, je tehnologija razširjene resničnosti (AR) pred našimi očmi oživila čarovnijo in popolnoma spremenila naše predstave o tem, kaj je mogoče. Danes se povprečno več kot 300 milijonov uporabnikov aplikacije Snapchat vsakodnevno vključuje v razširjeno resničnost (AR), saj smo v svojih vsakdanjih doživetjih s kamero že začeli pričakovati tovrstno tehnologijo.

Zdaj najnovejši preboji na področju umetne inteligence (AI) odpirajo neskončne in osupljive možnosti, ki znova preoblikujejo naše dojemanje mogočega.

Že sedaj uporabniki aplikacije Snapchat odkrivajo številne navdihujoče načine za izražanje s pomočjo umetne inteligence. Ustvarjajo lahko izvirna ozadja klepetov z generativno umetno inteligenco, s katerimi personalizirajo izgled pogovora s prijateljem, se na domiselne načine preoblikujejo s funkcijo Lenses, ki deluje na osnovi umetne inteligence, ali pa spoznavajo svet skozi pogovore s funkcijo My AI. Ta tehnologija nas navdušuje s svojim potencialom, da naši skupnosti omogoča nenehno razvijanje ustvarjalnosti in domišljije.

Transparentnost umetne inteligence

Menimo, da je pomembno, da so uporabniki aplikacije Snapchat dobro obveščeni o vrstah tehnologij, ki jih uporabljajo, ne glede na to, ali ustvarjajo zabavne vizualne vsebine ali se učijo preko besedilnih pogovorov s funkcijo My AI.

V aplikaciji uporabljamo kontekstualne ikone, simbole in oznake, s katerimi zagotavljamo uporabnikom aplikacije Snapchat preglednost pri uporabi funkcij, ki temeljijo na tehnologiji umetne inteligence. Na primer, ko uporabnik aplikacije Snapchat deli sliko, ustvarjeno z umetno inteligenco Dreams, prejemnik vidi kontekstualno kartico z dodatnimi informacijami. Ostale funkcije, kot je orodje za razširitev, ki s pomočjo umetne inteligence ustvari vtis, da je Snap posnet iz večje razdalje, so za uporabnika, ki ustvarja Snap, označene z ikono iskrice, ki nakazujejo uporabo umetne inteligence.

Prav tako posvečamo veliko pozornost temeljitemu pregledu vseh političnih oglasov s strani naših strokovnjakov, pri čemer posebno skrb namenjamo preverjanju morebitne zavajajoče uporabe vsebin, vključno z uporabo umetne inteligence za ustvarjanje zavajajočih slik ali vsebin.

Kmalu bomo slikam, ki so bile ustvarjene z umetno inteligenco, dodali vodni žig. Pojavilo se bo na slikah, ki so ustvarjene z orodji generativne umetne inteligence Snap, ko je slika izvožena ali shranjena v galerijo kamere. Osebe, ki prejmejo sliko, ustvarjeno z umetno inteligenco v aplikaciji Snapchat, bodo morda opazile majhen logotip duha z dobro prepoznano iskro ob njem. Ti vodni žigi bodo gledalcu dali vedeti, da je slika nastala z uporabo umetne inteligence v aplikaciji Snapchat.

Standardizirano testiranje varnosti in protokoli.

Zavzeto se zavedamo odgovornosti oblikovanja izdelkov in doživetij, ki dajejo prednost zasebnosti, varnosti ter primernosti glede na starost. Kot pri vseh naših izdelkih, so tudi funkcije, ki jih poganja umetna inteligenca, vedno skrbno pregledane, da se zagotovi, da sledijo našim načelom varnosti in zasebnosti. Skozi čas smo razvili dodatne varnostne mehanizme na podlagi pridobljenih izkušenj:

Etični heking

Etični heking umetne inteligence postaja vedno pogostejša taktika, ki se uporablja za testiranje in identifikacijo morebitnih pomanjkljivosti v modelih umetne inteligence ter funkcijah omogočenih z umetno inteligenco, ter za izvajanje rešitev za izboljšanje varnosti in doslednosti rezultatov umetne inteligence.

Kot pionirji smo zgodaj sprejeli inovativne metode etičnega hekinga umetne inteligence za generativne slikovne modele ter sodelovali s podjetjem HackerOne več kot 2.500 ur, da smo preizkusili učinkovitost naših strogih varnostnih ukrepov.

Varnostno filtriranje in dosledno označevanje

Ob širitvi omogočenih doživetij z generativno umetno inteligenco v aplikaciji Snapchat smo uvedli odgovorno upravljanje načel in izboljšali varnostne ukrepe.

V zgodnjih fazah razvoja umetne inteligence v storitvi Lenses smo vzpostavili postopek pregleda varnosti za zaznavanje in odstranjevanje morebitnih težavnih pozivov. Vsa vsebina v funkciji Lenses, ki je ustvarjena iz slike iz podatkovnega vira, gre skozi ta postopek pred dokončnim oblikovanjem in predstavitvijo naši skupnosti.

Vključujoče testiranje

Želimo, da imajo vsi uporabniki aplikacije Snapchat, ne glede na njihovo ozadje, enak dostop in pričakovanja pri uporabi vseh funkcij v naši aplikaciji, še zlasti pri naših doživetjih, ki temeljijo na umetni inteligenci.

Zaradi tega uvajamo dodatno testiranje, da bi zmanjšali morebitne pristranske rezultate umetne inteligence.

Nadaljnja zaveza pismenosti umetne inteligence

Verjamemo v izjemen potencial tehnologije umetne inteligence za izboljšanje sposobnosti naše skupnosti za izražanje in povezovanje med seboj, ter smo odločeni nadaljevati izboljšanje teh varnostnih in transparentnih protokolov.

Čeprav so vsa naša orodja umetne inteligence, tako besedilna kot vizualna, zasnovana z namenom preprečevanja proizvajanja napačnih, škodljivih ali zavajajočih materialov, se včasih lahko pojavijo napake. Uporabniki aplikacije Snapchat lahko prijavijo vsebino, in cenimo ta povratni odziv.

Nazadnje, v okviru te trajne zavezanosti k pomoči naši skupnosti pri boljšem razumevanju teh orodij, zdaj ponujamo dodatne informacije in vire na naši podporni strani.