Kun tehosteet ilmestyi vuonna 2015, lisätyn todellisuuden (AR) teknologia herätti taikuuden henkiin silmiemme edessä ja mullisti sen, mitä pidimme mahdollisena. Nykyään keskimäärin yli 300 miljoonaa Snapchattaajaa käyttää AR-teknologiaa päivittäin, sillä olemme tottuneet käyttämään tämäntyyppistä teknologiaa jokapäiväisessä kamerakokemuksessamme. 

Nyt tekoälyn viimeaikaiset edistysaskeleet avaavat rajattomia ja henkeäsalpaavia mahdollisuuksia, jotka mullistavat jälleen kerran sen, mitä pidimme mahdollisena. 

Snapchattaajilla on jo nyt niin monia inspiroivia tapoja ilmaista itseään tekoälyn avulla, olipa kyse sitten omaperäisen generatiivisen AI-chat-taustakuvan luomisesta ystävän kanssa käydyn keskustelun ulkoasun personoimiseksi, itsensä muuntamisesta mielikuvituksellisilla tavoilla AI-tehosteiden avulla tai maailman tuntemuksen oppimisesta My AI:n kanssa käytyjen keskustelujen avulla. Olemme innoissamme teknologian mahdollisuuksista auttaa yhteisöämme vapauttamaan luovuutensa ja mielikuvituksensa. 

Tekoälyn läpinäkyvyys

Mielestämme Snapchattaajien tulee saada tietoa käyttämistään teknologioista, olipa kyse hauskan kuvamateriaalin luomisesta tai oppimisesta My AI:n tekstipohjaisten keskustelujen avulla. 

Käytämme sovelluksen sisällä kontekstisidonnaisia kuvakkeita, symboleja ja merkintöjä, jotta Snapchattaajille voidaan tarjota kontekstisidonnaista läpinäkyvyyttä, kun he ovat vuorovaikutuksessa tekoälyteknologiaan perustuvan ominaisuuden kanssa. Esimerkiksi kun Snapchattaaja jakaa tekoälyn luoman Unelmat-kuvan, vastaanottaja näkee lisätietoja sisältävän kontekstikortin. Muut ominaisuudet, kuten laajennustyökalu, joka hyödyntää tekoälyä saadakseen Snapin näyttämään zoomatummalta, on merkitty tekoälyominaisuudeksi kuvakkeella Snapin luoneelle Snapchattaajalle. 

Pidämme myös huolta siitä, että kaikki poliittiset mainokset käyvät läpi tiukan inhimillisen arviointiprosessin, jossa tarkistetaan perusteellisesti, ettei sisältöä käytetä harhaanjohtavasti, mukaan lukien tekoäly harhaanjohtavien kuvien tai sisällön luomiseksi. 

Pian lisäämme vesileiman tekoälyn luomiin kuviin. Se näkyy kuvissa, jotka on luotu Snapin generatiivinen tekoäly -työkaluilla, kun kuva viedään tai tallennetaan kameran rullaan. Snapchatissa otetun tekoälyn luoman kuvan vastaanottajat saattavat nähdä pienen haamulogon, jonka vieressä on laajalti tunnistettu kimalluskuvake. Näiden vesileimojen lisääminen auttaa kertomaan katsojille, että kuva on tehty tekoälyn avulla Snapchatissa. 

Standardoidut turvallisuustestit ja -protokollat 

Otamme vakavasti vastuumme suunnitella tuotteita ja kokemuksia siten, että niissä priorisoidaan yksityisyyttä, turvallisuutta ja ikätasolle soveltuvuutta. Kuten kaikki tuotteemme, tekoälyominaisuudet on aina tarkistettu tiukasti sen varmistamiseksi, että ne noudattavat turvallisuus- ja yksityisyydensuojaperiaatteitamme, ja olemme ajan mittaan oppimiemme kokemusten perusteella kehittäneet lisäturvatoimia:

Red-Teaming

Tekoälyn red-teaming on yhä yleisempi taktiikka, jota käytetään tekoälymallien ja tekoälyä hyödyntävien ominaisuuksien mahdollisten puutteiden testaamiseen ja tunnistamiseen sekä sellaisten ratkaisujen toteuttamiseen, joilla parannetaan tekoälyn tuotosten turvallisuutta ja johdonmukaisuutta. 

Olemme ottaneet varhaisessa vaiheessa käyttöön uudenlaisia tekoälyn red-teaming-menetelmiä generatiivisia kuvamalleja varten, ja olemme tehneet yhteistyötä HackerOnen kanssa yli 2500 työtunnin ajan testataksemme tiukkojen suojatoimiemme tehokkuutta. 

Turvallisuussuodatus ja johdonmukainen merkintä

Kun olemme laajentaneet Snapchatissa saatavilla olevia generatiivisen tekoälyn mahdollistamia kokemuksia, olemme luoneet vastuullisia hallintoperiaatteita ja parantaneet myös turvallisuustoimia. 

Olemme luoneet turvallisuustarkastusprosessin, jonka avulla voimme havaita ja poistaa mahdolliset ongelmalliset kehotukset tiimimme suunnittelemien AI-tehoste-kokemusten kehityksen alkuvaiheessa. Kaikki AI-tehosteet, jotka luovat kuvan kehotteen perusteella, käyvät läpi tämän prosessin ennen kuin ne viimeistellään ja asetetaan yhteisömme saataville. 

Sisällyttämiseen liittyvät testit

Haluamme, että kaikilla Snapchattaajilla on tasapuoliset mahdollisuudet ja odotukset käyttää kaikkia sovelluksemme ominaisuuksia, erityisesti tekoälypohjaisia kokemuksia. 

Tämän vuoksi suoritamme lisätestausta minimoidaksemme tekoälyn mahdollisesti vääristyneet tulokset. 

Jatkuva sitoutuminen tekoälyn lukutaitoon

Uskomme tekoälyteknologian valtaviin mahdollisuuksiin parantaa yhteisömme kykyä ilmaista itseään ja olla yhteydessä toisiinsa - ja olemme sitoutuneet jatkamaan näiden turvallisuus- ja avoimuusprotokollien kehittämistä. 

Vaikka kaikki tekoälytyökalumme, sekä tekstipohjaiset että visuaaliset, on suunniteltu välttämään virheellisen, haitallisen tai harhaanjohtavan aineiston tuottamista, virheitä voi silti sattua. Snapchattaajat voivat ilmoittaa sisällöstä, ja arvostamme tällaista palautetta. 

Osana jatkuvaa sitoutumistamme auttamaan yhteisöämme ymmärtämään näitä työkaluja paremmin, meillä on nyt lisätietoja ja resursseja tukisivustollamme.