Keď v roku 2015 prišli Lenses, technológia rozšírenej reality (AR) oživila mágiu pred našimi očami a spôsobila revolúciu v tom, čo sme považovali za možné. V súčasnosti používa AR v priemere viac ako 300 miliónov Snapchatterov každý deň, pretože tento typ technológie očakávame v každodennom používaní fotoaparátu.

Nedávne pokroky v AI teraz otvárajú neobmedzené a úchvatné možnosti a opäť pretvárajú to, čo sme považovali za možné.

Už teraz existuje toľko inšpiratívnych spôsobov, ako sa Snapchatteri vyjadrujú pomocou AI, či už vytvárajú originálnu generatívnu AI četovaciu tapetu na prispôsobenie vzhľadu konverzácie s priateľom, transformujú sa nápaditými spôsobmi pomocou objektívov s AI alebo spoznávajú svet prostredníctvom rozhovorov s My AI. Sme tak nadšení z potenciálu tejto technológie pomôcť našej komunite naďalej odomykať svoju kreativitu a predstavivosť.

Transparentnosť AI

Veríme, že Snapchatteri by mali byť informovaní o typoch technológií, ktoré používajú, či už vytvárajú zábavné vizuály alebo sa učia prostredníctvom textových konverzácií s My AI.

Používame kontextové ikony, symboly a štítky v aplikácii, aby sme Snapchatterom poskytli kontextovú transparentnosť, keď interagujú s funkciou, ktorá je založená na technológii AI. Napríklad, keď Snapchatter zdieľa obrázok Dreams vygenerovaný AI, príjemcovi sa zobrazí kontextová karta s ďalšími informáciami. Ďalšie funkcie, ako napríklad nástroj na rozšírenie, ktorý využíva AI na to, aby sa Snap javil viac oddialený, sú ohraničené ako funkcia AI s iskrivou ikonou pre Snapchattera vytvárajúceho Snap.

Veľmi dbáme aj na to, aby sme všetky politické reklamy preverili prostredníctvom prísneho procesu ľudskej kontroly vrátane dôkladnej kontroly akéhokoľvek zavádzajúceho použitia obsahu vrátane umelej inteligencie na vytváranie klamlivých obrázkov alebo obsahu.

Čoskoro do obrázkov vygenerovaných AI pridáme vodoznak. Zobrazí sa na obrázkoch vytvorených pomocou generatívnych nástrojov AI Snap, keď sa obrázok exportuje alebo uloží do fotoaparátu. Príjemcovia obrázka vygenerovaného umelou inteligenciou vytvoreného na Snapchate môžu vidieť malé logo ducha so všeobecne uznávanou ikonou lesku vedľa neho. Pridanie týchto vodoznakov pomôže informovať tých, ktorí si to prezerajú, že obrázok bol vytvorený pomocou AI na Snapchate.

Štandardizované bezpečnostné testovanie a protokoly

Berieme vážne našu zodpovednosť za navrhovanie produktov a skúseností, ktoré uprednostňujú súkromie, bezpečnosť a primeranosť veku. Ako všetky naše produkty, aj funkcie poháňané umelou inteligenciou vždy prešli prísnou kontrolou, aby sme sa uistili, že dodržiavajú naše zásady bezpečnosti a ochrany osobných údajov – a na základe našich poznatkov v priebehu času sme vyvinuli ďalšie bezpečnostné opatrenia:

Red-Teaming

AI red-teaming je čoraz bežnejšou taktikou používanou na testovanie a identifikáciu potenciálnych nedostatkov v modeloch AI a funkciách s podporou AI a implementáciu riešení na zlepšenie bezpečnosti a konzistentnosti výstupov AI.

Boli sme prvým používateľom nových metód red-teamingu AI pre generatívne obrazové modely, v spolupráci s HackerOne na viac ako 2 500 hodinách práce, aby sme otestovali účinnosť našich prísnych bezpečnostných opatrení.

Bezpečnostné filtrovanie a konzistentné označovanie

Keď sme rozšírili možnosti generatívnej AI dostupné na Snapchate, zaviedli sme princípy zodpovedného riadenia a zlepšili aj naše bezpečnostné opatrenia.

Vytvorili sme proces kontroly bezpečnosti na zistenie a odstránenie potenciálne problematických výziev v najskorších štádiách vývoja AI Lens navrhnutých naším tímom. Všetky naše AI Lenses, ktoré generujú obrázok na základe výzvy, prechádzajú týmto procesom predtým, ako budú dokončené a sprístupnené našej komunite.

Inkluzívne testovanie

Chceme, aby Snapchatteri zo všetkých oblastí života mali spravodlivý prístup a očakávania pri používaní všetkých funkcií v rámci našej aplikácie, najmä našich skúseností s AI.

S ohľadom na túto skutočnosť implementujeme ďalšie testovanie, aby sme minimalizovali potenciálne skreslené výsledky AI.

Pokračujúci záväzok voči AI gramotnosti

Veríme v obrovský potenciál technológie AI na zlepšenie schopnosti našej komunity vyjadrovať sa a spájať sa navzájom – a sme odhodlaní pokračovať v zlepšovaní týchto bezpečnostných a transparentných protokolov.

Aj keď sú všetky naše nástroje AI, textové aj vizuálne, navrhnuté tak, aby sa vyhli vytváraniu nesprávneho, škodlivého alebo zavádzajúceho materiálu, stále sa môžu vyskytnúť chyby. Snapchatteri dokážu nahlásiť obsah a túto spätnú väzbu si vážime.

Nakoniec, ako súčasť tohto trvalého záväzku pomáhať našej komunite lepšie porozumieť týmto nástrojom, teraz máme na našej stránke podpory ďalšie informácie a zdroje.