Když se v roce 2015 objevily Objektivy, technologie rozšířené reality (AR) před našima očima oživila kouzla a revolučně změnila to, co jsme považovali za možné. Dnes používá rozšířenou realitu denně v průměru více než 300 milionů Snapchatterů, protože jsme si zvykli tento typ technologie očekávat při každodenním používání fotoaparátu. 

Nedávný pokrok v oblasti umělé inteligence nyní otevírá neomezené a dechberoucí možnosti a znovu překonává to, co se dosud zdálo být možné. 

Již nyní existuje mnoho inspirativních způsobů, jak se mohou Snapchatteři vyjádřit pomocí umělé inteligence, ať už vytvářejí originální generativní tapetu chatu s umělou inteligencí, aby přizpůsobili vzhled konverzace s přítelem, nápaditě se proměňují pomocí Objektivů fungujících na principu umělé inteligence nebo se prostřednictvím konverzací s My AI dozvídají o světě. Jsme nadšeni potenciálem této technologie, která může naší komunitě pomoci nadále rozvíjet kreativitu a představivost. 

Transparentnost umělé inteligence

Věříme, že Snapchatteři by měli být informováni o typech technologií, které používají, ať už vytvářejí zábavné vizuály nebo se učí prostřednictvím textových konverzací s My AI. 

V aplikaci používáme kontextové ikony, symboly a štítky, abychom Snapchatterům poskytli kontextuální transparentnost při interakci s funkcí, která je založena na technologii umělé inteligence. Pokud například Snapchatter sdílí umělou inteligencí vygenerovaný obrázek Snů, zobrazí se příjemci kontextová karta s dalšími informacemi. Další funkce, jako je nástroj rozšíření využívající umělé inteligence k tomu, aby vypadal Snap více oddálený, jsou pro Snapchattera, který Snap vytváří, označeny jako funkce umělé inteligence s ikonkou třpytu. 

Věnujeme také velkou pozornost tomu, abychom prověřili všechny politické reklamy prostřednictvím přísného přezkumu lidmi, včetně důkladné kontroly případného zavádějícího obsahu, včetně využití umělé inteligence k vytvoření klamavých obrázků nebo obsahu. 

Brzy přidáme vodoznak na obrázky vytvořené pomocí umělé inteligence. Objeví se na obrázcích vytvořených pomocí nástrojů generativní umělé inteligence společnosti Snap při exportu nebo uložení snímku prostřednictvím fotoaparátu. Příjemci snímku vygenerovaného pomocí umělé inteligence na Snapchatu mohou vidět malé logo ducha s obecně známou ikonkou třpytu na straně. Přidání těchto vodoznaků pomůže informovat ty, kteří si snímek prohlížejí, že byl vytvořen pomocí umělé inteligence na Snapchatu. 

Standardizované bezpečnostní testování a postupy 

Bereme vážně svou odpovědnost za navrhování produktů a zážitků, které upřednostňují soukromí, bezpečnost a přiměřenost věku. Stejně jako všechny naše produkty prošly i funkce založené na umělé inteligenci vždy přísným zkoumáním, abychom zajistili, že splňují naše zásady bezpečnosti a ochrany soukromí – a na základě našich poznatků získaných v čase jsme vyvinuli další záruky:

Testování narušitelnosti

Testování narušitelnosti v oblasti umělé inteligence je stále běžnější taktikou využívanou pro testování a identifikaci možných chyb v modelech umělé inteligence a funkcích s podporou umělé inteligence a pro zavádění řešení ke zvýšení bezpečnosti a konzistence výstupů umělé inteligence. 

Tyto metody testování narušitelnosti jsme zavedli brzy ve vztahu k modelům generování snímků, v čemž jsme spojili síly s HackerOne a vynaložili přes 2 500 hodin práce na testování účinnosti našich přísných bezpečnostních opatření. 

Bezpečnostní filtrování a konzistentní označování

S rozšiřováním zážitků s využitím generativní umělé inteligence, které jsou na Snapchatu k dispozici, jsme zavedli zásady zodpovědné správy a zlepšili jsme také naše nástroje pro bezpečnost. 

Náš tým vytvořil proces kontroly bezpečnosti pro detekci a odstranění potenciálně problematických promptů již v prvních fázích vývoje nástrojů pro Objektivy s umělou inteligencí. Všechny naše Objektivy s umělou inteligencí, které generují obrázek na základě promptu, prochází tímto procesem, než jsou dokončeny a zpřístupněny naší komunitě. 

Inkluzivní testování

Chceme, aby měli Snapchatteři z jakéhokoli prostředí rovný přístup a očekávání při používání všech funkcí v naší aplikaci, zejména pokud jde o zážitky založené na naší umělé inteligenci. 

S ohledem na to zavádíme další testování, abychom minimalizovali potenciálně zkreslené výsledky v oblasti umělé inteligence. 

Pokračující závazek ke zvyšování gramotnosti v oblasti umělé inteligence

Věříme v obrovský potenciál technologie umělé inteligence pro zlepšení schopnosti naší komunity vyjadřovat se a vzájemně se propojovat. A jsme odhodláni nadále zlepšovat tyto protokoly v oblasti bezpečnosti a transparentnosti. 

Ačkoli jsou všechny naše nástroje umělé inteligence, textové i vizuální, navrženy tak, aby nevytvářely nesprávné, škodlivé nebo zavádějící materiály, mohou se přesto vyskytnout chyby. Snapchatteři mohou nahlašovat obsah a my si této zpětné vazby vážíme. 

A konečně, v rámci pokračující snahy pomoci naší komunitě lépe porozumět těmto nástrojům, máme nyní na našich stránkách podpory další informace a zdroje.