Kai 2015 m. pasirodė "Lenses", papildytos realybės (AR) technologija mums prieš akis atvėrė magiją, pakeisdama tai, kas, mūsų manymu, buvo įmanoma. Šiandien daugiau nei 300 milijonų „Snapchatter“ naudotojų kasdien naudojasi AR, mums vis labiau tikintis tokio tipo technologijos veikimo kasdienėje fotoaparato veikloje.

Dabar naujausia AI pažanga atveria neribotas ir kvapą gniaužiančias galimybes, dar kartą iš naujo pakeisdama tai, kas, mūsų manymu, buvo įmanoma.

Jau dabar yra tiek daug įkvepiančių būdų, kaip „Snapchatters“ platformoje gali išreikšti save naudojant AI, nesvarbu, ar jie kuria originalų „Generative AI“ pokalbių foną, kad suasmenintų pokalbio su draugu išvaizdą, keistųsi vaizdingais būdais naudodami AI varomus objektyvus, ar pažintų pasaulį per pokalbius su My AI. Labai džiaugiamės, kad ši technologija gali padėti mūsų bendruomenei ir toliau atskleisti savo kūrybiškumą ir vaizduotę.

AI Skaidrumas

Mūsų nuomone „Snapchatters“ turėtų būti informuoti apie naudojamų technologijų tipus, nesvarbu, ar jie kuria linksmus vaizdus, ​​ar mokosi per tekstinius pokalbius su „My AI“.

Programoje naudojame kontekstines piktogramas, simbolius ir etiketes, kad suteiktume kontekstinio skaidrumo „Snapchatters“, kai jie sąveikauja su AI technologijos teikiama funkcija. Pavyzdžiui, kai „Snapchatter“ dalijasi dirbtinio intelekto sukurtu Dreams vaizdu, gavėjas mato kontekstinę kortelę su daugiau informacijos. Kitos funkcijos, pvz., išplėtimo įrankis, kuris pasitelkia dirbtinį intelektą, kad „Snap“ atrodytų labiau nutolintas, pažymėtos kaip AI funkcija su blizgesio piktograma „Snapchatter“, kuris kuria "Snap".

Taip pat labai rūpinamės, kad visi politiniai skelbimai būtų tikrinami griežtai žmonių peržiūros procesu, įskaitant nuodugnų patikrinimą, ar nėra klaidinančio turinio, įskaitant AI, siekiant sukurti apgaulingus vaizdus ar turinį.

Netrukus prie AI sukurtų vaizdų pridėsime vandenženklį. Jis bus rodomas vaizduose, sukurtuose naudojant „Snap“ generuojamus AI įrankius, kai vaizdas bus eksportuojamas arba išsaugomas fotoaparato ritinyje. AI sugeneruoto vaizdo, padaryto „Snapchat“ platformoje, gavėjai gali matyti nedidelį vaiduoklio logotipą su plačiai atpažįstama blizgesio piktograma šalia jo. Šių vandenženklių pridėjimas padės informuoti jį žiūrinčius, kad vaizdas buvo padarytas naudojant „Snapchat“ AI.

Standartizuoti saugos bandymai ir protokolai 

Mes rimtai žiūrime į savo pareigą kurti produktus ir patirtį, kuri teikia pirmenybę privatumui, saugai ir tinkamumui pagal amžių. Kaip ir visi mūsų produktai, DI funkcijos visada buvo griežtai peržiūrimos, siekiant užtikrinti, kad jos atitiktų mūsų saugos ir privatumo principus - ir mokantis laikui bėgant, sukūrėme papildomų apsaugos priemonių:

Red-Teaming

AI red-teaming yra vis dažniau naudojama taktika, naudojama norint išbandyti ir nustatyti galimus AI modelių ir su AI palaikytų funkcijų trūkumus bei diegti sprendimus, pagerinančius AI išvesties saugumą ir nuoseklumą.

Anksti pradėjome taikyti naujus AI red-teaming metodus, skirtus generuojamiesiems vaizdo modeliams, bendradarbiaujant su „HackerOne“ daugiau nei 2500 valandų, kad patikrintume mūsų griežtų apsaugos priemonių veiksmingumą.

Saugus filtravimas ir nuoseklus ženklinimas

Išplėtę „Snapchat“ teikiamas „Generative AI“ funkcijas, nustatėme atsakingo valdymo principus ir patobulinome saugos didinimo priemones.

Sukūrėme saugos peržiūros procesą, kad aptiktume ir pašalintume potencialiai problemiškus raginimus ankstyviausiuose mūsų komandos sukurtų "AI Lens" funkcijų kūrimo etapuose. Visi mūsų AI objektyvai, generuojantys vaizdą iš raginimo, atlieka šį procesą, kol jie nėra užbaigti ir tampa prieinami mūsų bendruomenei.

Įtraukiantis testavimas

Norime, kad „Snapchatters“ iš visų gyvenimo sluoksnių turėtų vienodą prieigą ir lūkesčius, kai naudojasi visomis programėlės funkcijomis, ypač AI.

Atsižvelgdami į tai, atliekame papildomus bandymus, kad sumažintume galimai šališkus AI rezultatus.

Nuolatinis įsipareigojimas AI raštingumui

Tikime didžiuliu AI technologijos potencialu pagerinti mūsų bendruomenės gebėjimą išreikšti save ir užmegzti ryšį vieni su kitais – ir esame įsipareigoję toliau tobulinti šiuos saugos ir skaidrumo protokolus.

Nors visi mūsų AI įrankiai, tiek tekstiniai, tiek vaizdiniai, sukurti taip, kad būtų išvengta neteisingos, žalingos ar klaidinančios medžiagos, klaidų vis tiek gali pasitaikyti. "Snapchatters" gali pranešti apie turinį, todėl vertiname šį atsiliepimą.

Galiausiai, kaip dalį šio nuolatinio įsipareigojimo padėti mūsų bendruomenei geriau suprasti šiuos įrankius, dabar savo Palaikymo svetainėje turime papildomos informacijos ir išteklių.