Amikor az Objektívek megérkeztek 2015-ben, a kiterjesztett valóság (AR) technológia varázslatot hozott az életbe a szemeink előtt, forradalmasítva azt, amit a lehetségesről gondoltunk. Napjainkban, átlagosan több mint 300 millió Snapchat felhasználó kerül kapcsolatba az AR-rel naponta, mivel már megszoktuk ezt a technológiát a mindennapi kameraélményünk részeként. 

Mostanában az AI legújabb fejlesztései határtalan és lélegzetelállító lehetőségeket nyitnak meg, ismét csak átírtva azt, amit a lehetségesről gondoltunk. 

Már így is olyan sok inspiráló módja van annak, hogy a Snapchat felhasználók kifejezzék magukat az MI-vel, készítsenek akár egy eredeti generatív mesterséges intelligencia chat háttérképet a barátokkal való beszélgetés kinézetének személyre szabásához, átalakítva önmagukat számos elképzelhető módon az MI-működtette Objektívekkel, vagy a világról tanulva a My AI beszélhetéseken keresztül. Nagyon izgatottak vagyunk amiatt, ahogyan ez a technológia potenciálisan segíteni tudja a közösségünket a kreativitás és képzelet további feloldásában. 

MI átláthatóság

Hisszük, hogy a Snapchat felhasználóknak tudniuk kell, hogy milyen típusú technológiát használnak, legyen szó a vicces vizuális elemek létrehozásáról vagy a My AI szövegalapú beszélgetéseivel történő tanulásról. 

Kontextuális ikonokat, szimbólumokat és címkéket használunk az alkalmazáson belül, hogy kontextuális átláthatóságot biztosítsunk a Snapchat felhasználók számára, amikor olyan funkcióval kerülnek kapcsolatba, amelyet az MI technológia működtet. Például, amikor egy Snapchat felhasználó megoszt egy MI segítségével generált Álmok képet, a címzett egy kontextus kártyát lát a bővebb információkkal. Egyéb funkciók, mint például a kiterjesztett eszköz, mely az MI-t használja a Snap távolabbi megjelenésének elősegítésére, egy csillogó ikonnal van megjelölve a Snapchat felhasználó számára, aki a Snap-et készíti. 

Emellett nagy gondot fordítunk arra is, hogy az összes politikai hirdetést szigorú folyamattal vizsgáljuk felül, beleértve a tartalom félrevezető felhasználását is, ide értve az MI készítette megtévesztő képeket vagy tartalmakat is. 

Hamarosan egy vízjelet fogunk hozzáadni az MI által generált képekhez. A Snap generatív mesterséges intelligencia eszközeivel létrehozott képeken fog megjelenni, amikor egy képet exportálnak vagy elmentenek egy kamera tekercsbe. A Snapchat-en készült MI generálta kép címzettjei egy kis kísértet logót láthatnak a széles körben felismert szikrázó ikonnal a belsejében. Ezeknek a vízjeleknek a hozzáadása segít informálni a megtekintőket, hogy a képet az MI segítségével készítették a Snapchat-en. 

Szabványosított biztonsági tesztelés és protokollok 

Komolyan vesszük a felelősségünket a termékek és az élmények kialakításakor, melyek előnyben részesítik a magánéletet, biztonságot és az életkori megfelelőséget. Ahogyan az összes termékünk, az MI által működtetett funkciók mindig átestek egy szigorú felülvizsgálaton is, hogy biztosítsuk a megfelelőséget a biztonsági és adatvédelmi elveinkhez - és az idővel megszerzett tapasztalatainkkal további biztosítékokat fejlesztettünk ki:

Red Teaming

Az MI red-teaming egy egyre gyakoribb taktika, amelyet az MI modellek és az MI által támogatott funkciók potenciális hibáinak tesztelésére és azonosítására használnak, valamint megoldásokat alkalmaznak az MI kimeneteinek biztonságának és konzisztenciájának javítására. 

Mindig is korai felhasználói voltunk az MI red teaming metódusainak a generatív képi modellekhez, partnerségre lépve a HackerOne-nal, több mint 2500 órán át tesztelve a szigorú biztonsági intézkedéseink hatékonyságát. 

Biztonsági szűrés és konzisztens címkézés

Ahogyan bővítettük a Snapchat-en elérhető generatív mesterséges intelligencia által támogatott élményeket, felelős irányítási elveket állítottunk fel, és javítottuk a biztonsági intézkedéseinket is. 

Létrehoztunk egy biztonsági felülvizsgálati folyamatot annak érdekében, hogy a mesterséges intelligencia Objektívek által nyújtott élmények fejlesztésének korai szakaszában észleljük és eltávolítsuk a potenciálisan problémás promtokat, amelyeket a csapatunk készített. Az összes mesterséges intelligencia Objektívünk, mely képet generál promptból, átmegy ezen a folyamaton, mielőtt véglegesítésre kerül és elérhetővé válik a közösségünk számára. 

Inkluzív tesztelés

Azt szeretnénk, hogy az élet minden területéről származó Snapchat felhasználónak egyenlő hozzáférése és elvárásai legyenek az alkalmazásunkban található funkciók használatakor, különösen az MI által működtetett élményeinkkel kapcsolatban. 

Ezt szem előtt tartva, további tesztelést alkalmazunk a potenciálisan elfogult MI eredmények minimalizálása érdekében. 

Folyamatos elköteleződés az MI ismeretek terén

Hiszünk az MI technológia nyújtotta óriási lehetőségekben, hogy javítsa a közösségünk képességét az önkifejezésre és a másokhoz való kapcsolódásra - és elkötelezetten dolgozunk ezen biztonsági és átláthatósági protokollok továbbfejlesztésén. 

Habár az összes MI eszközünk, mind a szövegalapú, mind a vizuális úgy kerültek kialakításra, hogy kerüljék a nem helyes, káros vagy félrevezető anyagok készítését, még mindig előfordulhatnak hibák. A Snapchat felhasználók jelenteni tudják a tartalmakat, és mi nagyra értékeljük ezt a visszajelzést. 

Végül pedig, részeként ennek a folyamatos elköteleződésnek abban, hogy segítsünk a közösségünknek jobban megérteni ezeket az eszközöket, további információkat és forrásokat kínálunk a Támogatási oldalunkon.