Tá ardú tapa ar uirlisí AI le blianta beaga anuas agus leanfaidh siad deiseanna nua a cruthaigh le haghaidh cruthaitheachta, foghlama, agus nascachta. Mar sin féin, tá an teicneolaíocht tar éis dinimic nua a thabhairt isteach do na rioscaí atá ann cheana ar líne. Taispeánann taighde nua go leanann méadú ar líon na ndaoine a thagann ar íomhánna agus físeáin AI le gnéasachas iontu ar líne, agus go bhfuil tuiscint ar neamhdhleathacht cuid den ábhar seo fós ina dúshlán.

Chun tuiscint níos fearr a fháil ar na dearcadh agus na hiompar atá ag déagóirí agus daoine óga i ngach gné de bróga bonnarda agus seirbhísí, déanann Snap taighde Líon Comhroinntí na tionscail ar a dtugtar ár nÍosléiriú Folláine Digiteach. (Rinne Snap an taighde a choimisiúnú, ach clúdaíonn sé taithí Ghinéiríocht Z i spásanna digiteacha go ginearálta, gan fócas ar leith ar Snapchat.)  Cé go bhfuilimid ag pleanáil an t-athbhreithniú iomlán ar ár staidéar Tríú Bhlian a scaoileadh i gcomhthéacs Lá Domhanda na nIrisí Níos Sábháilte Idirlín i mí Feabhra 2025, ba mhaith linn roinnt príomhthorthaí a thabhairt faoi deara maidir le conas atá déagóirí, daoine óga, agus fiú tuismitheoirí ag idirghníomhú leis agus ag freagairt do ábhar gnéasach bunaithe ar AI. Táimid ag déanamh amhlaidh inniu, i solas na Fócas domhanda ar eachtraíocht agus mí-úsáid gnéasach leanaí an tseachtain seo, agus i gcomhthéacs ár rannpháirtíochta i gCúinne Glór na nÓg DC, a raibh fócas aici ar aghaidh na ngortuithe a bhaineann le hábhar gnéasach a ghintear ag AI.

Mar shampla, sa staidéar atá againn, a rinne suirbhé ar 9,007 déagóir, duine óga, agus tuismitheoirí déagóirí i 6 tír ¹, Dúirt 24% gur chonaic siad cineál íomhánna nó físeáin a ghin AI a bhí gnéasach i nádúr. De na daoine a dúirt gur chonaic siad an cineál ábhair seo, ní raibh ach 2% a dúirt go raibh na híomhánna de dhuine faoi 18 mbliana d'aois.

Mar thacaíocht, nuair a chonaic daoine an cineál ábhair seo, ghlac 9 as 10 gníomh, ó blocáil nó scriosadh an ábhair (54%) go dtí labhairt le cairde nó le muintir iontaofa (52%). Mar sin féin, dúirt ach 42% go raibh siad tar éis an t-ábhar a thuairisciú chuig an ardán nó seirbhís ina bhfaca siad é, nó chuig líne teaghlaigh / fóram cabhrach. Leanann an tuiscint seo treocht níos mó maidir le rátaí ísle tuairiscithe ar cheisteanna sábháilteachta digiteacha go ginearálta. Rinneamar pointeáil amach, i Post roimhe seo, Tábhacht na cur i gcoinne na perceptíochtaí diúltacha faoi thuairisciú chun nach gcaithfidh daoine óga noirmíniú ar nochtadh ábhar fadhbanna áirithe agus iompar ar líne, nó tuiscint a thabhairt ar thuairisciú mar 'raic a dhéanamh'.

Is níos imníochtaí fós go raibh níos mó ná 40% de na freagróirí míshasta faoi fhreagracht dlíthiúil na n-ardán/seirbhísí chun íomhánna gnéis leanaí a thuairisciú, fiú má tá na híomhánna sin beartaithe mar ghreann nó memes. Agus, cé go ndearna líon níos mó (70%+) aithint go bhfuil sé neamhdhleathach úsáid a bhaint as teicneolaíocht AI chun ábhar gnéasach bréige de dhuine a cruthaigh, nó chun íomhánna gnéasach leanaí a choinneáil, a fheiceáil, nó a roinnt, léiríonn na torthaí seo go bhfuil mórán oibre le déanamh chun a chinntiú go bhfuil an pobal ginearálta feasach ar na ceanglais dlíthiúla a bhaineann leis an gcineál ábhair seo.

Sa tSeirbhís Aontaithe, mar shampla, dúirt beagnach 40% de na freagróirí go gcreid siad go bhfuil sé dleathach úsáid a bhaint as teicneolaíocht AI chun íomhánna gnéasach bréige de dhuine a cruthaigh. Agus, ó bhéal, tá treocht imníoch cloiste againn ó chomhghleacaithe sa tionscal: leis an méadú ar an gcineál ábhair seo, tá cuid de chailíní déagóirí, go háirithe, ag mothú 'fágtha ar lár' mura bhfuil siad le feiceáil in íomhánna gnéis a ndearnadh AI a ionramháil agus atá a gcomhghleacaithe ag cruthú agus ag roinnt go míchuí. Cuireann an pointe suaite seo béim bhreise ar an ngá le daoine a chur ar an eolas agus tuiscint a mhéadú faoi riosca ar leith ar líne, le daoine fásta iontaofa agus piaraí eolacha ag glacadh ról gníomhach chun an cineál iompar seo a dhíspreagadh.

Tiomantas leanúnach Snap

Ag Snap, táimid ag infheistiú go leanúnach in acmhainní, uirlisí, agus teicneolaíocht chun cuidiú le heispéiris níos sábháilte, níos sláintiúla, agus níos dearfaí a chothú ar Snapchat agus ar fud an éiceachórais teicneolaíochta.

I gcásanna áirithe, úsáidimid 'comharthaí' iompraíochta chun gníomhaíochtaí a d’fhéadfadh a bheith neamhdhleathach a aithint, ionas gur féidir linn drochghníomhaithe a bhaint agus iad a thuairisciú do na húdaráis. Ina theannta sin, mar seirbhís a chuimsíonn chatbot comhráite AI, déanaimid iarrachtaí breise a bheith an-airdeallach chun cosc a chur ar ábhar den sórt sin a ghiniúint ar Snapchat, chomh maith le cosaint a dhéanamh i gcoinne roinnt agus scaipeadh ábhair a d’fhéadfadh a bheith ginte ar bróga bonnarda. Caithimid le híomhánna gnéis a d’fhéadfadh a bheith ginte ag AI de mhionaoisigh ar an mbealach céanna le híomhánna barántúla de shaothrú gnéasach agus mí-úsáid leanaí (CSEAI), trí an t-ábhar a bhaint nuair a thugtar ar an eolas muid faoi, agus an cuntas a sháraíonn a fhionraí, agus é a thuairisciú chuig an Ionad Náisiúnta do Leanaí Ar Missing agus Ábhar Saothraithe (NCMEC). Seo i gcéill úsáidte agus aistriú teicneolaíochta atá deartha chun cosc a chur ar scaipeadh CSEAI, lena n-áirítear PhotoDNA (chun cóipeanna de íomhánna neamhdhleathacha aithnidiúla a bhrath) agus CSAI Match ó Google (chun cóipeanna de fhíseáin neamhdhleathacha aithnidiúla a bhrath). Tús áiteanna againn freisin ag úsáid API Sábháilteachta Ábhair Google (chun cabhrú le híomhánna nua, 'nach raibh riamh roimh seo déanta hash,' a bhrath ar ábhar poiblí). Rinneamar comhoibriú freisin le NCMEC maidir le conas a úsáid na sínithe digiteacha uathúla (nó 'hashes') de na 4,700 tuairisc a fuair siad anuraidh maidir le hábhar mí-úsáide gnéasach leanaí a bhí bainteach le GenAI.

táimid comhoibriúle comhoibriú le fórcaoinne dlí, ag tacú lena gcóireálacha, agus ag infheistiú go mór i dteangacha ár n-foirne Idirnáisiúnta Iontaofachta agus Sábháilteachta agus Oibríochtaí Fórcaoinne Dlí, atá ag obair 24/7 chun cabhrú le ár bpobal a choinneáil sábháilte. Eagraímid cruinnithe bliantúla do fórcaoinne dlí sna Stáit Aontaithe, ag aidhm leis a chinntiú go bhfuil a fhios ag na hoifigigh agus na gníomhaireachtaí conas gníomh ceart a dhéanamh i gcoinne aon gníomhaíocht neamhdhleathach a d'fhéadfadh a bheith ag tarlú ar ár n-ardán.

Leanaimid orainn ag leathnú ár n-uirlisí tuairiscithe laistigh den aip, a chuimsíonn roghanna do ár bpobal chun leibhéil nudeachta agus ábhair ghnéis a chur ar fáil, agus go sonrach CSEA. Tá tuairisciú ábhair agus cuntasacha fadhbacha ríthábhachtach chun cuidiú le comhlachtaí teicneolaíochta drochghníomhaithe a bhaint as a seirbhísí agus chun gníomhaíochtaí eile a stopadh roimh ré, sula bhféadfadh siad dochar a dhéanamh do dhaoine eile.

Le déanaí, táimid cuireadh cuireadh gnéithe nua lenár sraith uirlisí Lárionad Teaghlaigh, a bhféadfadh tuismitheoirí úsáid a bhaint astu chun tuiscint níos fearr a fháil ar conas atá a n-ógánach ag úsáid Snapchat, lena n-áirítear ár gchatbot AI. Cuireadh béim freisin acmhainní nua chun cuidiú le múinteoirí agus riarthóirí scoile tuiscint a fháil ar conas a úsáidíonn a scoláirí Snapchat agus na hacmhainní a chuireann muid ar fáil chun cabhrú le scoileanna ina gcuid iarrachtaí chun comhthimpeallachtaí sábháilte agus tacaíochta a cruthaigh do scoláirí.

Agus, táimid ag leanúint de infheistiú i mbealaí chun tuiscint phoiblí agus tuiscint Snapchatter a ardú ar dochar gnéasach ar líne. ár n-uirlisí laistigh den aip “Léargas Sábháilteachta” eipeasóidí díriú ar rioscaí gnéis, lena n-áirítear ábhair cosúil le agluaisí ar líne do leanaí agus trádáil daoine. Bhíomar freisin an chéad eintiteas chun tacaíocht a thabhairt Know2Protect, feachtas ó Roinn Slándála Inmheánach na SA atá dírithe ar oideachas agus ar chumhachtú daoine óga, tuismitheoirí, daoine muiníneach, agus beartóirí polasaithe faoi mhí-úsáid gnéasach leanaí ar líne. 

Tugaimid tús áite do leanúint ar aghaidh ag obair le gach cineál páirtithe leasmhara -- tuismitheoirí, daoine óga, múinteoirí, agus beartóirí polasaithe chun ainm a roinnt -- ar na cineálacha ceisteanna atá tábhachtach don tsochaí ar fad, agus tá súil againn go gcabhróidh léargais ár n-urramtha tras-ardáin le cruthú smaointe agus deiseanna nua chun a cruthaigh go bhfuil daoine ar an eolas faoi na bagairtí ar líne atá ann cheana agus na cinn nua, agus na hacmhainní atá ar fáil chun dul i ngleic leis na rioscaí seo.

— Viraj Doshi, Ceannaire Sábháilteachta na Cóiré