Ti presentiamo la Responsabile globale della sicurezza della piattaforma

Buongiorno, community di Snapchat! Mi chiamo Jacqueline Beauchere e sono entrata a far parte di Snap lo scorso autunno in qualità di prima Responsabile globale della sicurezza della piattaforma.

Il mio ruolo consiste nel migliorare l'approccio globale di Snap alla sicurezza, ma anche nel creare nuovi programmi e iniziative per sensibilizzare i rischi online; fare consulenze su politiche interne, strumenti e funzionalità dei prodotti; ascoltare e coinvolgere il pubblico esterno, il tutto per sostenere la sicurezza e il benessere digitale della community di Snapchat.

Dal momento che con il mio ruolo aiuto i sostenitori della sicurezza, i genitori, gli educatori e altri stakeholder importanti a capire come funziona Snapchat e chiedo loro dei riscontri, ho pensato che sarebbe stato utile condividere qualcosa sulle mie prime scoperte sull'app e su ciò che mi ha sorpreso; condividerò anche alcuni suggerimenti utili, se tu o qualche tuo amico siete avidi Snapchatter.

 Prime scoperte – Snapchat e sicurezza 

Dopo più di 20 anni di lavoro come addetta alla sicurezza online presso Microsoft, ho visto cambiamenti significativi nel panorama dei rischi. Nei primi anni 2000 questioni come lo spam e il phishing avevano evidenziato la necessità di sensibilizzare ed educare i consumatori, minimizzando i rischi dell'ingegneria sociale. L'avvento delle piattaforme social e la possibilità di pubblicare contenuti hanno aumentato la necessità di funzionalità legate a sicurezza e moderazione, il tutto per ridurre al minimo l'esposizione a contenuti e attività illegali e potenzialmente dannosi.

Dieci anni fa Snapchat è entrata in scena. Sapevo che l'azienda e l'app erano "diversi", ma ho scoperto quanto lo fossero solo iniziando a lavorarci. Fin dall'inizio, Snapchat è stata progettata per aiutare le persone a comunicare con i loro veri amici, persone che si conoscono "nella vita reale", piuttosto che per accumulare un numero elevato di follower conosciuti (o sconosciuti). Snapchat è costruita intorno alla fotocamera. Infatti, per gli Snapchatter di prima generazione (come me), l'interfaccia stessa dell'app è un po' mistificante perché si apre direttamente sulla fotocamera e non su un feed, come le piattaforme social tradizionali.

Dietro al design di Snapchat c'è molto di più di quanto ci si possa aspettare, e questo approccio deriva dall'incredibile impegno che l'azienda mette nella sicurezza e nella privacy. La sicurezza fa parte del DNA dell'azienda ed è suggellata nella sua missione: permettere alle persone di esprimersi, vivere nel momento, conoscere il mondo e divertirsi insieme. Se le persone non si sentono al sicuro, non si sentono a proprio agio nell'esprimersi liberamente quando parlano con gli amici.

La convinzione che la tecnologia debba essere costruita per riflettere i comportamenti umani e le dinamiche reali è uno dei motori di Snap. È importante anche dal punto di vista della sicurezza. Ad esempio, per impostazione predefinita, non tutti possono contattarti su Snapchat; dovete accettarvi l'amicizia a vicenda prima di poter comunicare direttamente, proprio come fanno gli amici nella vita reale.

Snap applica i principi della privacy by design nello sviluppo di nuove funzionalità. La piattaforma è stata anche una delle prime a sostenere e abbracciare la safety by design, il che significa che la sicurezza viene presa in considerazione nella fase di progettazione delle nostre funzionalità, e non a posteriori. In materia di sicurezza consideriamo adeguatamente come gli utenti possano fare un uso improprio o fraudolento di un prodotto o di una funzionalità sin dalle prime fasi di sviluppo.

Cosa mi ha sorpreso – Un po' di contesto dietro ad alcune funzionalità 

Avendo lavorato nella sicurezza online per varie aziende, ho sentito esprimere delle preoccupazioni su Snapchat. Di seguito riporto alcuni esempi e ciò che ho imparato negli ultimi mesi.

Contenuti che si eliminano per impostazione predefinita

Probabilmente Snapchat è conosciuta per una delle sue prime innovazioni: contenuti che si eliminano per impostazione predefinita. Come tante altre persone, mi sono fatta alcune idee su questa funzione. Ma, a quanto pare, è diversa da quanto avessi immaginato. Inoltre, riflette la dinamica tra amici nella vita reale.

L'approccio di Snapchat si basa su un design incentrato sull'uomo. Nella vita reale le conversazioni tra amici non vengono salvate, trascritte o registrate per sempre. La maggior parte di noi si sente a proprio agio quando sa che non sarà giudicato per ogni parola detta o per ogni contenuto creato.

Un'idea erronea che ho sentito è quella secondo cui l'approccio "eliminazione per impostazione predefinita" di Snapchat impedisca l'accesso a prove di comportamento illegale per le indagini criminali. Questo non è vero. Snap ha la possibilità di conservare i contenuti esistenti di account quando le forze dell'ordine ci inviano una richiesta ufficiale. Per altre informazioni su come gli Snap e le Chat vengono eliminate, leggi questo articolo

Sconosciuti e adolescenti

Una preoccupazione naturale per qualsiasi genitore, quando si tratta d'interazioni online, è come degli sconosciuti possano trovare i loro figli. Lo ripetiamo, Snapchat è progettata per le interazioni tra amici veri e non facilita le connessioni con persone sconosciute come alcune piattaforme social. Dato che l'app è stata costruita per comunicare con persone che conosciamo già, è difficile per gli sconosciuti trovare e contattare individui specifici. Generalmente, le persone che comunicano su Snapchat si sono già accettate a vicenda come amici. Inoltre, Snap ha aggiunto protezioni per rendere ancora più difficile per gli sconosciuti trovare dei minori: per esempio, sono stati vietati i profili pubblici per coloro che hanno meno di 18 anni. Snapchat permette ai minori di navigare nelle liste dei suggerimenti degli amici (Aggiunta Rapida) o nei risultati di Cerca solo se hanno amici in comune.

Uno strumento più recente di cui vogliamo che genitori e tutori siano consapevoli è Controllo amici, che consente agli Snapchatter di rivedere le liste di amici e confermare di voler restare in contatto con tutte le persone incluse. Le persone con cui non vuoi più comunicare possono essere rimosse facilmente.

Snap Map e condivisione posizione

Continuando su questa linea, ho sentito esprimere preoccupazioni su Snap Map, una mappa personalizzata che consente agli Snapchatter di condividere la loro posizione con gli amici e di trovare luoghi ed eventi pertinenti a livello locale, come ristoranti e spettacoli. Per impostazione predefinita, la posizione su Snap Map viene impostata su privata (Modalità Fantasma) per tutti gli Snapchatter. Gli Snapchatter possono decidere se condividere la loro posizione, ma possono farlo solo con chi hanno già accettato come amico. Inoltre, possono personalizzare per ciascun amico le impostazioni di condivisione della posizione. L'approccio alla condivisione della posizione con gli amici non è "o tutto o niente". Un punto in più per la sicurezza e la privacy di Snap Map: se le persone non usano Snapchat per diverse ore, non risultano più visibili ai loro amici sulla mappa.

Cosa molto importante dal punto di vista della sicurezza: gli Snapchatter non possono condividere la loro posizione sulla mappa con altre persone, se prima non sono amici; hanno inoltre il pieno controllo sugli amici con cui scelgono di condividere la loro posizione, e possono decidere di non condividerla affatto.

Contenuti dannosi

Fin dall'inizio, l'azienda ha deciso consapevolmente di trattare in modo diverso le comunicazioni private tra amici e i contenuti pubblici disponibili per un pubblico più ampio. Nelle sezioni più pubbliche di Snapchat, dove è probabile che il materiale venga visualizzato da un pubblico più vasto, i contenuti vengono curati o moderati preventivamente per evitare che materiale potenzialmente dannoso diventi "virale". Due sezioni di Snapchat rientrano in questa categoria: Scopri, che include contenuti di editori di media e creatori di contenuti verificati, e Spotlight, spazio in cui gli Snapchatter condividono i propri contenuti divertenti con la community.

Su Spotlight, tutti i contenuti vengono esaminati con strumenti automatici, ma vengono poi sottoposti a un ulteriore livello di moderazione umana prima di poter essere visualizzati, attualmente, da più di una ventina di persone. Questo aiuta a garantire che i contenuti siano conformi alle politiche e alle linee guida di Snapchat e contribuisce a mitigare i rischi che potrebbero cadere inosservati con la moderazione automatica. Cercando di controllare la viralità, Snap riduce l'attrattiva di pubblicare pubblicamente contenuti illeciti o potenzialmente dannosi, il che, a sua volta, riduce significativamente l'esposizione all'incitamento all'odio, all'autolesionismo e a contenuti estremisti violenti, per citare alcuni esempi, rispetto ad altre piattaforme social.

Esposizione a sostanze stupefacenti

Snapchat è una delle tante piattaforme online di cui gli spacciatori abusano a livello globale e, se hai avuto modo di vedere i servizi dei media dedicati ai genitori e ai familiari che hanno perso i figli a causa di una pillola contraffatta contenente fentanyl, potrai capire quanto questa situazione possa essere straziante e terrificante. Noi ce ne rendiamo perfettamente conto e il nostro pensiero va a coloro che hanno subito la perdita dei loro cari a causa di questa crisi spaventosa.

Nell'ultimo anno, Snap ha affrontato con determinazione e in maniera approfondita il problema legato al fentanyl e ai contenuti connessi all'utilizzo di sostanze stupefacenti in tre modi principali:

  • Sviluppando e implementando una nuova tecnologia per rilevare le attività legate alle sostanze stupefacenti su Snapchat e, di conseguenza, identificando e rimuovendo gli spacciatori che abusano della piattaforma;

  • Consolidando e adottando misure per rafforzare il nostro sostegno alle indagini delle forze dell'ordine, in modo che le autorità possano consegnare rapidamente i colpevoli alla giustizia;

  • Sensibilizzando gli Snapchatter sui pericoli legati all'assunzione di fentanyl attraverso annunci di servizio pubblico e contenuti educativi direttamente nell'app (per saperne di più, fai clic qui).

Intendiamo rendere Snapchat un ambiente sfavorevole alle attività legate al consumo di stupefacenti e continueremo a lavorare in questo senso nei prossimi mesi. Nel frattempo, è importante che i genitori, i tutori e i giovani comprendano la minaccia pervasiva di farmaci contraffatti potenzialmente letali che si è diffusa sulle piattaforme online e che parlino con la famiglia e gli amici dei pericoli e di come proteggersi da essi. 

Nel 2022 Snap prevede di dedicarsi a una serie di iniziative sul fronte della sicurezza e della privacy, tra cui il lancio di nuove funzioni di ricerca e sicurezza, nonché la creazione di nuove risorse e programmi per informare e responsabilizzare la community ad adottare pratiche digitali più sicure e salutari. Che il nuovo anno trascorra all'insegna della produttività, dell'apprendimento, dell'impegno, della sicurezza e del divertimento!   

- Jacqueline Beauchere, Responsabile globale della sicurezza della piattaforma

Torna alle Novità