Hei, Snapchat-fellesskapet! Mitt navn er Jacqueline Beauchere og jeg begynte i Snap i fjor høst som selskapets første leder for global plattformsikkerhet.

Min rolle har fokus på å styrke Snaps generelle tilnærming til sikkerhet, inkludert å skape nye programmer og tiltak for å bidra til bevissthet om risikoer på nettet, gi råd om interne retningslinjer, produkter og funksjoner, og å lytte til og engasjere seg med publikum – alt for å bidra til å støtte sikkerheten og det digitale velværet i Snapchat-samfunnet.

Fordi det er min oppgave å hjelpe de som fremmer sikkerhet, foreldre, lærere og andre nøkkelaktører med å forstå Snapchat og for å få tilbakemeldinger om sikkerhet, tenkte jeg det kunne være nyttig å dele noen av de første erfaringene mine om appen, det som overrasket meg og noen nyttige tips hvis du eller noen som er nær deg, er en ivrig Snapchatter.

 Innledende læring – Snapchat og sikkerhet 

Jeg har jobbet i over 20 år med nettsikkerhet hos Microsoft, og jeg har sett en betydelig endring av risikoene. Tidlig på 2000-tallet fremhevet problemer som spam og phishing behovet for å øke bevisstheten for å bidra til å lære opp brukerne og minimere sosialt skapte risikoer. Fremveksten av sosiale medier – og at folk fikk muligheten til å publisere innhold offentlig – økte behovet for innebygde sikkerhetsfunksjoner og innholdsmoderasjon for å minimere eksponering mot ulovlig og potensielt mer skadelig innhold og aktivitet.

For ti år siden kom Snapchat inn på scenen. Jeg visste at selskapet og appen var «annerledes», men frem til jeg faktisk begynte å jobbe her, innså jeg ikke til i hvor stor grad. Snapchat ble fra starten utviklet for å hjelpe folk med å kommunisere med virkelige venner – noe som betyr folk de kjenner «i det virkelige livet» – i stedet for å samle et stort antall kjente (eller ukjente) følgere. Snapchat er bygget rundt kameraet. Faktisk, for de som ikke er førstegenerasjons Snapchattere (som meg), kan appens grensesnitt føles litt fremmed fordi den åpner direkte til et kamera og ikke en innholdsstrøm, som på tradisjonelle sosiale medieplattformer.

Det er langt mer som går inn i Snapchats design enn man skulle tro, og denne tilnærmingen bunner ut fra den enorme verdien selskapet setter på sikkerhet og personvern. Sikkerhet er en del av selskapets DNA og det er i tråd med oppdraget: å gi folk mulighet til å uttrykke seg, leve i øyeblikket, lære om verden og ha det gøy sammen. Med mindre folk føler seg trygge, vil de ikke være komfortable til å uttrykke seg fritt når de er i kontakt med venner.

Troen på at teknologi må bygges for å reflektere faktisk menneskelig atferd og dynamikk, er en sterk drivkraft hos Snap. Det er også viktig sett fra et sikkerhetsperspektiv. For eksempel, kan ikke bare noen kontakte deg direkte på Snapchat – to mennesker må godta hverandre som venner før de kan begynne å kommunisere direkte, som er mer likt i det virkelige livet.

Snap benytter et personvern ved design når vi utvikler nye funksjoner, og vi var en av de første plattformene som støttet og tok i bruk personvern ved design, noe som betyr at sikkerheten vurderes og tas med i designfasen av funksjonene våre – ingen tilbakevirkende modifikasjoner eller bolting på sikkerhet etter at funksjonene er laget. Hvordan et produkt eller en funksjon kan bli misbrukt eller utnyttet fra et sikkerhetsperspektiv vurderes i de tidligste utviklingsstadiene.

Skadelig innhold

Selskapet var tidlig ute med å ta en bevisst beslutning om å behandle privat kommunikasjon mellom venner og offentlig innhold tilgjengelig for publikum, forskjellig. I de mer offentlige delene av Snapchat, der materialet sannsynligvis blir sett av et større publikum, er innhold kuratert eller forhåndsmoderert for å forhindre at potensielt skadelig materiale «går viralt». To deler av Snapchat er i denne kategorien: Discover, som inkluderer innhold fra nettbaserte medieutgivere og innholdsskapere, og Spotlight, der Snapchattere deler sitt eget underholdende innhold med det større samfunnet.

Spotlight gjennomgår alt innhold med automatiserte verktøy, men har også et ekstra lag med gjennomgang gjort ved menneskelig moderasjon før det er kvalifisert til å bli publisert. For øyeblikket jobber det mer enn et par dusin mennesker med denne moderasjonen. Dette bidrar til å sikre at innholdet samsvarer med Snapchats regler og retningslinjer, og bidrar til å redusere risikoen for glipper ved automatisk moderasjon. Ved å jobbe mot kontroll av det som går viralt, reduserer Snap fristelsen for å publisere ulovlig eller potensielt skadelig innhold, noe som igjen fører til betydelig lavere nivåer av eksponering for hatefulle ytringer, selvskading og voldelig ekstremistisk materiale, for å nevne noen eksempler – sammenlignet med andre sosiale medieplattformer.

Eksponering av narkotika

Snapchat er en av mange nettplattformer som narkotikalangere misbruker globalt, og hvis du har sett mediedekning av foreldre og familiemedlemmer som har mistet barn pga. forfalskede fentanyltilsatte piller, forstår du hvor hjerteskjærende og skremmende denne situasjonen kan være. Vi gjør utvilsomt det, og vi har stor medfølelse overfor de som har har mistet sine kjære til denne skremmende epidemien.

I løpet av det siste året har Snap gått hardt og grundig til verks for å få bukt med innhold om fentanyl og narkotika, og det har vi gjort på tre viktige måter:

• Utvikle og ta i bruk teknologi for å oppdage narkotikarelatert aktivitet på Snapchat, for så å identifisere og fjerne narkotikalangere som misbruker plattformen.

• Styrking og flere grep innen etterforskning og rettshåndhevelse, slik at myndighetene raskt kan bringe gjerningsmennene for retten, og

• Øke bevisstheten til Snapchattere om farene med fentanyl via offentlige kunngjøringer og pedagogisk innhold direkte i appen. (Du kan finne mer ut om alle disse tiltakene her.)

Vi er fast bestemt på å gjøre Snapchat til et fiendtlig miljø for narkotikarelatert aktivitet, og kommer til å fortsette å utvide dette arbeidet i de kommende månedene. I mellomtiden er det viktig for foreldre, omsorgspersoner og unge mennesker å forstå den gjennomgående trusselen om potensielt falske legemidler som har spredt seg på nettet, og det er viktig å snakke med familie og venner om farene og hvordan man kan være trygg.

Snap har planlagt mye innen sikkerhet og personvern i 2022, inkludert å lansere nye forsknings- og sikkerhetsfunksjoner, samt å skape ressurser og programmer for å informere og gi samfunnet vårt mulighet til å ha en tryggere og sunnere digitale praksis. Vi ser frem til starten på et produktivt nytt år – proppfullt av læring, engasjement, trygghet og moro!

- Jacqueline Beauchere, global leder for plattformsikkerhet