Testimoni Kongres Senat — Pendekatan kami dalam Keamanan, Privasi, dan Kesejahteraan

26 Oktober 2021

Hari ini, Wakil Presiden Kebijakan Publik Global kami, Jennifer Stout, bergabung dengan platform teknologi lainnya untuk memberikan kesaksian di hadapan Subkomite Komite Perdagangan Senat tentang Perlindungan Konsumen, Keamanan Produk, dan Keamanan Data tentang pendekatan Snap untuk melindungi kaum muda di platform kami.
Kami berterima kasih atas kesempatan untuk menjelaskan kepada Subkomite bagaimana kami sengaja membangun Snapchat secara berbeda dari platform media sosial tradisional, bagaimana kami bekerja untuk membangun keamanan dan privasi langsung ke dalam desain platform dan produk kami, dan di mana kami perlu terus meningkatkannya melindungi kesejahteraan masyarakat kita dengan lebih baik. Kami selalu percaya bahwa kami memiliki tanggung jawab moral untuk mengutamakan kepentingan mereka — dan percaya bahwa semua perusahaan teknologi harus bertanggung jawab dan secara aktif melindungi komunitas yang mereka layani.
Kami menyambut baik upaya berkelanjutan dari Subkomite untuk menyelidiki masalah kritis ini — dan Anda dapat membaca pernyataan pembukaan lengkap Jennifer di bawah ini. PDF dari kesaksian lengkap tersedia di sini.
****
Kesaksian Jennifer Stout Wakil Presiden Kebijakan Publik Global, Snap Inc1
Pengantar
Ketua Blumenthal, Anggota Peringkat Blackburn, dan anggota Subkomite, terima kasih atas kesempatan untuk tampil di hadapan Anda hari ini. Nama saya Jennifer Stout dan saya menjabat sebagai Wakil Presiden Kebijakan Publik Global di Snap Inc., perusahaan induk Snapchat. Merupakan suatu kehormatan dan hak istimewa untuk kembali ke Senat 23 tahun setelah pertama kali memulai pelayanan publik sebagai staf Senat, kali ini dalam kapasitas yang jauh berbeda — untuk berbicara tentang pendekatan Snap terhadap privasi dan keamanan, terutama yang berkaitan dengan kami anggota komunitas termuda. Saya telah menjalankan peran ini selama hampir lima tahun, setelah menghabiskan hampir dua dekade dalam pelayanan publik, lebih dari setengahnya dihabiskan di Kongres. Saya sangat menghormati institusi ini dan pekerjaan yang Anda dan staf Anda lakukan untuk memastikan bahwa platform teknologi memastikan bahwa kaum muda kita mendapatkan pengalaman online yang aman dan sehat.
Untuk memahami pendekatan Snap dalam melindungi kaum muda di platform kami, sebaiknya mulai dari awal. Pendiri Snapchat adalah bagian dari generasi pertama yang tumbuh dengan media sosial. Seperti banyak rekan mereka, mereka melihat bahwa meskipun media sosial mampu memberikan dampak positif, media sosial juga memiliki fitur tertentu yang berdampak negatif pada persahabatan mereka. Platform ini mendorong masyarakat untuk secara terbuka menyiarkan pikiran dan perasaan mereka secara permanen. Pendiri kami melihat bagaimana orang terus-menerus mengukur diri mereka terhadap orang lain melalui "suka" dan komentar, mencoba menampilkan versi diri mereka sendiri melalui gambar yang dikuratori dengan sempurna, dan dengan hati-hati menulis konten mereka karena tekanan sosial. Media sosial juga berevolusi untuk menampilkan konten yang tidak dapat diperiksa tanpa terbatas, yang mengekspos orang ke banjir konten viral, menyesatkan, dan berbahaya.
Snapchat dibangun sebagai penangkal media sosial. Bahkan, kami menggambarkan diri kami sebagai perusahaan kamera. Arsitektur Snapchat sengaja dirancang untuk memberdayakan orang mengekspresikan berbagai pengalaman dan emosi dengan teman nyata mereka, bukan hanya saat-saat cantik dan sempurna. Pada tahun-tahun pembentukan perusahaan kami, ada tiga cara utama tim kami memelopori penemuan baru untuk memprioritaskan privasi dan keamanan daring.
Pertama, kami memutuskan untuk membuka Snapchat ke kamera alih-alih umpan konten. Ini menciptakan kanvas kosong bagi teman-teman untuk berkomunikasi secara visual satu sama lain dengan cara yang lebih imersif dan kreatif daripada mengirim pesan teks.
Kedua, kami menganut prinsip privasi yang kuat, minimalisasi data, dan ide efemeralitas, membuat gambar dihapus secara default. Hal ini memungkinkan orang untuk benar-benar mengekspresikan diri mereka dengan cara yang sama jika mereka hanya nongkrong di taman bersama teman-teman mereka. Media sosial mungkin telah dinormalisasi memiliki catatan permanen percakapan online, tetapi dalam kehidupan nyata, teman tidak mengeluarkan tape recorder mereka untuk mendokumentasikan setiap percakapan untuk konsumsi publik atau retensi permanen.
Ketiga, kami berfokus untuk menghubungkan orang-orang yang sudah berteman dalam kehidupan nyata dengan mengharuskan, secara default, kedua Snapchatter memilih untuk berteman agar dapat berkomunikasi. Karena dalam kehidupan nyata, persahabatan itu saling membantu. Bukan satu orang mengikuti yang lain, atau orang asing tak dikenal memasuki hidup kita tanpa izin atau undangan.
Evolusi yang Bertanggung Jawab
Sejak hari-hari awal itu, kami telah bekerja untuk terus berkembang secara bertanggung jawab. Memahami potensi efek negatif dari media sosial, kami membuat pilihan proaktif untuk memastikan bahwa semua produk masa depan kami mencerminkan nilai-nilai awal tersebut.
Kami tidak perlu menemukan kembali kemudi untuk melakukannya. Tim kami dapat belajar dari sejarah saat menghadapi tantangan yang ditimbulkan oleh teknologi baru. Seiring perkembangan Snapchat dari waktu ke waktu, kami dipengaruhi oleh kerangka peraturan yang ada yang mengatur penyiaran dan telekomunikasi saat mengembangkan bagian aplikasi kami tempat pengguna dapat berbagi konten yang berpotensi menjangkau khalayak luas. Misalnya, ketika Anda berbicara dengan teman Anda di telepon, Anda memiliki ekspektasi privasi yang tinggi, sedangkan jika Anda adalah penyiar publik yang berpotensi memengaruhi pikiran dan pendapat banyak orang, Anda tunduk pada standar dan persyaratan peraturan yang berbeda.
Dikotomi itu membantu kami mengembangkan aturan untuk bagian Snapchat yang lebih umum yang terinspirasi oleh peraturan penyiaran. Aturan ini melindungi audiens kami dan membedakan kami dari platform lain. Misalnya, Discover, platform konten tertutup kami tempat Snapchatter mendapatkan berita dan hiburan, secara eksklusif menampilkan konten dari penerbit media profesional yang bermitra dengan kami, atau dari artis, kreator, dan atlet yang kami pilih untuk bekerja sama. Semua penyedia konten ini harus mematuhi Pedoman Komunitas kami, yang berlaku untuk semua konten di platform kami. Namun, mitra penerbit Discover juga harus mematuhi Pedoman Penerbit kami, yang mencakup persyaratan agar konten diperiksa faktanya atau akurat, dan dibatasi usia jika perlu. Dan untuk masing-masing kreator yang ditampilkan di Discover, tim moderasi manusia kami akan meninjau Cerita mereka sebelum kami mengizinkannya untuk dipromosikan di platform. Meskipun kami menggunakan algoritme untuk menampilkan konten berdasarkan minat individu, algoritme tersebut diterapkan pada kumpulan konten yang terbatas dan diperiksa, yang merupakan pendekatan yang berbeda dari platform lain.
Di Spotlight, di mana kreator dapat mengirimkan video kreatif dan menghibur untuk dibagikan dengan komunitas Snapchat yang lebih luas, semua konten terlebih dahulu ditinjau secara otomatis oleh kecerdasan buatan sebelum didistribusikan, kemudian ditinjau manusia dan dimoderasi sebelum dapat dilihat oleh lebih dari 25 orang. Hal ini dilakukan untuk memastikan bahwa kami mengurangi risiko penyebaran informasi yang salah, ujaran kebencian, atau konten yang berpotensi membahayakan lainnya.
Kami tidak selalu melakukannya dengan benar saat pertama kalinya, itulah sebabnya kami mendesain ulang bagian-bagian Snapchat saat tidak sesuai dengan nilai-nilai kami. Itulah yang terjadi pada tahun 2017 ketika kami menemukan bahwa salah satu produk kami, Cerita, membuat Snapchatter merasa harus bersaing dengan selebritas dan influencer untuk mendapatkan perhatian karena konten dari selebritas dan teman digabungkan dalam antarmuka pengguna yang sama. Sebagai hasil dari pengamatan tersebut, kami memutuskan untuk memisahkan konten “sosial” yang dibuat oleh teman dari konten “media” yang dibuat oleh selebritas untuk membantu mengurangi perbandingan sosial di platform kami. Desain ulang ini berdampak negatif pada pertumbuhan pengguna kami dalam jangka pendek, tetapi itu adalah hal yang tepat untuk dilakukan bagi komunitas kami.
Melindungi Anak Muda di Snapchat
Misi kami — untuk memberdayakan orang untuk mengekspresikan diri, hidup di saat ini, belajar tentang dunia, dan bersenang-senang bersama — menginformasikan arsitektur fundamental Snapchat. Mematuhi misi ini telah memungkinkan kami untuk membuat platform yang mencerminkan sifat manusia dan memupuk persahabatan sejati. Itu terus memengaruhi proses dan prinsip desain kami, kebijakan dan praktik kami, serta sumber daya dan alat yang kami sediakan untuk komunitas kami. Dan itu mendasari upaya kami yang terus-menerus untuk meningkatkan cara kami mengatasi risiko dan tantangan yang melekat terkait dengan melayani komunitas online yang besar.
Sebagian besar dari memenuhi misi kami adalah membangun dan mempertahankan kepercayaan dengan komunitas dan mitra kami, serta orang tua, anggota parlemen, dan pakar keselamatan. Hubungan tersebut telah dibangun melalui keputusan yang disengaja dan konsisten yang telah kami buat untuk mengutamakan privasi dan keamanan dalam proses desain produk kami.
Misalnya, kami telah mengadopsi prinsip desain bertanggung jawab yang mempertimbangkan privasi dan keamanan produk dan fitur baru sejak awal proses pengembangan. Dan kami mewujudkan prinsip-prinsip tersebut melalui proses yang ketat. Setiap fitur baru di Snapchat melewati tinjauan privasi dan keamanan yang ditentukan, yang dilakukan oleh tim yang mencakup Snap — termasuk desainer, ilmuwan data, insinyur, manajer produk, penasihat produk, pimpinan kebijakan, dan insinyur privasi — jauh sebelum hal itu terungkap. .
Meskipun lebih dari 80% komunitas kami di Amerika Serikat berusia 18 tahun atau lebih, kami telah menghabiskan banyak waktu dan sumber daya untuk melindungi remaja. Kami telah membuat pilihan yang bijaksana dan disengaja untuk menerapkan kebijakan privasi dan keamanan tambahan serta prinsip desain untuk membantu menjaga keamanan remaja. Itu termasuk:
  • Mempertimbangkan kepekaan dan pertimbangan unik anak di bawah umur saat kami merancang produk. Itulah mengapa kami sengaja mempersulit orang asing untuk menemukan anak di bawah umur dengan melarang profil publik untuk orang di bawah 18 tahun dan meluncurkan fitur untuk membatasi kemampuan anak di bawah umur untuk dapat ditemukan di Tambah Cepat (saran teman). Dan mengapa kami telah lama menerapkan alat pembatasan usia untuk mencegah anak di bawah umur melihat konten dan iklan yang mengatur usia.
  • Memberdayakan Snapchatter dengan menyediakan kontrol yang konsisten dan mudah digunakan1 seperti menonaktifkan berbagi lokasi secara default dan menawarkan pelaporan dalam aplikasi yang disederhanakan bagi pengguna untuk melaporkan konten atau perilaku terkait ke tim Kepercayaan dan Keamanan kami. Setelah dilaporkan, sebagian besar konten akan ditindaklanjuti dalam waktu kurang dari 2 jam untuk meminimalkan potensi bahaya.
  • Bekerja untuk mengembangkan alat yang akan memberi orang tua lebih banyak pengawasan tanpa mengorbankan privasi — termasuk rencana untuk memberi orang tua kemampuan untuk melihat teman remaja mereka, mengelola pengaturan privasi dan lokasi mereka, dan melihat dengan siapa mereka berbicara.
  • Berinvestasi dalam program dan prakarsa pendidikan yang mendukung keselamatan dan kesehatan mental komunitas kita — seperti Friend Check Up dan Here for You. Pemeriksaan Teman meminta Snapchatter untuk meninjau dengan siapa mereka berteman dan memastikan daftar tersebut terdiri dari orang-orang yang mereka kenal dan masih ingin terhubung. Here for You memberikan dukungan kepada pengguna yang mungkin mengalami krisis kesehatan mental atau emosional dengan menyediakan alat dan sumber daya dari para ahli.
  • Mencegah pengguna di bawah umur. Kami tidak berupaya — dan tidak memiliki rencana — untuk memasarkan kepada anak-anak, dan individu di bawah usia 13 tahun tidak diizinkan membuat akun Snapchat. Saat mendaftar untuk sebuah akun, individu diharuskan memberikan tanggal lahir mereka, dan proses pendaftaran gagal jika pengguna memasukkan usia di bawah 13 tahun. Kami juga telah menerapkan perlindungan baru yang mencegah pengguna Snapchat antara 13-17 dengan yang ada akun dari memperbarui ulang tahun mereka hingga usia 18 tahun atau lebih. Khususnya, jika anak di bawah umur mencoba mengubah tahun lahir mereka menjadi usia di atas 18 tahun, kami akan mencegah perubahan tersebut sebagai cara untuk memastikan bahwa pengguna tidak mengakses konten yang tidak sesuai usia di dalam Snapchat.
Kesimpulan dan Pandangan ke Depan
Kami selalu berusaha mencari cara baru untuk menjaga keamanan komunitas kami, dan kami memiliki lebih banyak pekerjaan yang harus dilakukan. Kami tahu bahwa keamanan daring adalah tanggung jawab bersama, yang mencakup banyak sektor dan pelaku. Kami berkomitmen untuk melakukan bagian kami bersama dengan mitra keselamatan termasuk Dewan Penasihat Keselamatan kami, rekan industri teknologi, pemerintah, dan masyarakat sipil. Dari inisiatif yang berfokus pada teknologi dan peningkatan kesadaran, hingga penelitian dan berbagi praktik terbaik, kami secara aktif terlibat dengan organisasi yang didedikasikan untuk melindungi anak di bawah umur secara online. Kami juga tahu bahwa ada banyak masalah kompleks dan tantangan teknis di seluruh industri kami, termasuk verifikasi usia anak di bawah umur, dan kami tetap berkomitmen untuk bekerja sama dengan mitra dan pembuat kebijakan untuk mengidentifikasi solusi industri yang kuat.
Melindungi kesejahteraan Snapchatter adalah sesuatu yang kami lakukan dengan kerendahan hati dan tekad yang teguh. Lebih dari 500 juta orang di seluruh dunia menggunakan Snapchat setiap bulan dan meskipun 95% pengguna kami mengatakan bahwa Snapchat membuat mereka merasa bahagia, kami memiliki tanggung jawab moral untuk mempertimbangkan kepentingan terbaik mereka dalam segala hal yang kami lakukan. Hal itu terutama berlaku saat kami berinovasi dengan augmented reality — yang berpotensi memberikan kontribusi positif pada cara kita bekerja, berbelanja, belajar, dan berkomunikasi. Kami akan menerapkan nilai dan prinsip pendirian yang sama saat kami terus bereksperimen dengan teknologi baru seperti augmented reality generasi berikutnya.
Saat kita melihat ke masa depan, komputasi dan teknologi akan semakin terintegrasi ke dalam kehidupan kita sehari-hari. Kami percaya bahwa regulasi diperlukan tetapi mengingat kecepatan perkembangan teknologi dan kecepatan penerapan regulasi, regulasi saja tidak dapat menyelesaikan pekerjaan. Perusahaan teknologi harus bertanggung jawab dan secara aktif melindungi komunitas yang mereka layani.
Jika tidak, pemerintah harus bertindak cepat untuk meminta pertanggungjawaban mereka. Kami sepenuhnya mendukung upaya Subkomite untuk menyelidiki masalah ini dan menyambut baik pendekatan kolaboratif untuk pemecahan masalah yang menjaga keamanan masyarakat kita.
Sekali lagi terima kasih atas kesempatan untuk tampil di hadapan Anda hari ini dan mendiskusikan masalah-masalah penting ini. Saya berharap dapat menjawab pertanyaan Anda.
Kembali ke Berita