Disyembre 05, 2024

Disyembre 05, 2024

Pina-publish namin ang transparency report na ito dalawang beses isang taon para magbigay ng insight sa mga pagsisikap sa kaligtasan ng Snap. Nakatuon kami sa mga pagsisikap na ito at patuloy na nagsisikap na gawing mas komprehensibo at nagbibigay-kaalaman ang mga report na ito para sa maraming stakeholder na lubos na nagmamalasakit sa pagmo-moderate ng content namin, mga kasanayan sa pagpapatupad ng batas, at ang kaligtasan at kagalingan ng komunidad ng Snapchat.

Sinasaklaw ng Transparency Report na ito ang unang kalahati ng 2024 (Enero 1 - Hunyo 30). Tulad ng mga nakaraang report namin, nagse-share kami ng data tungkol sa pandaigdigang volume ng in-app na content at mga report sa antas ng account na natanggap at ipinatupad ng mga team namin ng Trust & Safety sa mga partikular na kategorya ng mga paglabag sa Community Guidelines; kung paano kami tumugon sa mga kahilingan mula sa tagapagpatupad ng batas at mga pamahalaan; at paano kami tumugon sa mga abiso ng copyright ang paglabag sa trademark. Nagbibigay rin kami ng insights na partikular sa bansa sa mga file na naka-link sa ibaba ng pahinang ito.

Bilang bahagi ng patuloy na pangako naming patuloy na pagbutihin ang mga transparency report namin, ipinapakilala rin namin ang bagong data na nagha-highlight sa mga maagap na pagsisikap naming ma-detect at magpatupad laban sa mas malawak na hanay ng mga paglabag ng Community Guidelines namin. Isinama namin ang data na ito sa parehong antas ng pandaigdigan at bansa sa loob ng ulat na ito at patuloy naming gagawin ito sa hinaharap. Naitama rin namin ang isang error sa pag-label sa mga nakaraang report namin: kung saan tinukoy namin dati ang "Kabuuang Nilalamang Ipinapatupad", na tinutukoy namin ngayong “Mga Kabuuang Pagpapatupad” para ipakita ang katotohanang ang data na ibinigay sa mga nauugnay na column ay kinabibilangan ng pagpapatupad ng parehong antas ng content at mga antas ng account.

Para sa higit pang impormasyon tungkol sa mga patakaran namin para sa paglaban sa mga potensyal na online na pinsala, at mga planong magpatuloy ang pagbabago sa mga kasanayan namin sa pagre-report, pakibasa ang kamakailan namingblog sa Safety & Impact tungkol sa Transparency Report na ito. Para maghanap ng mga karagdagang mapagkukunan sa kaligtasan at privacy sa Snapchat, tingnan ang aming tab na Tungkol sa Transparency Reporting sa ibaba ng pahina.

Pakitandaang ang pinaka-up-to-date na bersyon ng Transparency Report na ito ay matatagpuan sa EN-US locale.

Ipinapatupad ng mga team namin ng Trust & Safety ang Community Guidelines namin nang parehong maagap (sa pamamagitan ng paggamit ng mga automated na tool) at nang reaktibo (bilang tugon sa mga report), gaya ng higit pang pagdedetalye sa mga sumusunod na seksyon ng report na ito. Sa cycle na pagre-report na ito (H1 2024), ginawa ng mga team namin ng Trust & Safety ang sumusunod na seksyon sa pagpapatupad.

Nasa ibaba ang isang breakdown sa bawat uri ng mga nauugnay na paglabag sa Mga Alituntunin ng Komunidad, kabilang ang median na oras ng turnaround sa pagitan ng oras na natukoy namin ang paglabag (alinman sa maagap o pagkatanggap ng isang ulat) at ang oras na gumawa kami ng panghuling aksyon sa nauugnay na nilalaman o account:

Sa panahon ng pagre-report, nakakita kami ng Violative View Rate (VVR) na 0.01 porsyento, na nangangahulugang sa bawat 10,000 na mga pag-view sa Snap at Story sa Snapchat, 1 ang naglalaman ng content na lumalabag sa Community Guidelines namin.

Mula Enero 1 - Hunyo 30, 2024, bilang tugon sa in-app na mga ulat ng mga paglabag ng Community Guidelines namin, ang mga team ng Trust & Safety ng Snap ay nagsagawa ng 6,223,618 na pagpapatupad sa buong mundo, kabilang ang mga pagpapatupad laban sa 3,842,507 natatanging account. Ang median na turnaround na oras para sa mga team ng Trust & Safety ng Snap namin para magsagawa ng aksyon sa pagpapatupad bilang tugon sa mga ulat na iyon ay ~ 24 na minuto. Nagbigay sa ibaba ng breakdown kada kategorya sa pag-uulat.

Ang kabuuang dami ng pagre-report namin ay nanatiling medyo matatag sa H1 2024, kumpara sa nakaraang anim na buwan. Ang cycle na ito, nakakita kami ng pagtaas sa kabuuang mga pagpapatupad at kabuuang mga natatanging account na ipinapatupad ng humigit-kumulang 16%.

Sa nakalipas na 12 buwan, ipinakilala ng Snap ang mga bagong mekanismo sa pagre-report para sa mga user, na tumutukoy para sa mga pagbabago sa ni-report namin at ipinapatupad na dami at para sa mga pagtaas sa mga oras ng turnaround sa panahon ng pagre-report na ito (H1 2024). Partikular:

• Pagre-report sa Group Chat: Ipinakilala namin ang Pagre-report sa Group Chat noong Oktubre 13, 2023, na nagbibigay-daan sa mga user na i-report ang pang-aabusong nagaganap sa multi-person na chat. Naapektuhan ng pagbabagong ito ang makeup ng metrics namin sa mga kategorya ng pagre-report (dahil ang ilang potensyal na pinsala ay mas malamang na mangyari sa konteksto ng chat) at tumaas na kakayahang maaksyunan ng report.

• Mga Pagpapahusay sa Pagre-report ng Account: Binago rin namin ang feature namin ng Pagre-report ng Account para bigyan ang mga nagre-report na user ng opsyon para mag-submit ng ebidensya ng chat kapag nagre-report ng account na pinaghihinalaang pinapatakbo ng hindi magandang aktor. Ang pagbabagong ito, na nagbibigay sa amin ng higit na katibayan at konteksto para i-assess ang mga report ng account, na inilunsad noong Pebrero 29, 2024.

Ang Mga Report sa Chat, lalo na ang Mga Report sa Group Chat, ay kabilang sa mga pinakakumplikado at nakakaubos ng oras na i-review, na nagpataas sa mga oras ng turnaround across the board.

Ang pagre-report para sa pinaghihinalaang Child Sexual Exploitation & Abuse (CSEA), Pangha-harass at Bullying, at Mapoot na Pananalita ay partikular na naapektuhan ng dalawang pagbabagong inilarawan sa itaas, at sa pamamagitan ng mga pagbabago sa mas broad na ecosystem. Partikular:

• CSEA: Nakapansin kami ng pagtaas ng mga ulat at pagpapatupad na nauugnay sa CSEA noong H1 2024. Sa partikular, nakakita kami ng 64% pagtaas sa kabuuang in-app na mga report ng mga user, 82% pagtaas sa kabuuang pagpapatupad, at 108% pagtaas sa kabuuang mga natatanging account na ipinatupad. Ang mga pagtaas na ito halos lahat at hinihimok ng pagpapakilala ng mga functionality ng Group Chat at Pagre-report sa Account Dahil sa sensitibong katangian ng queue ng pagmo-moderate na ito, piling team ng mga lubos na sinanay na agent ang itinalaga para i-review ang mga report ng mga potensyal na paglabag na nauugnay sa CSEA. Ang pagdagsa ng mga karagdagang report na isinama sa mga team naming nag-a-adapt sa mga bagong pagsasanay ay nagreresulta sa pagtaas ng mga oras ng turnaround. Sa pagsulong, pinalaki namin nang husto ang sukat ng mga team ng pandaigdigang vendor namin para bawasan ang mga oras ng turnaround at tumpak na ipatupad sa mga report ng potensyal na CSEA. Inaasahan naming ipapakita ng H1 2024 na Transparency Report ang mga bunga ng pagsisikap na itong may materyal na pinahusay na oras ng turnaround.
  

• Pangha-harass at Bullying: Batay sa mga report, napagmasdan naming ang Pangha-harass at Bullying ay hindi pantay na nangyayari sa mga chat, at partikular sa mga group chat. Ang mga pagpapahusay na ipinakilala namin sa Pagre-report sa Group Chat at Pagre-report sa Account ay nakakatulong sa aming kumilos ng mas komprehensibo kapag ina-assess ang mga report sa kategorya ng pagre-report na ito. Bukod pa rito, sa panahong ito, hinihiling namin sa mga user na mag-input ng komento kapag nagsa-submit ng report ng pangha-harass at bullying. Nire-review namin ang komentong ito para isakonteksto ang bawat report. Sama-sama, ang mga pagbabagong ito ay humantong sa mga pagtaas ng materyal sa kabuuang mga pagpapatupad (91%), kabuuang mga natatanging account na ipinatupad (+82%), at oras ng turnaround (+245 mins) para sa mga kaukulang report.
  

• Mapoot na Pananalita: Sa H1 2024, nakapansin kami ng mga pagtaas sa ni-report na content, mga kabuuang pagpapatupad, at oras ng turnaround para sa Mapoot na Pananalita. Sa partikular, nakakita kami ng 61% pagtaas sa mga in-app na report, 127% pagtaas sa kabuuang mga pagpapatupad, at 125% pagtaas sa kabuuang mga natatangiang account na ipinatupad. Dahil ito, sa bahagi, sa mga pagppapahusay sa mga mekanismo sa pagre-report sa chat (tulad ng naunang tinalakay), at pinalala pa ng geopolitical na kapaligiran, sa partikular, ang pagpapatuloy ng tunggalian ng Israel-Hamas.

Sa panahon ng pagre-report na ito, nakakita kami ng ~65% pagbaba sa kabuuang mga pagpapatupad at ~60% pagbaba sa kabuuang mga natatanging account na ipinatupad bilang tugon sa mga report ng pinaghihinalaang Spam at Pang-aabuso, na nagpapakita ng mga pagpapahusay sa maaagap na pag-detect at mga tool sa pagpapatupad namin. Nakakita kami ng mga katulad na pagtanggi sa kabuuang mga pagpapatupad bilang tugon sa mga report ng content na may kaugnayan sa Pananakit sa Sarili at Pagpapakamatay (~80% pagbaba), na nagpapakita ng na-update na victim-centric approach namin, ayon sa kung saan ang Trust & Safety team namin ay, sa mga naaangkop na kaso, magse-send sa mga may katuturang mapagkukunan ng tulong sa sarili ng mga user, sa halip na gumawa ng aksyon ng pagpapatupad laban sa mga user na iyon. Ang diskarteng ito ay ipinaalam ng mga miyembro ng Safety Advisory Board namin, kasama ng propesor ng pediatric at medikal na doktor na dalubhasa sa interactive na media at internet disorder.

Nagde-deploy kami ng mga automated na tool para maagap na mag-detect at, sa ilang kaso, magpatupad laban sa mga paglabag sa Community Guidelines namin. Kasama sa mga tool na ito ang mga tool sa pagtutugma ng hash (kabilang ang PhotoDNA at Google Child Sexual Abuse Imagery (CSAI) na Tugma), mga tool sa pag-detect ng mapang-abusong wika (na nagde-detect at nagpapatupad batay sa natukoy at regular na na-update na listahan ng mga mapang-abusong keyword at emoji), at multi-modal artificial intelligence / machine learning technology.

Noong H1 2024, isinagawa namin ang mga sumusunod na aksyon sa pagpapatupad pagkapatos ng maagap na pag-detect, sa pamamagitan ng paggamit sa mga automated na tool, paglabag sa Community Guidelines namin.

Ang seksuwal na pagsasamantala ng sinumang miyembro ng aming komunidad, lalo na ang mga menor de edad, ay ilegal, kasuklam-suklam, at ipinagbabawal ng aming Community Guidelines. Pangunahing priyoridad ang pagpigil, pag-detect, at pagtanggal ng Child Sexual Exploitation and Abuse (CSEA) sa aming platform para sa Snap, at patuloy naming binabago ang aming mga kakayahan para labanan ang mga ito at iba pang mga krimen.

Gumagamit kami ng mga aktibong tool sa pag-detect ng teknolohiya, tulad ng PhotoDNA robust hash-matching at Child Sexual Abuse Imagery (CSAI) na Tugma ng Google para matukoy ang mga kilalang ilegal na imahe at video ng CSEA, ayon sa pagkakabanggit. Bilang karagdagan, sa ilang kaso, gumagamit kami ng mga signal ng pag-uugali para ipatupad laban sa iba pang potensyal na ilegal na aktibidad ng CSEA. Nagre-report kami ng kaugnay sa CSEA na content sa National Center for Missing and Exploited Children (NCMEC) ng U.S., ayon sa hinihingi ng batas. Ang NCMEC naman ay nakikipag-coordinate sa lokal o internasyonal na pagpapatupad ng batas, ayon sa kinakailangan.

Sa unang kalahati ng 2024, ginawa namin ang mga sumusunod na pagkilos sa pag-detect sa CSEA sa Snapchat (maagap man o kapag nakatanggap ng report):

Lubos kaming nagmamalasakit sa kalusugan sa pag-iisip at sa kapakanan ng Mga Snapchatter, na patuloy na nagpapaalam sa mga desisyon naming bumuo ng Snapchat sa ibang paraan. Bilang platapormang dinisenyo para sa mga pakikipag-ugnayan sa mga tunay na kaibigan, naniniwala kaming pwedeng gumanap ang Snapchat ng natatanging role sa pagbibigay-kakayahan sa magkakaibigang na tulungan ang isa't-isang malagpasan ang mga mahihirap na sandali. Ito ang dahilan kung bakit kami bumuo ng mga mapagkukunan at support para sa Mga Snapchatter na nangangailangan.

Ang Here For You na search tool namin ay nagpapakita ng mga mapagkukunan mula sa mga ekspertong lokal na partner kapag naghahanap ang mga user ng ilang partikular na paksang nauugnay sa kalusugan ng pag-iisip, pagkabalisa, depresyon, stress, mga pag-iisip ng pagpapakamatay, kalungkutan at bullying. Mayroon din kaming ginawang pahina na nakatuon sa sextortion sa pananalapi at iba pang mga panganib at pinsalang sekswal, sa pagsisikap na suportahan ang mga nasa kagipitan. Ang pandaigdigang listahan ng mga mapagkukunan sa kaligtasan ay available sa publiko sa lahat ng Snapchatter, sa Privacy, Safety at Policy Hub namin.

Kapag nalaman ng Trust & Safety team naming nasa kagipitan ang isang Snapchatter, pwede silang mag-forward ng mga mapagkukunan sa paghadlang sa pananakit sa sarili at suporta, at sabihan ang mga emergency response personnel kapag naaangkop. Available ang mga mapagkukunang ibinabahagi namin sa pandaigdigang listahan ng mga mapagkukunan namin, at available sa publiko sa lahat ng Snapchatter.

Nagbibigay kami sa ibaba ng impormasyon tungkol sa mga apela na natanggap namin mula sa mga user na humihingi ng review ng desisyon naming i-lock ang account nila:

Naglalaan ang seksyong ito ng overview ng Trust & Safety na mga aksyon ng mga team namin para ipatupad ang Community Guidelines namin, nang parehong maagap at bilang tugon sa in-app na mga ulat sa mga paglabag, sa sampling ng mga heyograpikong rehiyon Nalalapat ang Community Guidelines namin sa lahat ng content sa Snapchat—at lahat ng Snapchatter—sa buong mundo, saanman ang location.

Ang impormasyon para sa indibidwal na mga bansa, kasama na ang lahat ng EU Member States, ay available para i-download sa pamamagitan ng nakalakip na CSV file.

Committed ang Snap sa paninigurong ang lahat ng ad ay ganap na sumusunod sapolicies sa advertising namin. Naniniwala kami sa isang responsable at magalang na diskarte sa advertising, na gumagawa ng ligtas at kasiya-siyang karanasan para sa lahat ng user namin. Lahat ng ad ay sumasailalim sa review at pag-apruba namin. Bilang karagdagan, inilalaan namin ang karapatang tanggalin ang mga ad, kabilang ang bilang tugon sa feedback ng user, na sineseryoso namin.

Nagsama kami sa ibaba ng insight sa pag-moderate namin para sa mga binabayarang patalastas na nire-report sa amin kasunod ang kanilang publikasyon sa Snapchat. Tandaang pwedeng tanggalin ang mga ad sa Snapchat para sa iba't ibang dahilan gaya ng nakabalangkas sa Policies sa Advertising ng Snap, kabilang ang mapanlinlang na content, adult content, marahas o nakakagambalang content, mapoot na pananalita, at paglabag sa intellectual property. Bukod pa rito, mahahanap mo ang Gallery ng Mga Ad ng Snapchat sa navigation bar ng transparency report na ito.