blog.ur-doc.com

The Guardian menunjukkan kompleksitas yang dihadapi Facebook dalam memoderasi konten sensitif

MANILA, Filipina – Pada hari Senin, 22 Mei, Penjaga diterbitkan pedoman rahasia untuk memoderasi konten Facebook pada konten sensitif seperti pornografi balas dendam, kekerasan, pelecehan anak, kekejaman terhadap hewan, terorisme, dan lain-lain.

Publikasi tersebut mengatakan mereka telah melihat “lebih dari 100 manual pelatihan internal, spreadsheet, dan diagram alur” yang membuka pintu lebar-lebar tentang bagaimana Facebook memoderasi konten yang ditemukan di platform mereka, menunjukkan kompleksitas moderasi konten yang dimiliki Facebook. .

Pada akhir Maret 2017, jejaring sosial ini memiliki 1,94 miliar pengguna aktif bulanan, hanya beberapa ratus juta pengguna yang mampu menampung sepertiga populasi dunia. Untuk laporan terkait akun yang berpotensi palsu saja, satu dokumen mengatakan Facebook meninjau lebih dari 6,5 juta. 4.500 moderator – sebagian kecil dari mereka adalah internal, dan sebagian besar adalah subkontraktor – seringkali memiliki “hanya 10 detik” untuk mengambil keputusan pada setiap laporan, kata salah satu sumber. Penjaga.

Singkatnya waktu yang dimiliki moderator untuk meninjau konten dapat berkontribusi pada kontroversi yang terkadang dihadapi Facebook dengan menyensor konten atau membiarkan konten tertentu tetap berada di platform yang menurut beberapa orang tidak cocok untuk khalayak umum.

Pada tahun 2016, Facebook menerima kritik karena menghapus foto perang yang ikonik karena foto tersebut memperlihatkan seorang gadis telanjang, dan dalam contoh sensor lainnya, video kesadaran kanker menampilkan animasi wanita dengan payudara melingkar. (Baca: Bagaimana Algoritma Facebook Mempengaruhi Demokrasi)

Pada tahun 2017, Facebook kembali menjadi berita, kali ini karena konten yang menurut beberapa orang harus segera dihapus: video pembunuhan online. (Baca: Video Pembunuhan Online Jadi Masalah Berat bagi Facebook)

Untungnya, Facebook telah secara terbuka mengakui masalah ini sebagai masalah nyata yang perlu mereka perbaiki atau meminta maaf.

Klaim regulasi, kekhawatiran kebebasan berpendapat

Facebook telah memasukkan sebagian besar populasi dunia ke dalam platformnya, dan tidak dapat dikatakan bahwa ini adalah alun-alun kota terbesar yang pernah ada di dunia.

Sebelum munculnya media sosial, internet terasa seperti zaman Wild West di Amerika Serikat – tidak diatur, tidak diatur, terbuka lebar, dan berantakan. Karakteristik yang sama sekarang dapat diamati di Facebook – kecuali sekarang, ada seorang sheriff di kota, warga mengenalnya sebagai Mark Zuckerberg, dan dia saat ini tampaknya sangat pusing, karena tuntutan keras untuk menjaga segala sesuatunya tetap di dalam. memesan.

Dokumen yang ditemukan menunjukkan beberapa tindakan yang digunakan Mark dan perusahaannya untuk menjaga ketertiban. Apa yang ditunjukkan oleh pengungkapan ini adalah bahwa moderator saat ini kewalahan dengan banyaknya konten yang perlu dimoderasi; dan karena Facebook berulang kali muncul di berita karena membiarkan konten tetap ada atau tidak, mereka belum tahu bagaimana membedakan apa yang harus disensor dan apa yang harus disimpan.

Karena alasan yang terakhir ini, Facebook cenderung mengacaukan kedua sisi spektrum: mereka yang mengatakan bahwa mereka harus diatur seperti lembaga penyiaran dan penerbit arus utama lainnya atau bahwa mereka harus menghapus semua konten sensitif; dan di sisi lain mendukung kebebasan berpendapat.

Bisnis memoderasi konten – baik di Facebook, Twitter, situs berita, halaman Facebook, bahkan Google dengan situs berita palsu yang mencoba mempermainkan mesin pencari – sangatlah sulit. Banyaknya jumlah pengguna Facebook ditambah dengan beragamnya pendidikan, latar belakang budaya, dan jenis konten yang mereka publikasikan membuat segalanya semakin sulit.

Salah satu sumber Penjaga membagikan ringkasan masalahnya: “Facebook tidak bisa mengendalikan kontennya,” dan “Facebook berkembang terlalu besar, terlalu cepat.”

Kepala manajemen kebijakan global Facebook, Monica Bickert, menawarkan perspektif berbeda mengenai masalah ini, seperti yang juga dikutip oleh grup berita Inggris tersebut. Bickert mencatat kesulitan dalam mencapai konsensus mengingat keberagaman masyarakat.

Dia berkata: “Kita mempunyai komunitas global yang sangat beragam dan orang-orang akan mempunyai gagasan yang sangat berbeda tentang apa yang baik untuk dibagikan. Tidak peduli di mana pun Anda menarik garis batasnya, akan selalu ada area abu-abu. Garis antara “Misalnya, sindiran dan humor serta konten yang tidak pantas terkadang sangat abu-abu. Sangat sulit untuk memutuskan apakah suatu hal termasuk dalam situs ini atau tidak.” – Rappler.com

Beri komentar di bawah atau kirim email ke [email protected] untuk pendapat Anda.