TIMES JATENG, YOGYAKARTA – Kasus blokir akun resmi Masjid Jogokariyan patut menjadi peringatan serius. Kanal YouTube mereka dihapus pada Juni 2025 dengan alasan dianggap “terafiliasi ekstremis”, lalu akun Instagram resmi dibekukan secara mendadak meskipun kontennya bersifat dakwah dan edukatif, termasuk kajian tentang kondisi Gaza bersama Ustaz Husein Gaza. 

Ini bukan hanya soal satu akun, tapi pemantik diskusi bagaimana sistem moderasi otomatis bisa salah memblokir suara damai.

Platform seperti Instagram menggunakan AI dan algoritma yang dirancang untuk mendeteksi pola risiko, spam, ujaran kebencian, atau ekstremisme. Namun dalam praktiknya seringkali terjadi false positive: konten netral, termasuk dukungan kemanusiaan Palestina, ditandai sebagai pelanggaran.

Dalam konteks moderasi digital, false positive terjadi ketika sistem otomatis menandai konten yang sebenarnya tidak bermasalah sebagai pelanggaran. Ini bisa disebabkan oleh penggunaan kata, gambar, atau tagar yang dikaitkan dengan isu sensitif, meskipun konteksnya damai atau edukatif. 

Misalnya, akun masjid yang memuat ceramah tentang kemanusiaan di Palestina bisa disalahartikan sebagai dukungan terhadap kelompok terlarang hanya karena menyebut kata “Gaza” atau menggunakan simbol tertentu. 

Mesin tidak mengenali niat baik; ia hanya membaca pola. Akibatnya, banyak akun kebaikan, dakwah, zakat, bantuan kemanusiaan justru menjadi korban dari sistem yang seharusnya menjaga keamanan.

Human Rights Watch menemukan setidaknya 1.050 insiden sistemik di lebih dari 60 negara, sebagian besar konten damai yang diblokir tanpa alasan jelas.

Meta pun menggunakan kebijakan "Dangerous Organizations and Individuals", tapi penerapannya sembarangan, frasa seperti “Palestine” atau emoji bendera bisa dianggap multilayer threat oleh algoritma. 

Lebih mengkhawatirkan, saat krisis beintensitas tinggi, ambang moderasi diturunkan sehingga AI bekerja lebih agresif. Dewan Pengawas Meta (Oversight Board) pun pernah menyatakan bahwa frasa “from the river to the sea” tidak seharusnya diblokir otomatis.

Karena pendekatan “block first, review later”, banyak akun termasuk Masjid Jogokariyan, tiba-tiba diblokir tanpa notifikasi atau penjelasan. Proses banding seringkali tidak mencukupi karena tidak melibatkan peninjauan manusia yang memahami konteks lokal. 

Konten damai sering dibungkam karena satu atau dua kata sensitif, frasa, atau bahasa asing; sementara konten yang sebenarnya melanggar kebijakan bisa lolos hanya karena tidak dipahami algoritma.

Imbauan Perbaikan dan Kehatihatian Bersama

Pertama, Meta perlu melakukan audit dan kalibrasi ulang sistem moderasi AI. Akun resmi, seperti masjid dan lembaga zakat, sebaiknya mendapatkan perlakuan prioritas agar diberi peringatan sebelum diblokir.

Kedua, Transparansi dan proses banding manusiawi sangat penting. Pengguna berhak mengetahui alasan pemblokiran, lalu menjelaskan konteks-seharusnya ada review manusia yang memahami bahasa dan budaya lokal.

Ketiga, Offline backup sebagai mitigasi. Pengelola akun sebaiknya memanfaatkan website resmi, Telegram, atau newsletter sebagai saluran cadangan agar dakwah dan informasi tidak terhenti.

Keempat, Dukung riset independen bias AI. Akademisi dan lembaga non-profit perlu menyelidiki bias algoritmik, terutama terhadap bahasa selain Inggris, agar data false positive menjadi bukti untuk menekan perbaikan sistem. 

Bahkan dokumen internal Meta menunjukkan moderasi dalam bahasa Arab jauh lebih agresif dibanding moderasi bahasa Ibrani, akibat minimnya reviewer manusia lokal.

Moderasi otomatis memang mampu menghentikan konten negatif, tetapi tanpa sentuhan manusia, ia bisa menghancurkan dialog konstruktif. Teknologi seharusnya menjadi pilar pendukung nilai kemanusiaan, bukan benteng pemblokiran sepihak.

Pesan Kepada Meta dan Masyarakat

Kejadian di Masjid Jogokariyan bukan insiden individual, melainkan cerminan tantangan luas: apakah platform global mampu menata keadilan dalam dominasi AI? 

Ketika narasi dakwah, zakat, atau bantuan kemanusiaan ikut tertinggal oleh sistem, mari ingatkan: mesin itu dingin dan cepat, namun data dan hati manusia harus menuntun mereka.

Masyarakat digital perlu memahami bahwa platform media sosial bukan ruang netral. Ia dikendalikan oleh algoritma yang tunduk pada kebijakan korporat, yang tidak selalu memahami konteks lokal, nilai-nilai spiritual, atau keunikan ekspresi umat. 

Maka menjadi penting untuk tidak menggantungkan seluruh aktivitas publikasi pada satu platform saja. Literasi digital tidak cukup hanya tahu cara membuat konten, tetapi juga mengenali bagaimana konten itu diproses, dipantau, dan bisa dihapus kapan saja tanpa permisi. 

Gunakan backup untuk menjaga kesinambungan. Dorong Meta melalui riset dan transparansi. Pastikan algoritma AI berjalan dengan hati, bukan hanya logika tanpa nalar. Karena pada akhirnya, suara kemanusiaan tidak boleh padam oleh kode di balik layar. (*)

***

*) Oleh : Rusydi Umar, Dosen FTI Universitas Ahmad Dahlan.

*) Tulisan Opini ini sepenuhnya adalah tanggung jawab penulis, tidak menjadi bagian tanggung jawab redaksi timesindonesia.co.id

*) Kopi TIMES atau rubrik opini di TIMES Indonesia terbuka untuk umum. Panjang naskah maksimal 4.000 karakter atau sekitar 600 kata. Sertakan riwayat hidup singkat beserta Foto diri dan nomor telepon yang bisa dihubungi.

*) Naskah dikirim ke alamat e-mail: [email protected]

*) Redaksi berhak tidak menayangkan opini yang dikirim apabila tidak sesuai dengan kaidah dan filosofi TIMES Indonesia.