"Saya kehilangan banyak jam tidur (karena kehilangan akun), merasa terisolasi. Ini sangat mengerikan, apalagi dengan tuduhan seperti itu menggantung di atas kepala saya," kata seorang pengguna Instagram.
Meta sendiri menolak berkomentar terkait hal ini meski ada lebih dari 100 orang yang mengaku di-banned secara salah oleh mereka.
Beberapa orang berbicara tentang kerugian pendapatan setelah diblokir dari halaman bisnis mereka, sementara yang lain menyoroti rasa kecewa karena tidak lagi dapat mengakses foto dan kenangan selama bertahun-tahun. Banyak yang menyoroti dampak yang ditimbulkan pada kesehatan mental mereka.
Lebih dari 27.000 orang telah menandatangani petisi yang menuduh sistem moderasi Meta, yang didukung oleh kecerdasan buatan AI secara salah memblokir akun dan memiliki proses banding yang tidak memadai.
Banyak pengguna telah memposting di media sosial tentang pemblokiran mereka. Meta sebelumnya mengakui adanya masalah dengan Facebook Groups tetapi membantah platformnya lebih luas terpengaruh.
David, dari Aberdeen, Skotlandia, dibekukan dari Instagram pada 4 Juni. Dia diberitahu tidak mematuhi standar komunitas Meta tentang eksploitasi seksual anak, pelecehan dan ketelanjangan. David mengajukan banding pada hari itu dan kemudian akun Instagram-nya serta akun Facebook dan Facebook Messenger yang terkait dihapus secara permanen.
David menemukan thread di Reddit, dimana banyak orang lain juga mengeluh mereka dibanned secara salah terkait eksploitasi seksual anak.
“Kami kehilangan bertahun-tahun kenangan, dalam kasus saya lebih dari 10 tahun pesan, foto, dan postingan - karena tuduhan yang benar-benar keterlaluan dan keji,” jelasnya.
Kasus David diangkat media dan disampaikan ke Meta pada 3 Juli lalu sebagai satu dari beberapa orang yang mengklaim telah dibanned secara salah terkait eksploitasi seksual anak. Dalam hitungan jam, akunnya dipulihkan.
“Kami menyesal telah salah dalam hal ini, dan Anda tidak dapat menggunakan Instagram untuk sementara waktu. Terkadang, kami perlu mengambil tindakan untuk membantu menjaga keamanan komunitas kami,” tulis Meta setelah kasus ini terungkap.
Pengguna lain bernama Faisal dilarang menggunakan Instagram pada 6 Juni karena dugaan eksploitasi seksual anak, dan seperti David, akun Facebook-nya juga ditangguhkan.
Mahasiswa asal London ini sedang memulai karir di bidang seni kreatif dan mulai menghasilkan uang melalui pesanan di halaman Instagram-nya saat akunnya ditangguhkan. Dia mengajukan banding setelah merasa tidak melakukan kesalahan apa pun dan akunnya kemudian dilarang beberapa menit kemudian.
"Saya tidak tahu harus berbuat apa dan saya sangat sedih. Meta secara salah menuduh saya melakukan kejahatan yang tidak pernah saya lakukan, yang juga merusak kondisi mental dan kesehatan saya, dan telah membuat saya terisolasi sepenuhnya selama sebulan terakhir,” katanya.
Kasusnya juga diangkat media BBC kepada Meta pada 3 Juli. Sekitar lima jam kemudian, akunnya dipulihkan. Dia menerima email yang sama persis dengan David, beserta permintaan maaf dari Meta.
Dr Carolina Are, seorang peneliti media sosial di Pusat Warga Digital Universitas Northumbria, Inggris, mengatakan sulit untuk mengetahui akar masalahnya karena Meta tidak transparan tentang hal itu.
Namun ia menyarankan hal itu mungkin disebabkan oleh perubahan terbaru pada redaksi beberapa pedoman komunitasnya dan ketidakhadiran proses banding yang efektif. “Meta sering tidak menjelaskan apa yang memicu penghapusan. Kami tidak mengetahui apa yang salah dengan algoritma,” ujar Caroline.
Dalam pernyataan sebelumnya Meta mengatakan mereka mengambil tindakan terhadap akun yang melanggar kebijakan. “Dan orang dapat mengajukan banding jika mereka merasa kami telah membuat kesalahan,” ujar Meta.
Meta, seperti halnya perusahaan teknologi besar lainnya, telah menghadapi tekanan yang meningkat dalam beberapa tahun terakhir dari regulator dan otoritas untuk menjadikan platform mereka sebagai ruang yang aman.
Meta menyebut mereka menggunakan kombinasi manusia dan teknologi untuk menemukan dan menghapus akun yang melanggar aturan dan tidak menyadari adanya lonjakan penangguhan akun yang salah.
Kebijakan eksploitasi seksual anak mereka berkaitan dengan anak-anak dan gambaran non-nyata yang menyerupai manusia seperti seni, konten yang dihasilkan oleh AI atau karakter fiksi.
Editor: Aspian Nur
