Bagaimana Facebook Menghentikan ISIS dan Al Qaeda Memposting Konten Ekstremis

Facebook menggunakan kecerdasan buatan untuk membantu mengatasi sejumlah masalah berbeda, yang terbaru adalah melihat postingan dari orang-orang yang mungkin ingin bunuh diri sebagai upaya untuk mencegah mereka melukai diri sendiri.

Perusahaan ini juga menggunakan pembelajaran mesin dan teknik otomatis lainnya untuk membantu mendeteksi dan menghapus konten terkait teroris dari ISIS dan al-Qaeda, dan perusahaan tersebut mengklaim 99 persen konten yang dihapus terdeteksi sebelum diketahui oleh pengguna.

“Kami melakukan ini terutama melalui penggunaan sistem otomatis seperti pencocokan foto dan video serta pembelajaran mesin berbasis teks,” tulis Monika Bickert, kepala manajemen kebijakan global Facebook, dan Brian Fishman, kepala kebijakan kontraterorisme, dalam sebuah pernyataan. Pos.

FACEBOOK, YOUTUBE, TWITTER DAN MICROSOFT BERGABUNG UNTUK MELAWAN KONTEN TERORIS

Al-Qaeda dan ISIS telah menjadi prioritas bagi raksasa jejaring sosial ini karena cara mereka memfokuskan tekniknya.

“Sebuah sistem yang dirancang untuk menemukan konten dari satu kelompok teroris mungkin tidak berfungsi untuk kelompok teroris lain karena perbedaan bahasa dan gaya dalam propaganda mereka,” tulis Bickert dan Fishman. “Karena keterbatasan ini, kami memfokuskan teknik paling inovatif kami pada kelompok teroris yang merupakan ancaman terbesar secara global, di dunia nyata dan online. ISIS dan Al Qaeda paling sesuai dengan definisi ini, jadi kami memprioritaskan alat kami untuk organisasi dan afiliasinya. .”

Ketika suatu konten ditandai sebagai konten yang berpotensi terkait dengan teroris, Facebook mengatakan 83 persen dari konten tersebut pada akhirnya akan dihapus dan setiap salinan konten tersebut akan dihapus dalam waktu satu jam setelah konten tersebut diposting.

Facebook juga mencatat bahwa ada kasus di mana konten tersebut dihapus “sebelum ditayangkan di situs”, berkat sistem seperti pencocokan foto dan video serta pembelajaran mesin berbasis teks.

Jangan bekerja sendirian

Facebook menyadari bahwa mereka tidak dapat memerangi konten teroris sendirian dan telah bekerja sama dengan para ahli dari seluruh dunia.

Selama musim panas, Facebook bermitra dengan Microsoft, Twitter, dan YouTube untuk membentuk Forum Internet Global untuk Melawan Terorisme (GIFCT) dalam upaya memerangi konten teroris di platform masing-masing.

Perusahaan juga mengatakan telah memperluas kemitraannya dengan beberapa organisasi kontra-terorisme dan intelijen dunia maya di seluruh dunia, termasuk Flashpoint, Middle East Media Research Institute (MEMRI), SITE Intelligence Group dan Universitas Alabama di Lab Penelitian Forensik Komputer Birmingham. dalam upaya untuk “menandai halaman, profil, dan grup di Facebook yang mungkin terkait dengan kelompok teroris sehingga kami dapat meninjaunya.”

MEDIA SOSIAL MENGIKUTI MUNCULNYA ‘BERITA PALSU’

Masih ada pekerjaan yang harus diselesaikan

Namun, perusahaan masih memiliki banyak pekerjaan yang harus dilakukan dan mencatat bahwa penerapan kecerdasan buatan dalam kasus ini “tidak semudah membalikkan telapak tangan.” Bickert dan Fishman menulis bahwa bergantung pada teknik yang digunakan, database harus dibangun dengan hati-hati atau manusia harus mengkodekan data untuk melatih mesin.

Pusat Penegakan Kekayaan Intelektual Global (GIPEC), sebuah perusahaan perangkat lunak yang memantau aktivitas ilegal dan akun media sosial terkait teror, telah menemukan setidaknya satu akun Facebook pro-ISIS yang belum dihapus, dan memberikan tangkapan layar akun tersebut kepada Fox News.

Facebook, pada bagiannya, telah mengakui bahwa mereka dapat dan akan berbuat lebih banyak. “Saat kami memperdalam komitmen kami untuk memerangi terorisme dengan menggunakan AI, memanfaatkan keahlian manusia, dan memperkuat kolaborasi, kami menyadari bahwa kami selalu dapat berbuat lebih banyak, tambah Bickert dan Fishman.

CEO Mark Zuckerberg juga berbicara tentang strategi Facebook dalam menggunakan AI, dan mengatakan pada bulan Februari bahwa dibutuhkan waktu “bertahun-tahun” agar sistem tersebut dapat dikembangkan sepenuhnya.

Ikuti Chris Ciaccia di Twitter @Chris_Ciaccia