Facebook memiliki banyak masalah saat ini, tetapi yang pasti tidak akan pergi dalam waktu dekat adalah berita palsu. Karena basis pengguna perusahaan telah berkembang untuk mencakup lebih dari seperempat populasi dunia, ia (dengan mudahnya) berjuang untuk mengendalikan apa yang mereka semua posting dan bagikan. Untuk Facebook, konten yang tidak diinginkan dapat berupa apa saja mulai dari ketelanjangan ringan hingga kekerasan serius, tetapi apa yang terbukti paling sensitif dan merusak bagi perusahaan adalah tipuan dan misinformasi – terutama ketika itu memiliki kecenderungan politik.
Jadi apa yang akan dilakukan Facebook tentang hal itu? Pada saat ini, perusahaan tampaknya tidak memiliki strategi yang jelas. Sebaliknya, itu membuang banyak di dinding dan melihat apa yang berhasil. Ini mempekerjakan moderator lebih manusiawi (per Februari tahun ini memiliki sekitar 7.500 ); itu memberi pengguna lebih banyak informasi di situs tentang sumber berita ; dan dalam wawancara baru-baru ini, Mark Zuckerberg menyarankan bahwa perusahaan mungkin mengatur semacam badan independen untuk memutuskan konten apa yang halal . (Yang dapat dilihat sebagai demokratis, pengabaian tanggung jawab, atau pengakuan bahwa Facebook berada di luar batasnya, tergantung pada pandangan Anda.) Namun satu hal yang menurut para ahli Facebook perlu sangat berhati-hati adalah memberikan seluruh pekerjaan kepada AI .
Sejauh ini, perusahaan tampaknya hanya bereksperimen dengan pendekatan ini. Selama dan wawancara dengan The New York Times tentang skandal Cambridge Analytica, Zuckerberg mengungkapkan bahwa untuk pemilihan khusus di Alabama tahun lalu, perusahaan “mengerahkan beberapa alat AI baru untuk mengidentifikasi akun palsu dan berita palsu.” Dia menyebutkan bahwa ini adalah akun Macedonia ( hub yang didirikan di situs palsu) bisnis berita-untuk-laba), dan perusahaan kemudian mengklarifikasi bahwa mereka telah menggunakan pembelajaran mesin untuk menemukan “perilaku yang mencurigakan tanpa menilai konten itu sendiri.”
Ini pintar karena ketika datang ke berita palsu, AI tidak sesuai dengan pekerjaan.
Tantangan membangun filter berita palsu otomatis dengan kecerdasan buatan sangat banyak. Dari sudut pandang teknis, AI gagal pada sejumlah tingkat karena itu tidak bisa mengerti cara manusia menulis seperti manusia. Ini dapat menarik keluar fakta-fakta tertentu dan melakukan analisis sentimen mentah (menebak apakah sepotong konten “bahagia” atau “marah” berdasarkan kata kunci), tetapi tidak dapat memahami seluk-beluk nada, mempertimbangkan konteks budaya, atau menelepon seseorang untuk menguatkan informasi. Dan bahkan jika itu bisa melakukan semua ini, yang akan melumpuhkan kesalahan informasi yang paling jelas dan kebohongan, pada akhirnya akan berjalan melawan kasus-kasus tepi yang membingungkan bahkan manusia. Jika orang-orang di sebelah kiri dan kanan tidak setuju pada apa yang ada dan bukan “berita palsu,” tidak ada cara kita dapat mengajarkan mesin untuk membuat penilaian bagi kita.
Di masa lalu, upaya untuk menangani berita palsu menggunakan AI telah dengan cepat mengalami masalah, seperti dengan Tantangan Berita Palsu – sebuah kompetisi untuk solusi pembelajaran mesin crowdsource yang diadakan tahun lalu. Dean Pomerleau dari Carnegie Mellon University, yang membantu mengatur tantangan itu memberi tahu The Verge bahwa dia dan timnya segera menyadari bahwa AI tidak dapat mengatasi ini sendirian.
“Kami sebenarnya memulai dengan tujuan yang lebih ambisius untuk menciptakan sistem yang dapat menjawab pertanyaan ‘Apakah ini berita palsu, ya atau tidak?’ Kami dengan cepat menyadari pembelajaran mesin tidak sesuai dengan tugas. ”
Pomerleau menekankan bahwa pemahaman adalah masalah utama, dan untuk memahami mengapa bahasa bisa begitu bernuansa, terutama online, kita dapat beralih ke contoh yang ditetapkan oleh pod Tide. Sebagai Cornell profesor James Grimmelmann dijelaskan dalam esai baru tentang berita palsu dan platform moderasi, pelukan internet ironi telah membuatnya sangat sulit untuk menilai ketulusan dan niat. Dan Facebook dan YouTube telah menemukan ini sendiri ketika mereka mencoba untuk menghapus video Tide Pod Challenge pada bulan Januari tahun ini.
Ketika Grimmelmann menjelaskan, ketika memutuskan untuk menghapus video mana, perusahaan-perusahaan itu akan menghadapi dilema. “Sangat mudah untuk menemukan video dari orang-orang yang memegang Tide Pods, dengan penuh simpati mencatat betapa lezatnya mereka terlihat, dan kemudian memberikan pidato bergoyang-goyang tentang tidak memakannya karena mereka berbahaya,” katanya. “Apakah ini pengumuman layanan publik anti-pod-eating yang tulus? Atau apakah mereka berselancar dalam gelombang minat makan pod dengan dangkal mengklaim untuk mencelanya? Keduanya sekaligus? “
Grimmelmann menyebut efek ini “mimetic kayfabe,” meminjam istilah pro-gulat untuk penangguhan ketidakpercayaan oleh penonton dan pegulat. Dia juga mengatakan bahwa kegelapan dalam makna tidak terbatas pada budaya meme, dan telah dianut oleh partisan politik – sering bertanggung jawab untuk menciptakan dan membagikan berita palsu. Pizzagate adalah contoh sempurna dari ini, kata Grimmelmann, karena “secara bersamaan merupakan teori konspirasi nyata, sebuah topeng teori konspirasi yang gembira, dan meme yang memalukan tentang teori konspirasi.”
Jadi jika Facebook telah memilih untuk memblokir setiap artikel pizzagate selama pemilu 2016, mereka kemungkinan akan dipukul dengan keluhan tidak hanya tentang sensor, tetapi juga protes bahwa cerita-cerita seperti itu “hanya lelucon.” Para ekstrimis mengeksploitasi ambiguitas ini sering, seperti yang terbaik ditunjukkan dalam panduan gaya bocor situs web neo-Nazi The Daily Stormer . Pendiri Andrew Anglin menyarankan para calon penulis “yang tidak terindoktrinasi seharusnya tidak dapat mengatakan apakah kami bercanda atau tidak,” sebelum menjelaskannya bukan: “Ini jelas sebuah taktik dan saya sebenarnya ingin mengendarai gas. Tapi itu bukan di sini atau di sana. ”
Mempertimbangkan kompleksitas ini, tidak mengherankan bahwa Palsu Berita Tantangan Pomerleau akhirnya meminta tim untuk menyelesaikan tugas yang lebih sederhana: membuat algoritma yang hanya dapat melihat artikel yang mencakup topik yang sama. Sesuatu yang mereka lakukan ternyata sangat bagus.
Dengan alat ini, manusia dapat menandai sebuah berita sebagai berita palsu (misalnya, mengklaim selebritas tertentu telah mati) dan kemudian algoritme itu akan melumpuhkan setiap liputan yang mengulangi kebohongan itu. “Kami berbicara dengan pemeriksa fakta kehidupan nyata dan menyadari bahwa mereka akan berada dalam lingkaran untuk beberapa waktu,” kata Pomerleau. “Jadi yang terbaik yang bisa kami lakukan di komunitas pembelajaran mesin adalah membantu mereka melakukan pekerjaan mereka.”
Ini tampaknya menjadi pendekatan yang disukai Facebook. Untuk pemilihan Italia tahun ini, misalnya, perusahaan menyewa pemeriksa fakta independen untuk mengibarkan berita palsu dan tipuan. Tautan bermasalah tidak dihapus, tetapi ketika dibagikan oleh pengguna, mereka ditandai dengan label “Disengketakan oleh Pemeriksa Fakta Pihak Ketiga.” Sayangnya, bahkan pendekatan ini memiliki masalah, dengan laporan terbaru dari Columbia Journalism Review yang menyoroti banyak pemeriksa fakta frustrasi dengan Facebook. Para wartawan yang terlibat mengatakan sering tidak jelas mengapa algoritma Facebook mengatakan kepada mereka untuk memeriksa cerita-cerita tertentu, sementara situs-situs terkenal untuk menyebarkan kebohongan dan teori konspirasi (seperti InfoWars ) tidak pernah diperiksa sama sekali.
Namun, pasti ada peran untuk algoritma dalam semua ini. Dan sementara AI tidak dapat melakukan pengangkatan yang berat dalam menyebarkan berita palsu, AI dapat memfilternya dengan cara yang sama dengan spam yang difilter dari kotak masuk Anda. Apa pun dengan ejaan dan tata bahasa yang buruk dapat disingkirkan, misalnya; atau situs yang mengandalkan peniruan gerai yang sah untuk menarik perhatian pembaca. Dan seperti yang ditunjukkan oleh Facebook dengan penargetan akun Makedonia “yang mencoba menyebarkan berita palsu” selama pemilihan khusus di Alabama, dapat relatif mudah untuk menargetkan berita palsu ketika itu berasal dari titik masalah yang diketahui.
Para ahli mengatakan, itu adalah batas kemampuan AI saat ini. “Macam-macam mole ini mungkin bisa membantu menyaring remaja-remaja kaya-getar dari Tbilisi, tetapi tidak mungkin mempengaruhi para pelanggar skala besar yang konsisten seperti InfoWars ,” Mor Naaman, seorang profesor ilmu informasi di Cornell Tech , kata The Verge . Dia menambahkan bahwa bahkan filter yang lebih sederhana ini dapat menciptakan masalah. “Klasifikasi sering didasarkan pada pola bahasa dan sinyal sederhana lainnya, yang mungkin ‘menangkap’ penerbit independen dan lokal yang jujur bersama dengan produsen berita palsu dan informasi yang salah,” kata Naaman.
Dan bahkan di sini, ada dilema potensial bagi Facebook. Meskipun untuk menghindari tuduhan penyensoran, jejaring sosial harus terbuka tentang kriteria algoritme yang digunakan untuk menemukan berita palsu, jika orang yang terlalu terbuka dapat mempermainkan sistem, bekerja di sekitar filternya.
Untuk Amanda Levendowski, seorang pengajar di hukum NYU, ini adalah contoh dari apa yang dia sebut “Lembah Kekeliruan.” Berbicara kepada The Verge tentang moderasi AI Facebook dia menyarankan ini adalah kesalahan umum, “di mana perusahaan mulai berkata, ‘Kami memiliki masalah, kita harus melakukan sesuatu, ini adalah sesuatu, jadi kita harus melakukan ini, ‘tanpa mempertimbangkan dengan hati-hati apakah ini bisa menciptakan masalah baru atau berbeda. ”Levendowski menambahkan bahwa meskipun ada masalah ini, ada banyak alasan perusahaan teknologi akan terus mengejar AI moderasi, mulai dari “meningkatkan pengalaman pengguna untuk mengurangi risiko kewajiban hukum.”
Ini tentu saja godaan untuk Zuckerberg, tetapi bahkan kemudian, tampaknya terlalu keras pada AI untuk memecahkan masalah moderasi akan menjadi tidak bijaksana. Dan bukan sesuatu yang ingin dia jelaskan ke Kongres minggu depan.
