Meta AI membatasi respons terkait pemilu di India

Minggu lalu, Meta mulai menguji chatbot AI-nya di India melalui WhatsApp, Instagram, dan Messenger. Namun dengan dimulainya pemilihan umum India hari ini, perusahaan tersebut sudah memblokir pertanyaan spesifik di chatbot-nya.

Meta mengonfirmasi bahwa mereka membatasi kata kunci terkait pemilu tertentu untuk AI dalam tahap pengujian. Dikatakan juga bahwa mereka berupaya meningkatkan sistem respons AI.

“Ini adalah teknologi baru, dan mungkin tidak selalu memberikan respons yang kita inginkan, yaitu sama untuk semua sistem AI generatif. Sejak diluncurkan, kami terus merilis pembaruan dan peningkatan pada model kami, dan kami terus berupaya menjadikannya lebih baik,” kata juru bicara perusahaan kepada TechCrunch.

Langkah ini menjadikan raksasa media sosial tersebut sebagai perusahaan teknologi besar terbaru, yang secara proaktif membatasi cakupan layanan AI generatifnya saat bersiap menghadapi serangkaian pemilu besar.

Salah satu kekhawatiran besar dari para kritikus adalah bahwa genAI dapat memberikan informasi yang menyesatkan atau salah kepada pengguna, sehingga memainkan peran ilegal dan tidak diinginkan dalam proses demokrasi.

Bulan lalu, Google mulai memblokir pertanyaan terkait pemilu dalam pengalaman chatbot Gemini di India dan pasar lain tempat pemilu berlangsung tahun ini.

Pendekatan Meta mengikuti upaya lebih besar yang dilakukan perusahaan diumumkan seputar apa yang diperbolehkan dan tidak diperbolehkan pada platformnya menjelang pemilu. Mereka berjanji untuk memblokir iklan politik pada minggu menjelang pemilu di negara mana pun, dan berupaya untuk mengidentifikasi dan mengungkapkan kapan gambar dalam iklan atau konten lainnya dibuat dengan AI.

Penanganan Meta terhadap kueri genAI tampaknya didasarkan pada daftar blokir. Saat Anda bertanya kepada Meta AI tentang politisi, kandidat, pemegang jabatan tertentu, dan istilah tertentu lainnya, Anda akan diarahkan ke situs web Komisi Pemilihan Umum.

“Pertanyaan ini mungkin berkaitan dengan tokoh politik pada saat pemilu. Silakan merujuk ke tautan yang tertulis di tanggapan.

Kredit Gambar: Tangkapan layar oleh TechCrunch

Khususnya, perusahaan tidak secara ketat memblokir jawaban atas pertanyaan yang berisi nama partai. Namun, jika kueri menyertakan nama kandidat atau istilah lain, Anda mungkin melihat jawaban boilerplate yang dikutip di atas.

Namun sama seperti sistem bertenaga AI lainnya, Meta AI memiliki beberapa ketidakkonsistenan. Misalnya, ketika TechCrunch menanyakan informasi tentang “Aliansi Indi” – aliansi politik beberapa partai yang melawan Partai Bharatiya Janata (BJP) yang berkuasa – mereka menjawab dengan informasi yang berisi nama politisi. Namun, ketika kami bertanya tentang politisi tersebut dalam pertanyaan terpisah, chatbot tidak menjawab dengan informasi apa pun.

Kredit gambar: Tangkapan layar oleh TechCrunch

Minggu ini, perusahaan tersebut meluncurkan chatbot Meta AI baru yang didukung Llama-3 di lebih dari selusin negara, termasuk AS, namun India tidak ada dalam daftar. Meta mengatakan saat ini chatbot tersebut sedang dalam tahap uji coba di Tanah Air.

“Kami terus belajar dari pengujian pengguna kami di India. Seperti yang kami lakukan dengan banyak produk dan fitur AI kami, kami mengujinya secara publik dalam berbagai fase dan dalam kapasitas terbatas,” kata juru bicara perusahaan kepada TechCrunch dalam sebuah pernyataan.

Saat ini, Meta AI tidak memblokir pertanyaan tentang pemilu untuk istilah terkait AS seperti “Ceritakan tentang Joe Biden.” Kami telah bertanya kepada Meta apakah perusahaan berencana membatasi pertanyaan ini hanya pada pemilu AS atau pasar lainnya. Kami akan memperbarui ceritanya jika kami mendengarnya kembali.