Jika Anda memerlukan lebih banyak bukti bahwa GenAI cenderung mengada-ada, chatbot Gemini Google, sebelumnya Bard, berpendapat bahwa Super Bowl 2024 sudah terjadi. Ia bahkan memiliki statistik (fiksi) untuk mendukungnya.

Menurut Reddit benang, Gemini, yang didukung oleh model GenAI Google dengan nama yang sama, menjawab pertanyaan tentang Super Bowl LVIII seolah-olah pertandingan tersebut selesai kemarin — atau beberapa minggu sebelumnya. Seperti banyak bandar taruhan, tampaknya mereka lebih menyukai Chiefs daripada 49ers (maaf, penggemar San Francisco).

Gemini menghiasi dengan cukup kreatif, setidaknya dalam satu kasus memberikan rincian statistik pemain yang menunjukkan quarterback Kansas Chief Patrick Mahomes berlari 286 yard untuk dua touchdown dan sebuah intersepsi versus 253 yard lari dan satu touchdown milik Brock Purdy.

Bukan hanya Gemini. Chatbot Copilot Microsoft juga menegaskan bahwa permainan telah berakhir dan memberikan kutipan yang salah untuk mendukung klaim tersebut. Tapi — mungkin mencerminkan bias San Francisco! — dikatakan bahwa 49ers, bukan Chiefs, yang menang “dengan skor akhir 24-21.”

Kopilot Super Bowl

Kredit Gambar: Kyle Wiggers / TechCrunch

Semuanya agak konyol – dan mungkin sudah terselesaikan sekarang, mengingat reporter ini tidak beruntung meniru tanggapan Gemini di thread Reddit. (Saya akan terkejut jika Microsoft tidak melakukan perbaikan juga.) Namun hal ini juga menggambarkan keterbatasan utama GenAI saat ini — dan bahayanya terlalu mempercayainya.

Model GenAI tidak memiliki kecerdasan yang nyata. Dengan menggunakan sejumlah besar contoh yang biasanya bersumber dari web publik, model AI mempelajari seberapa besar kemungkinan data (misalnya teks) muncul berdasarkan pola, termasuk konteks data di sekitarnya.

Pendekatan berbasis probabilitas ini bekerja dengan sangat baik dalam skala besar. Namun sejauh ini rentang kata dan probabilitasnya adalah mungkin untuk menghasilkan teks yang masuk akal, itu masih jauh dari pasti. LLM dapat menghasilkan sesuatu yang secara tata bahasa benar tetapi tidak masuk akal, misalnya — seperti klaim tentang Gerbang Emas. Atau mereka dapat mengungkapkan ketidakbenaran, menyebarkan ketidakakuratan dalam data pelatihan mereka.

Itu tidak berbahaya di pihak LLM. Mereka tidak memiliki niat jahat, dan konsep benar dan salah tidak ada artinya bagi mereka. Mereka hanya belajar mengasosiasikan kata atau frasa tertentu dengan konsep tertentu, meskipun pengaitan tersebut tidak akurat.

Oleh karena itu kebohongan Super Bowl Gemini dan Copilot.

Google dan Microsoft, seperti kebanyakan vendor GenAI, mengakui bahwa aplikasi GenAI mereka tidak sempurna dan, pada kenyataannya, rentan terhadap kesalahan. Namun ucapan terima kasih ini datang dalam bentuk tulisan kecil yang menurut saya bisa saja terlewatkan.

Disinformasi Super Bowl jelas bukan contoh paling berbahaya dari keluarnya GenAI. Perbedaan itu mungkin terletak pada mendukung penyiksaan atau menulis dengan meyakinkan tentang teori konspirasi. Namun, ini merupakan pengingat yang berguna untuk memeriksa ulang pernyataan dari bot GenAI. Ada kemungkinan besar itu tidak benar.

Sumber

RELATED ARTICLESMORE FROM AUTHOR