Taipei, Taiwan – “Impian Amerika. Mereka bilang itu untuk semua, tapi benarkah?”
Maka dimulailah video animasi berdurasi 65 detik yang dihasilkan oleh AI yang menyentuh isu-isu hangat di Amerika Serikat mulai dari kecanduan narkoba dan tingkat pemenjaraan hingga meningkatnya kesenjangan kekayaan.
Saat awan badai berkumpul di lanskap perkotaan yang menyerupai Kota New York, kata-kata “IMPIAN AMERIKA” menggantung di langit yang semakin gelap saat video berakhir.
Pesannya jelas: Meskipun Amerika menjanjikan kehidupan yang lebih baik bagi semua orang, Amerika Serikat sedang mengalami kemunduran yang parah.
Video tersebut, berjudul American Dream atau American Mirage, adalah salah satu dari sejumlah segmen yang ditayangkan oleh lembaga penyiaran pemerintah Tiongkok, CGTN – dan dibagikan secara luas di media sosial – sebagai bagian dari serial animasi A Fractured America.
Video lain dalam serial ini berisi judul serupa yang menampilkan gambaran masyarakat dystopian, seperti pekerja Amerika yang bergejolak: Akibat dari ketidakseimbangan politik dan ekonomi, dan Mengungkap ancaman nyata: kompleks industri militer Amerika.
Selain pesan anti-Amerika yang keras, semua video tersebut memiliki estetika hiper-gaya yang dihasilkan AI dan audio luar biasa yang dihasilkan komputer.
CGTN dan Kedutaan Besar Tiongkok di Washington, DC tidak menanggapi permintaan komentar.
Pekerja Amerika di Gejolak: Akibat ketidakseimbangan politik dan ekonomi #Suara Pertama pic.twitter.com/JMYTyN8P2O
— CGTN (@CGTNResmi) 17 Maret 2024
Serial Fractured America hanyalah salah satu contoh bagaimana kecerdasan buatan (AI), dengan kemampuannya menghasilkan multimedia berkualitas tinggi dengan sedikit usaha dalam hitungan detik, mulai membentuk upaya propaganda Beijing untuk melemahkan posisi Amerika Serikat di dunia.
Henry Ajder, pakar AI generatif yang berbasis di Inggris, mengatakan meskipun seri CGTN tidak berusaha untuk berpura-pura sebagai video asli, ini adalah contoh nyata bagaimana AI telah mempermudah dan menurunkan biaya pembuatan konten.
“Alasan mereka melakukannya dengan cara ini adalah, Anda bisa menyewa seorang animator, dan artis sulih suara untuk melakukan ini, tapi mungkin akan lebih memakan waktu. Mungkin biayanya akan lebih mahal,” kata Ajder kepada Al Jazeera.
“Ini adalah cara yang lebih murah untuk meningkatkan skala pembuatan konten. Ketika Anda dapat menggabungkan berbagai modul ini, Anda dapat menghasilkan gambar, Anda dapat menganimasikan gambar-gambar tersebut, Anda dapat menghasilkan video saja dari awal. Anda dapat menghasilkan text-to-speech yang cukup menarik dan terdengar manusiawi. Jadi, Anda memiliki keseluruhan jalur pembuatan konten, otomatis atau setidaknya dibuat secara sintetis.”
Tiongkok telah lama mengeksploitasi jangkauan luas dan sifat internet yang tanpa batas untuk melakukan kampanye pengaruh di luar negeri.
Pasukan troll internet Tiongkok yang sangat besar, yang dikenal sebagai “wumao”, mulai dikenal lebih dari satu dekade yang lalu karena membanjiri situs web dengan poin-poin pembicaraan Partai Komunis Tiongkok.
Sejak munculnya media sosial, upaya propaganda Beijing telah beralih ke platform seperti X dan Facebook serta influencer online.
Ketika protes Black Lives Matter melanda AS pada tahun 2020 setelah pembunuhan George Floyd, akun media sosial yang dikelola pemerintah Tiongkok menyatakan dukungan mereka, bahkan ketika Beijing membatasi kritik atas catatan diskriminasi mereka terhadap etnis minoritas seperti Muslim Uyhgur di dalam negeri.
“Saya tidak bisa bernapas.” pic.twitter.com/UXHgXMT0lk
– Hua Chunying Hua Chunying (@Juru BicaraCHN) 30 Mei 2020
Dalam sebuah laporan tahun lalu, Pusat Analisis Ancaman Microsoft mengatakan AI telah mempermudah pembuatan konten viral dan, dalam beberapa kasus, lebih sulit untuk mengidentifikasi kapan materi tersebut diproduksi oleh aktor negara.
Aktor-aktor yang didukung negara Tiongkok telah menyebarkan konten yang dihasilkan AI setidaknya sejak Maret 2023, kata Microsoft, dan “konten visual yang relatif berkualitas tinggi telah menarik tingkat keterlibatan yang lebih tinggi dari pengguna media sosial yang asli”.
“Pada tahun lalu, Tiongkok telah mengasah kemampuan baru untuk secara otomatis menghasilkan gambar yang dapat digunakan untuk mempengaruhi operasi yang dimaksudkan untuk meniru pemilih AS di seluruh spektrum politik dan menciptakan kontroversi berdasarkan ras, ekonomi, dan ideologi,” kata laporan itu.
“Kemampuan baru ini didukung oleh kecerdasan buatan yang berupaya membuat konten berkualitas tinggi yang dapat menjadi viral di jejaring sosial di AS dan negara demokrasi lainnya.”
Microsoft juga mengidentifikasi lebih dari 230 pegawai media pemerintah yang menyamar sebagai influencer media sosial, dengan kapasitas menjangkau 103 juta orang dalam setidaknya 40 bahasa.
Pokok pembicaraan mereka mengikuti naskah yang mirip dengan serial video CGTN: Tiongkok sedang bangkit dan memenangkan persaingan untuk supremasi ekonomi dan teknologi, sementara AS sedang menuju keruntuhan dan kehilangan teman dan sekutu.
Ketika model Al seperti Sora dari OpenAI menghasilkan video, gambar, dan audio yang semakin hiperrealistis, konten yang dihasilkan AI akan menjadi lebih sulit untuk diidentifikasi dan memicu penyebaran deepfake.
Astroturfing, praktik yang menciptakan kesan konsensus sosial yang luas mengenai isu-isu tertentu, dapat dijadikan sebagai “perbaikan revolusioner”, menurut sebuah laporan yang dirilis tahun lalu oleh RAND, sebuah wadah pemikir yang sebagian didanai oleh pemerintah AS.
Serial video CGTN, meski terkadang menggunakan tata bahasa yang canggung, mencerminkan banyak keluhan yang disampaikan oleh warga AS di platform seperti X, Facebook, TikTok, Instagram, dan Reddit – situs web yang diambil oleh model AI untuk data pelatihan.
Microsoft mengatakan dalam laporannya bahwa meskipun kemunculan AI tidak membuat prospek campur tangan Beijing dalam pemilihan presiden AS tahun 2024 menjadi lebih besar atau lebih kecil, “hal ini sangat mungkin membuat potensi campur tangan pemilu menjadi lebih efektif jika Beijing memutuskan untuk terlibat” .
AS bukan satu-satunya negara yang mengkhawatirkan prospek konten buatan AI dan astroturfing saat negara ini memasuki tahun pemilu yang penuh gejolak.
Pada akhir tahun 2024, lebih dari 60 negara akan menyelenggarakan pemilu yang berdampak pada 2 miliar pemilih dalam tahun rekor demokrasi.
Diantaranya adalah Taiwan yang demokratis, yang memilih presiden baru, William Lai Ching-te, pada 13 Januari.
Taiwan, seperti Amerika Serikat, sering menjadi sasaran operasi pengaruh Beijing karena status politiknya yang disengketakan.
Beiijijng mengklaim Taiwan dan pulau-pulau terpencilnya sebagai bagian dari wilayahnya, meskipun secara de facto berfungsi sebagai negara merdeka.
Menjelang pemilu bulan Januari, lebih dari 100 video deepfake yang menampilkan pembawa berita palsu yang menyerang Presiden Taiwan yang akan segera habis masa jabatannya, Tsai Ing-wen, dikaitkan dengan Kementerian Keamanan Negara Tiongkok, Taipei Times melaporkan, mengutip sumber keamanan nasional.
Sama seperti serial video CGTN, video tersebut kurang canggih, namun menunjukkan bagaimana AI dapat membantu menyebarkan informasi yang salah dalam skala besar, kata Chihhao Yu, salah satu direktur Pusat Penelitian Lingkungan Informasi Taiwan (IORG).
Yu mengatakan organisasinya telah melacak penyebaran konten yang dihasilkan AI di LINE, Facebook, TikTok, dan YouTube selama pemilu dan menemukan bahwa konten audio yang dihasilkan AI sangat populer.
“[The clips] sering diedarkan melalui media sosial dan dibingkai sebagai bocoran/rekaman rahasia tokoh atau kandidat politik terkait skandal urusan pribadi atau korupsi,” kata Yu kepada Al Jazeera.
Audio deepfake juga lebih sulit dibedakan oleh manusia dari aslinya, dibandingkan dengan gambar hasil rekayasa atau AI, kata Ajder, pakar AI.
Dalam kasus baru-baru ini di Inggris, di mana pemilihan umum diperkirakan akan diadakan pada paruh kedua tahun 2024, pemimpin oposisi Keir Starmer ditampilkan dalam klip audio palsu yang menunjukkan dia melakukan pelecehan verbal terhadap anggota staf.
Representasi keliru yang meyakinkan seperti itu sebelumnya tidak mungkin terjadi tanpa seorang “impresionis yang sempurna”, kata Ajder.
“Aktor-aktor yang bersekutu dengan negara atau berafiliasi dengan negara yang memiliki motif – mereka memiliki potensi untuk mencapai hal-hal tersebut – kini memiliki alat baru untuk mencoba dan mencapai hal tersebut,” kata Ajder.
“Dan beberapa alat tersebut hanya akan membantu mereka meningkatkan hal-hal yang sudah mereka lakukan. Namun dalam beberapa konteks, hal ini mungkin bisa membantu mereka mencapai hal-hal tersebut, dengan menggunakan cara-cara yang benar-benar baru, yang sudah menjadi tantangan bagi pemerintah untuk meresponsnya.”
