Gambar telanjang Taylor Swift yang bersifat pornografi yang dihasilkan menggunakan AI telah beredar di media sosial, memicu kemarahan besar-besaran di kalangan penggemarnya dan seterusnya.
Gambar-gambar palsu – deepfakes – menggambarkan Swift dalam beberapa posisi seksual sementara sebagian mengenakan pakaian Kansas City Chiefs di antara gerombolan sesama penggemar Chiefs (mengacu pada kisah cintanya dengan Chiefs, Travis Kelce).
Berdasarkan Titik Harian, gambar tersebut dilihat setidaknya 22 juta kali sebelum X menindak postingan tersebut. Penggemar Swift berkumpul untuk melaporkan gambar-gambar tersebut dan juga membanjiri situs media sosial dengan postingan positif tentang penyanyi tersebut yang berisi kata kunci seperti “Taylor Swift AI” untuk mencoba menghilangkan kepalsuan yang menyeramkan, menyebabkan topik tersebut menjadi tren pada Kamis pagi. Gambar-gambar tersebut juga dilaporkan ditemukan di Facebook, Instagram dan Reddit, yang juga berupaya menekan penyebarannya.
Ada satu akun yang disebut-sebut sebagai penyebab gambar tersebut menjadi viral, meskipun tidak jelas apakah pengguna juga yang membuat gambar tersebut.
“Saya telah berulang kali memperingatkan bahwa AI dapat digunakan untuk menghasilkan gambar intim tanpa persetujuan,” menulis Senator Demokrat dari Virginia Mark Warner mengenai X. “Ini adalah situasi yang menyedihkan, dan saya akan terus mendorong perusahaan-perusahaan AI untuk menghentikan kemampuan mengerikan ini dan pada platform-platform untuk menghentikan peredarannya.
Gambar-gambar tersebut beredar seperti dugaan penguntit Swift ditangkap tiga kali dalam tiga hari di sekitar rumah penyanyi di New York City.
Beberapa reaksi di kalangan penggemar Swift:
“Gambar taylor swift ai sungguh gila. sebenarnya menakutkan bahwa mereka ada. tolong laporkan + jangan terlalu memperhatikan tweet itu. beberapa dari orang-orang ini benar-benar perlu dikurung di dalam sangkar dan dikirim ke mars atau sejenisnya” menulis satu pengguna.
“Lindungi dia, jangan menyalahgunakan teknologi. Taylor Swift AI sangat menjijikkan. Tolong LINDUNGI TAYLOR SWIFT,” menulis lain:
“Saya berharap ada tempat di neraka yang khusus diperuntukkan bagi orang-orang yang menganggap membuat foto eksplisit perempuan adalah hal yang baik dan dapat diterima. Saya harap neraka itu menakutkan dan menyiksa,” menulis lain.
“Jumlah argumen buruk yang pernah saya lihat yang mendukung hal-hal seperti foto Taylor Swift Ai sungguh membingungkan. “Kamu hanya peduli karena itu Taylor!” Tidak, sebenarnya itu buruk jika terjadi pada siapa pun. Itu buruk ketika mfs melakukannya pada Tom Holland juga. Aku tidak melupakan omong kosong itu. Tapi teruslah membelokkan” menulis lain:
“Penggemar taylor swift benar-benar luar biasa. Porno AI-nya menjadi viral dan mereka memobilisasi lebih dari 200 ribu postingan untuk melindungi Taylor, menyerukan tindakan, dan membuat akun yang mendistribusikan pornografi tersebut ditangguhkan. mereka benar-benar mencapai hal-hal yang tidak dapat dilakukan oleh sistem hukum kita,” menulis lain:
Sejauh ini, bos Twitter/X Elon Musk bungkam mengenai masalah ini, dan Swift belum mengeluarkan komentar.
Pada bulan Oktober, Presiden Joe Biden mengeluarkan perintah eksekutif pada bulan Oktober untuk mencoba dan mencegah “AI generatif memproduksi materi pelecehan seksual terhadap anak-anak atau memproduksi gambar intim non-konsensual dari individu sungguhan.” Pornografi deepfake nonkonsensual juga ilegal di beberapa negara bagian. Selain gambar-gambar seksual, deepfake juga semakin banyak digunakan oleh bisnis-bisnis duplikat untuk menggambarkan selebriti yang mendukung produk.
Masalah deepfake menjadi perhatian khusus menjelang tahun pemilihan presiden yang kontroversial. Baru-baru ini sebuah robocall yang memalsukan suara Biden dikerahkan untuk mencoba mempengaruhi pemilihan pendahuluan di New Hampshire pada hari Selasa.
