India, yang bergulat dengan misinformasi pemilu, mempertimbangkan label dan koalisi keamanan AI yang dimilikinya

India, lama di gigi ketika datang ke mengkooptasi teknologi untuk membujuk masyarakat, telah menjadi isu global terkait penggunaan dan penyalahgunaan AI dalam wacana politik, dan khususnya dalam proses demokrasi. Perusahaan teknologi, yang pertama kali membuat alat ini, melakukan perjalanan ke negara tersebut untuk mendorong solusi.

Awal tahun ini, Andy Parsons, direktur senior di Adobe yang mengawasi keterlibatannya dalam Inisiatif Keaslian Konten (CAI) lintas industri, terjun ke pusaran air ketika dia melakukan perjalanan ke India untuk mengunjungi media dan organisasi teknologi di negara tersebut untuk mempromosikan alat yang dapat diintegrasikan ke dalam alur kerja konten untuk mengidentifikasi dan menandai konten AI.

“Daripada mendeteksi apa yang palsu atau dimanipulasi, kita sebagai masyarakat, dan ini menjadi perhatian internasional, harus mulai mendeklarasikan keasliannya, artinya mengatakan jika ada sesuatu yang dihasilkan oleh AI yang harus diketahui konsumen,” ujarnya dalam sebuah wawancara.

Parsons menambahkan bahwa beberapa perusahaan India – yang saat ini bukan bagian dari perjanjian keselamatan pemilu AI Munich yang ditandatangani oleh OpenAI, Adobe, Google dan Amazon pada bulan Februari – bermaksud untuk membangun aliansi serupa di negara tersebut.

“Perundang-undangan adalah hal yang sangat rumit. Mengasumsikan bahwa pemerintah akan membuat undang-undang dengan benar dan cukup cepat di yurisdiksi mana pun adalah sesuatu yang sulit untuk diandalkan. Lebih baik pemerintah mengambil pendekatan yang sangat mantap dan tidak terburu-buru,” ujarnya.

Alat pendeteksi terkenal tidak konsisten, namun alat ini merupakan awal dalam memperbaiki beberapa masalah, atau begitulah argumennya.

“Konsepnya sudah dipahami dengan baik,” katanya selama perjalanannya di Delhi. “Yang saya bantu adalah meningkatkan kesadaran bahwa alatnya juga sudah siap. Ini bukan sekedar ide. Ini adalah sesuatu yang sudah diterapkan.”

CAI – yang mempromosikan standar terbuka dan bebas royalti untuk mengidentifikasi apakah konten digital dihasilkan oleh mesin atau manusia – sudah ada sebelum hype seputar AI generatif saat ini: didirikan pada tahun 2019 dan sekarang memiliki 2.500 anggota, termasuk Microsoft, Meta, dan Google , The New York Times, The Wall Street Journal dan BBC.

Sama seperti industri yang sedang berkembang dalam memanfaatkan AI untuk menciptakan media, ada juga industri kecil yang diciptakan untuk mencoba memperbaiki beberapa penerapan yang lebih jahat dari hal tersebut.

Jadi pada bulan Februari 2021, Adobe melangkah lebih jauh dalam membangun salah satu standar tersebut dan ikut mendirikan Koalisi untuk Asal dan Keaslian Konten (C2PA) dengan ARM, BBC, Intel, Microsoft, dan Truepic. Koalisi ini bertujuan untuk mengembangkan standar terbuka, yang memanfaatkan metadata gambar, video, teks, dan media lain untuk menyoroti asal-usulnya dan memberi tahu orang-orang tentang asal usul file, lokasi dan waktu pembuatannya, dan apakah file tersebut diubah sebelum mencapainya. pengguna. CAI bekerja dengan C2PA untuk mempromosikan standar ini dan membuatnya tersedia bagi masyarakat luas.

Kini mereka secara aktif terlibat dengan pemerintah seperti India untuk memperluas penerapan standar tersebut guna menyoroti asal mula konten AI dan berpartisipasi dengan pihak berwenang dalam mengembangkan pedoman untuk kemajuan AI.

Adobe tidak akan rugi apa pun dengan memainkan peran aktif dalam game ini. Perusahaan ini belum — belum — memperoleh atau membuat Model Bahasa Besar sendiri, namun sebagai rumah bagi aplikasi seperti Photoshop dan Lightroom, perusahaan ini adalah pemimpin pasar dalam alat untuk komunitas kreatif, dan tidak hanya membuat produk baru seperti Firefly untuk menghasilkan Konten AI asli, tetapi memasukkan produk lama dengan AI. Jika pasar berkembang seperti yang diyakini sebagian orang, AI akan menjadi hal yang harus dimiliki jika Adobe ingin tetap menjadi yang teratas. Jika regulator (atau akal sehat) mempunyai keinginan mereka sendiri, masa depan Adobe mungkin akan bergantung pada seberapa sukses Adobe dalam memastikan apa yang dijualnya tidak berkontribusi terhadap kekacauan tersebut.

Gambaran yang lebih besar di India memang berantakan.

Google berfokus pada India sebagai tempat uji coba mengenai bagaimana melarang penggunaan alat AI generatif Gemini dalam hal konten pemilu; pesta adalah mempersenjatai AI membuat meme yang mirip dengan lawan; Meta telah menyiapkan deepfake “saluran bantuan” bagi WhatsApp, begitulah popularitas platform perpesanan dalam menyebarkan pesan yang didukung AI; dan pada saat negara-negara semakin khawatir mengenai keamanan AI dan apa yang harus mereka lakukan untuk memastikannya, kita harus melihat dampak apa yang akan terjadi jika pemerintah India pada bulan Maret memutuskan untuk melonggarkan aturan mengenai bagaimana model AI baru dibuat. , diuji dan diterapkan. Hal ini tentu saja dimaksudkan untuk memacu lebih banyak aktivitas AI.

Dengan menggunakan standar terbukanya, C2PA telah mengembangkan label nutrisi digital untuk konten yang disebut Kredensial Konten. Anggota CAI berupaya menerapkan tanda air digital pada konten mereka agar pengguna mengetahui asal usulnya dan apakah konten tersebut dihasilkan oleh AI. Adobe memiliki Kredensial Konten di seluruh alat kreatifnya, termasuk Photoshop dan Lightroom. Itu juga secara otomatis melekat pada konten AI yang dihasilkan oleh model AI Adobe Firefly. Tahun lalu, Leica meluncurkan kameranya dengan Kredensial Konten bawaan, dan Microsoft menambahkan Kredensial Konten ke semua gambar yang dihasilkan AI yang dibuat menggunakan Bing Image Creator.

Kredit Gambar: Kredensial Konten

Parsons mengatakan kepada TechCrunch bahwa CAI sedang berbicara dengan pemerintah global mengenai dua bidang: yang pertama adalah membantu mempromosikan standar tersebut sebagai standar internasional, dan yang lainnya adalah untuk mengadopsinya.

“Pada tahun pemilu, hal ini sangat penting bagi para kandidat, partai, kantor petahana, dan pemerintahan yang selalu merilis materi ke media dan publik untuk memastikan bahwa ada sesuatu yang dirilis dari PM dapat diketahui. [Narendra] Kantor Modi, sebenarnya dari kantor PM Modi. Banyak kejadian yang tidak terjadi. Jadi, memahami bahwa sesuatu itu benar-benar autentik bagi konsumen, pemeriksa fakta, platform, dan perantara sangatlah penting,” ujarnya.

Populasi India yang besar, bahasa yang luas, dan keberagaman demografi menjadikan India sulit untuk mengekang misinformasi, tambahnya, dan dukungan terhadap label sederhana untuk mengatasi misinformasi.

“Itu sedikit 'CR'… itu adalah dua huruf barat seperti kebanyakan alat Adobe, tapi ini menunjukkan ada lebih banyak konteks yang bisa ditampilkan,” katanya.

Kontroversi terus melingkupi tujuan sebenarnya di balik perusahaan-perusahaan teknologi yang mendukung segala jenis tindakan keamanan AI: apakah ini benar-benar tentang kepedulian eksistensial, atau sekadar duduk di meja untuk memberikan kesan kepedulian eksistensial, sambil memastikan bahwa kepentingan mereka tetap ada. kepentingan terlindungi dalam proses pembuatan peraturan?

“Ini secara umum tidak kontroversial dengan perusahaan-perusahaan yang terlibat, dan semua perusahaan yang menandatangani perjanjian Munich baru-baru ini, termasuk Adobe, yang bersatu, menghilangkan tekanan kompetitif karena ide-ide ini adalah sesuatu yang kita semua perlu lakukan,” katanya dalam pembelaan. pekerjaan.