Untuk memberikan waktu yang layak – dan sudah seharusnya – bagi para akademisi perempuan yang berfokus pada AI dan pihak lain untuk menjadi pusat perhatian, TechCrunch meluncurkan serangkaian wawancara yang berfokus pada perempuan luar biasa yang telah berkontribusi pada revolusi AI. Kami akan menerbitkan karya-karya sepanjang tahun seiring dengan berlanjutnya ledakan AI, menyoroti pekerjaan-pekerjaan penting yang sering kali tidak diketahui. Baca profil lainnya di sini.
Emilia Gómez adalah peneliti utama di Pusat Penelitian Gabungan Komisi Eropa dan koordinator ilmiah AI Watch, inisiatif Komisi Eropa untuk memantau kemajuan, penggunaan, dan dampak AI di Eropa. Timnya berkontribusi dengan pengetahuan ilmiah dan teknis terhadap kebijakan AI EC, termasuk UU AI yang baru-baru ini diusulkan.
Penelitian Gómez didasarkan pada bidang musik komputasi, di mana ia berkontribusi pada pemahaman tentang cara manusia mendeskripsikan musik dan metode pemodelannya secara digital. Dimulai dari bidang musik, Gómez menyelidiki dampak AI terhadap perilaku manusia — khususnya dampaknya terhadap pekerjaan, pengambilan keputusan, serta perkembangan kognitif dan sosio-emosional anak.
Tanya Jawab
Secara singkat, bagaimana Anda memulai di bidang AI? Apa yang membuat Anda tertarik pada bidang ini?
Saya memulai penelitian saya di bidang AI, khususnya pembelajaran mesin, sebagai pengembang algoritme untuk deskripsi otomatis sinyal audio musik dalam hal melodi, nada suara, kemiripan, gaya, atau emosi, yang dimanfaatkan dalam berbagai aplikasi mulai dari platform musik hingga pendidikan. . Saya mulai meneliti cara merancang pendekatan pembelajaran mesin baru yang menangani berbagai tugas komputasi di bidang musik, dan tentang relevansi saluran data termasuk pembuatan dan anotasi kumpulan data. Hal yang saya sukai dari pembelajaran mesin saat itu adalah kemampuan pemodelannya dan peralihan dari desain algoritme berbasis pengetahuan ke berbasis data — misalnya, alih-alih merancang deskriptor berdasarkan pengetahuan kami tentang akustik dan musik, kami kini menggunakan pengetahuan kami untuk merancang kumpulan data, arsitektur, dan prosedur pelatihan dan evaluasi.
Dari pengalaman saya sebagai peneliti pembelajaran mesin, dan melihat algoritme saya “beraksi” di berbagai domain, mulai dari platform musik hingga konser musik simfoni, saya menyadari dampak besar algoritme tersebut terhadap manusia (misalnya pendengar, musisi) dan mengarahkan penelitian saya lebih mengarah pada evaluasi AI dibandingkan pengembangan, khususnya dalam mempelajari dampak AI terhadap perilaku manusia dan cara mengevaluasi sistem dalam aspek-aspek seperti keadilan, pengawasan manusia, atau transparansi. Ini adalah topik penelitian tim saya saat ini di Joint Research Centre.
Pekerjaan apa yang paling Anda banggakan (di bidang AI)?
Dari sisi akademis dan teknis, saya bangga atas kontribusi saya pada arsitektur pembelajaran mesin khusus musik di Music Technology Group di Barcelona, yang telah memajukan kecanggihan di bidangnya, seperti yang tercermin dalam catatan kutipan saya. Misalnya, selama Ph.D. Saya mengusulkan algoritma berbasis data untuk mengekstrak nada suara dari sinyal audio (misalnya jika sebuah karya musik dalam C mayor atau D minor) yang telah menjadi referensi utama di lapangan, dan kemudian saya merancang metode pembelajaran mesin untuk deskripsi otomatis sinyal musik dalam hal melodi (misalnya digunakan untuk mencari lagu dengan bersenandung), tempo atau untuk pemodelan emosi dalam musik. Sebagian besar algoritme ini saat ini terintegrasi ke dalam Essentia, perpustakaan sumber terbuka untuk analisis, deskripsi, dan sintesis audio dan musik, serta telah dieksploitasi di banyak sistem pemberi rekomendasi.
Saya sangat bangga dengan Banda Sonora Vital (LifeSoundTrack), sebuah proyek yang diberikan oleh Penghargaan Palang Merah untuk Teknologi Kemanusiaan, di mana kami mengembangkan rekomendasi musik yang dipersonalisasi dan disesuaikan untuk pasien senior Alzheimer. Ada juga PHENICX, proyek besar yang didanai Uni Eropa (UE) yang saya koordinasikan mengenai penggunaan musik; dan AI untuk menciptakan pengalaman musik simfoni yang diperkaya.
Saya menyukai komunitas komputasi musik dan saya senang menjadi presiden perempuan pertama dari Masyarakat Internasional untuk Pengambilan Informasi Musik, di mana saya telah berkontribusi sepanjang karier saya, dengan minat khusus dalam meningkatkan keberagaman di bidangnya.
Saat ini, dalam peran saya di Komisi, yang saya ikuti pada tahun 2018 sebagai ilmuwan utama, saya memberikan dukungan ilmiah dan teknis terhadap kebijakan AI yang dikembangkan di UE, khususnya UU AI. Dari karya terbaru ini, yang kurang terlihat dalam hal publikasi, saya bangga atas kontribusi teknis saya yang sederhana terhadap AI Act — saya katakan “rendah hati” karena Anda mungkin mengira ada banyak orang yang terlibat di sini! Sebagai contoh, ada banyak pekerjaan yang saya sumbangkan mengenai harmonisasi atau penerjemahan antara istilah hukum dan istilah teknis (misalnya mengusulkan definisi berdasarkan literatur yang ada) dan dalam menilai penerapan praktis persyaratan hukum, seperti transparansi atau dokumentasi teknis untuk persyaratan hukum tinggi. sistem AI risiko, model AI tujuan umum, dan AI generatif.
Saya juga cukup bangga dengan kerja tim saya dalam mendukung arahan tanggung jawab AI UE, di mana kami mempelajari, antara lain, karakteristik tertentu yang membuat sistem AI secara inheren berisiko, seperti kurangnya kausalitas, opacity, ketidakpastian atau sifat self-and-continuous-nya. kemampuan belajar, dan menilai kesulitan terkait yang muncul saat membuktikan sebab akibat.
Bagaimana Anda mengatasi tantangan industri teknologi yang didominasi laki-laki, dan, lebih jauh lagi, industri AI yang didominasi laki-laki?
Bukan hanya teknologi — saya juga menjalankan bidang penelitian dan kebijakan AI yang didominasi laki-laki! Saya tidak memiliki teknik atau strategi, karena hanya itulah lingkungan yang saya tahu. Saya tidak tahu bagaimana rasanya bekerja di lingkungan kerja yang beragam atau didominasi perempuan. “Menyenangkan bukan?,” begitulah bunyi lagu Beach Boy. Sejujurnya saya mencoba untuk menghindari frustrasi dan bersenang-senang dalam skenario yang menantang ini, bekerja di dunia yang didominasi oleh pria yang sangat asertif dan menikmati berkolaborasi dengan wanita-wanita hebat di bidangnya.
Nasihat apa yang akan Anda berikan kepada perempuan yang ingin memasuki bidang AI?
Saya akan memberi tahu mereka dua hal:
Anda sangat dibutuhkan — silakan masuk ke bidang kami, karena ada kebutuhan mendesak akan keragaman visi, pendekatan, dan ide. Misalnya, menurut proyek divinAI – proyek yang saya dirikan bersama untuk memantau keragaman di bidang AI – hanya 23% nama penulis di Konferensi Internasional tentang Pembelajaran Mesin dan 29% di Konferensi Gabungan Internasional tentang AI pada tahun 2023 adalah perempuan , terlepas dari identitas gender mereka.
Anda tidak sendirian — ada banyak perempuan, kolega non-biner, dan sekutu laki-laki di bidang ini, meskipun kita mungkin tidak begitu terlihat atau dikenali. Carilah mereka dan dapatkan bimbingan serta dukungan mereka! Dalam konteks ini, banyak kelompok afinitas yang hadir di bidang penelitian. Misalnya, ketika saya menjadi presiden International Society for Music Information Retrieval, saya sangat aktif dalam inisiatif Women in Music Information Retrieval, yang merupakan pionir dalam upaya keberagaman dalam komputasi musik dengan program pendampingan yang sangat sukses.
Apa saja masalah paling mendesak yang dihadapi AI seiring dengan perkembangannya?
Menurut pendapat saya, para peneliti harus mencurahkan upaya sebanyak mungkin untuk pengembangan AI dan juga evaluasi AI, karena saat ini terdapat kekurangan keseimbangan. Komunitas riset begitu sibuk mengembangkan teknologi terkini dalam hal kemampuan dan kinerja AI dan begitu bersemangat melihat algoritme mereka digunakan di dunia nyata sehingga mereka lupa melakukan evaluasi, penilaian dampak, dan audit eksternal yang tepat. Semakin cerdas sistem AI, seharusnya semakin cerdas pula evaluasinya. Bidang evaluasi AI masih kurang dipelajari, dan hal ini menjadi penyebab banyak insiden yang memberikan reputasi buruk pada AI, misalnya bias gender atau ras yang terdapat dalam kumpulan data atau algoritme.
Masalah apa saja yang harus diwaspadai oleh pengguna AI?
Masyarakat yang menggunakan alat bertenaga AI, seperti chatbots, harus tahu bahwa AI bukanlah keajaiban. Kecerdasan buatan merupakan produk kecerdasan manusia. Mereka harus belajar tentang prinsip kerja dan batasan algoritma AI agar dapat menantang algoritma tersebut dan menggunakannya dengan cara yang bertanggung jawab. Penting juga bagi masyarakat untuk mendapatkan informasi tentang kualitas produk AI, bagaimana produk tersebut dinilai atau disertifikasi, sehingga mereka mengetahui produk mana yang dapat mereka percayai.
Apa cara terbaik untuk membangun AI secara bertanggung jawab?
Dalam pandangan saya, cara terbaik untuk mengembangkan produk AI (dengan dampak sosial dan lingkungan yang baik dan dengan cara yang bertanggung jawab) adalah dengan menggunakan sumber daya yang diperlukan untuk evaluasi, penilaian dampak sosial dan mitigasi risiko – misalnya, terhadap hak-hak dasar – sebelum menempatkan sistem AI di pasar. Hal ini demi kepentingan dunia usaha dan kepercayaan terhadap produk, namun juga masyarakat.
AI yang bertanggung jawab atau AI yang dapat dipercaya adalah cara untuk membangun algoritme yang aspek-aspek seperti transparansi, keadilan, pengawasan manusia, atau kesejahteraan sosial dan lingkungan perlu ditangani sejak awal proses desain AI. Dalam hal ini, UU AI tidak hanya menetapkan standar dalam mengatur kecerdasan buatan di seluruh dunia, namun juga mencerminkan penekanan Eropa pada kepercayaan dan transparansi – memungkinkan inovasi sekaligus melindungi hak-hak warga negara. Saya rasa ini akan meningkatkan kepercayaan masyarakat terhadap produk dan teknologi.
