Untuk memberikan waktu yang layak – dan sudah seharusnya – bagi para akademisi perempuan yang berfokus pada AI dan pihak lain untuk menjadi pusat perhatian, TechCrunch meluncurkan serangkaian wawancara yang berfokus pada perempuan luar biasa yang telah berkontribusi pada revolusi AI. Kami akan menerbitkan beberapa artikel sepanjang tahun seiring dengan berlanjutnya ledakan AI, menyoroti pekerjaan-pekerjaan penting yang sering kali tidak diketahui. Baca profil lainnya di sini.
Irene Solaiman memulai karirnya di bidang AI sebagai peneliti dan manajer kebijakan publik di OpenAI, di mana ia memimpin pendekatan baru dalam peluncuran GPT-2, pendahulu ChatGPT. Setelah menjabat sebagai manajer kebijakan AI di Zillow selama hampir satu tahun, ia bergabung dengan Hugging Face sebagai kepala kebijakan global. Tanggung jawabnya di sana berkisar dari membangun dan memimpin kebijakan AI perusahaan secara global hingga melakukan penelitian sosio-teknis.
Solaiman juga menjadi penasihat Institute of Electrical and Electronics Engineers (IEEE), asosiasi profesional untuk teknik elektronik, mengenai masalah AI, dan merupakan pakar AI yang diakui di Organisasi antar pemerintah untuk Kerja Sama dan Pembangunan Ekonomi (OECD).
Irene Solaiman, kepala kebijakan global di Hugging Face
Singkatnya, bagaimana Anda memulai AI? Apa yang membuat Anda tertarik pada bidang ini?
Jalur karier yang sepenuhnya nonlinier adalah hal yang lumrah dalam AI. Ketertarikan saya yang mulai tumbuh dimulai dengan cara yang sama seperti banyak remaja dengan keterampilan sosial yang canggung menemukan minat mereka: melalui media fiksi ilmiah. Saya awalnya mempelajari kebijakan hak asasi manusia dan kemudian mengambil kursus ilmu komputer, karena saya memandang AI sebagai sarana untuk memperjuangkan hak asasi manusia dan membangun masa depan yang lebih baik. Mampu melakukan penelitian teknis dan memimpin kebijakan di bidang yang memiliki begitu banyak pertanyaan yang belum terjawab dan jalur yang belum dilalui membuat pekerjaan saya tetap menarik.
Pekerjaan apa yang paling Anda banggakan (di bidang AI)?
Saya sangat bangga ketika keahlian saya diterima oleh orang-orang di bidang AI, terutama tulisan saya tentang pertimbangan rilis dalam lanskap kompleks rilis dan keterbukaan sistem AI. Melihat makalah saya di sebuah Penerapan teknis bingkai Gradien Rilis AI diskusi yang cepat di kalangan ilmuwan dan digunakan dalam laporan pemerintah merupakan hal yang menguatkan – dan ini merupakan pertanda baik bahwa saya sedang bekerja ke arah yang benar! Secara pribadi, beberapa pekerjaan yang paling membuat saya termotivasi adalah penyelarasan nilai budaya, yang didedikasikan untuk memastikan bahwa sistem bekerja paling baik untuk budaya di mana sistem tersebut diterapkan. Dengan rekan penulis saya yang luar biasa dan sekarang sahabat saya, Christy Dennison, mengerjakan a Proses Menyesuaikan Model Bahasa dengan Masyarakat adalah proyek sepenuh hati (dan banyak waktu debugging) yang telah membentuk pekerjaan keselamatan dan penyelarasan saat ini.
Bagaimana Anda mengatasi tantangan industri teknologi yang didominasi laki-laki, dan, lebih jauh lagi, industri AI yang didominasi laki-laki?
Saya telah menemukan, dan masih terus menemukan, orang-orang saya – mulai dari bekerja dengan pimpinan perusahaan yang luar biasa yang sangat peduli dengan masalah yang sama yang saya prioritaskan hingga rekan penulis penelitian hebat yang dengannya saya dapat memulai setiap sesi kerja dengan sesi terapi mini. Kelompok afinitas sangat membantu dalam membangun komunitas dan berbagi tips. Interseksionalitas penting untuk disoroti di sini; komunitas Muslim dan peneliti BIPOC saya terus memberikan inspirasi.
Nasihat apa yang akan Anda berikan kepada perempuan yang ingin memasuki bidang AI?
Miliki kelompok pendukung yang kesuksesannya adalah kesuksesan Anda. Dalam istilah masa muda, saya percaya ini adalah “gadis perempuan”. Wanita dan sekutu yang sama dengan saya memasuki bidang ini adalah teman kencan kopi favorit saya dan panggilan telepon panik larut malam menjelang tenggat waktu. Salah satu nasihat karier terbaik yang pernah saya baca berasal dari Arvind Narayan di platform yang sebelumnya dikenal sebagai Twitter yang menetapkan “Prinsip Liam Neeson” untuk tidak menjadi yang terpintar di antara semuanya, namun memiliki serangkaian keterampilan tertentu.
Apa saja masalah paling mendesak yang dihadapi AI seiring dengan perkembangannya?
Permasalahan yang paling mendesak pun terus berkembang, sehingga jawaban metanya adalah: Koordinasi internasional untuk sistem yang lebih aman bagi semua orang. Masyarakat yang menggunakan dan terkena dampak sistem, bahkan di negara yang sama, memiliki preferensi dan gagasan yang berbeda-beda mengenai apa yang paling aman bagi diri mereka sendiri. Dan permasalahan yang muncul tidak hanya bergantung pada bagaimana AI berkembang, namun juga pada lingkungan di mana AI tersebut diterapkan; Prioritas keselamatan dan definisi kemampuan kami berbeda-beda di setiap wilayah, seperti ancaman serangan siber yang lebih tinggi terhadap infrastruktur penting di negara yang lebih digital.
Masalah apa saja yang harus diwaspadai oleh pengguna AI?
Solusi teknis jarang sekali, atau bahkan pernah, yang mampu mengatasi risiko dan dampak buruk secara holistik. Meskipun ada beberapa langkah yang dapat dilakukan pengguna untuk meningkatkan literasi AI mereka, penting untuk berinvestasi dalam berbagai upaya perlindungan terhadap risiko seiring dengan perkembangannya. Misalnya saja, saya bersemangat untuk melakukan lebih banyak penelitian mengenai watermarking sebagai alat teknis, dan kita juga memerlukan panduan terkoordinasi dari pembuat kebijakan mengenai distribusi konten yang dihasilkan, terutama pada platform media sosial.
Apa cara terbaik untuk membangun AI secara bertanggung jawab?
Dengan masyarakat yang terkena dampak dan terus-menerus mengevaluasi kembali metode kami dalam menilai dan menerapkan teknik keselamatan. Baik penerapan yang bermanfaat maupun potensi kerugian terus berkembang dan memerlukan umpan balik yang berulang. Cara-cara yang kita gunakan untuk meningkatkan keamanan AI harus dikaji secara kolektif sebagai sebuah bidang. Evaluasi paling populer untuk model pada tahun 2024 jauh lebih kuat daripada evaluasi yang saya jalankan pada tahun 2019. Saat ini, saya jauh lebih optimis tentang evaluasi teknis daripada tentang tim merah. Saya berpendapat bahwa evaluasi manusia sangat bermanfaat, namun seiring dengan semakin banyaknya bukti yang muncul mengenai beban mental dan biaya yang berbeda-beda dari umpan balik manusia, saya semakin optimis dalam melakukan standarisasi evaluasi.
Bagaimana cara investor mendorong AI yang bertanggung jawab dengan lebih baik?
Mereka sudah melakukannya! Saya senang melihat banyak investor dan perusahaan modal ventura secara aktif terlibat dalam pembicaraan mengenai keselamatan dan kebijakan, termasuk melalui surat terbuka dan kesaksian Kongres. Saya sangat ingin mendengar lebih banyak pendapat dari pakar investor mengenai hal-hal yang merangsang usaha kecil di berbagai sektor, terutama karena kita melihat lebih banyak penggunaan AI di bidang-bidang di luar industri teknologi inti.
