Awalnya, John Pasmore tertarik dengan ChatGPT.
Pendiri serial ini telah berkecimpung di bidang kecerdasan buatan setidaknya sejak tahun 2008. Dia mengenang hari-hari ketika para ahli menyatakan perlu waktu puluhan tahun sebelum dunia melihat sesuatu seperti ChatGPT. Maju cepat – hari itu telah tiba.
Tapi ada batasannya.
ChatGPT, salah satu alat kecerdasan buatan terkuat di dunia, berjuang melawan nuansa budaya. Itu cukup menjengkelkan bagi orang kulit hitam seperti Pasmore. Faktanya, pengawasan ini telah menimbulkan kemarahan banyak orang kulit hitam yang tidak melihat diri mereka terwakili dengan baik dalam algoritma yang disebut-sebut dapat menyelamatkan dunia suatu hari nanti. ChatGPT saat ini menawarkan jawaban yang terlalu umum untuk pertanyaan spesifik yang diperuntukkan bagi komunitas tertentu, karena pelatihannya tampak bias Eurosentris dan Barat. Hal ini tidaklah unik — sebagian besar model AI tidak dibuat dengan mempertimbangkan orang kulit berwarna. Namun banyak pendiri kulit hitam yang bersikeras untuk tidak ketinggalan.
Banyak versi ChatGPT milik orang kulit hitam bermunculan dalam satu tahun terakhir untuk melayani komunitas kulit hitam dan coklat secara khusus, seiring dengan upaya para pendiri kulit hitam, seperti Pasmore, untuk memanfaatkan kelemahan budaya OpenAI.
“Jika Anda bertanya kepada model secara umum siapa saja seniman paling penting dalam budaya kita, Anda akan mendapatkan Leonardo da Vinci dan Michelangelo,” kata Pasmore tentang ChatGPT. “Perjanjian ini tidak akan membahas apa pun tentang India atau Tiongkok, Afrika, atau bahkan orang Amerika keturunan Afrika, karena perjanjian ini memiliki bias yang berfokus pada lintasan sejarah Eropa.”
Jadi Pasmore diluncurkan Latimer.AI, model bahasa untuk memberikan jawaban yang disesuaikan untuk mencerminkan pengalaman orang kulit hitam dan coklat. Erin Reddick memulai ObrolanHitamGPT, chatbot juga berpusat pada komunitas kulit hitam dan coklat. Secara global ada yang berbasis di Kanada Busi, yang pada dasarnya adalah ChatGPT untuk siswa kulit hitam dan coklat. Afrika juga menyaksikan inovasi besar dalam bidang ini, dengan bermunculannya model-model bahasa yang mampu memenuhi lebih dari 2.000 bahasa dan dialek yang digunakan di benua ini yang masih diabaikan oleh model AI Barat.
“Kami adalah penjaga cerita dan pengalaman kami sendiri,” Tamar Huggins, pendiri Spark Plug, mengatakan kepada TechCrunch. “Kita perlu menciptakan sistem dan infrastruktur, yang kita miliki dan kendalikan, untuk memastikan data kita tetap menjadi milik kita.”
AI yang dipersonalisasi ada di sini
Model AI yang digeneralisasi tidak dapat dengan mudah menangkap pengalaman orang Afrika-Amerika karena banyak aspek dari budaya tersebut tidak dilakukan secara online. Algoritme yang ada saat ini memanfaatkan internet untuk mencari sumber informasi, namun banyak tradisi dan dialek dalam budaya Afrika-Amerika yang diturunkan secara lisan atau langsung, sehingga meninggalkan kesenjangan dalam pemahaman model AI tentang komunitas versus perbedaan dalam apa yang sebenarnya terjadi.
Inilah salah satu alasan Pasmore mencoba menggunakan sumber seperti Amsterdam News, salah satu surat kabar Kulit Hitam tertua di AS, sambil membangun Latimer.AI, dengan fokus pada akurasi dibandingkan pelatihan berdasarkan data buatan pengguna yang diambil dari internet. Dengan melakukan ini, dia mulai melihat perbedaan antara modelnya dan ChatGPT.
Dia pernah bertanya kepada ChatGPT tentang Kereta Api Bawah Tanah, jalur yang digunakan para budak kulit hitam Amerika untuk melakukan perjalanan ke negara bagian Utara untuk melarikan diri dari perbudakan. Model ChatGPT akan menyebutkan budak yang melarikan diri, sedangkan Latimer.AI menyesuaikan kata-katanya, merujuk pada “orang yang diperbudak” atau “orang yang mencari kebebasan,” yang lebih sejalan dengan apa yang menjadi lebih selaras secara sosial ketika membahas mantan budak.
“Anda memiliki beberapa perbedaan halus dalam bahasa yang digunakan model karena data pelatihan, dan model itu sendiri hanya memikirkan orang kulit hitam dan coklat,” kata Pasmore.
Sementara itu, ChatBlackGPT milik Erin Reddick masih dalam mode beta dan rencananya akan diluncurkan pada Juneteenth. Produknya bekerja sesuai dengan namanya: chatbot tempat seseorang dapat mengajukan pertanyaan dan menerima tanggapan yang disesuaikan tentang budaya Kulit Hitam. “Inti dari apa yang kami lakukan adalah benar-benar berbasis komunitas,” katanya.
Dia sedang dalam proses membuat alatnya, bertanya kepada pengguna seperti apa yang mereka inginkan dan bagaimana mereka ingin bertindak. Dia juga bekerja sama dengan institusi pendidikan seperti perguruan tinggi dan universitas kulit hitam (HBCU) untuk bekerja dengan siswa untuk mengajar dan meminta mereka membantu melatih algoritmenya. Dia mengatakan dia ingin “memberikan kesempatan belajar yang menyeluruh bagi orang kulit hitam dan coklat agar memiliki ruang yang aman untuk mengeksplorasi AI.”
“Algoritme ini memprioritaskan sumber informasi Hitam sehingga dapat menyampaikan kumpulan pengetahuan yang lebih relevan daripada pengalaman rata-rata Anda,” katanya kepada TechCrunch, menambahkan bahwa, seperti produk Pasmore, secara teknis siapa pun dapat menggunakannya.
Tamar Huggins membuat Spark Plug untuk menawarkan pengalaman yang lebih disesuaikan dengan komunitas kulit hitam dan coklat. Platformnya menerjemahkan materi pendidikan ke dalam Bahasa Inggris Vernakular Afrika Amerika (AAVE), sebuah etnolek yang terkait dengan komunitas kulit hitam Amerika. Dialek tersebut secara tradisional diturunkan secara lisan dan langsung daripada dipelajari dan ditulis seperti bahasa Inggris standar, yang berarti keakuratan model (atau orang) AI yang mempelajarinya. hanya internet akan goyah secara presisi. Menangkap AAVE secara akurat adalah hal yang penting, tidak hanya agar GPT dapat merespons penggunaannya, namun juga agar siswa dapat lebih mudah menulis perintah yang akan membuat AI memberikan hasil yang mereka perlukan.
“Dengan membuat konten yang sesuai dengan siswa kulit hitam, kami memastikan mereka melihat diri mereka dalam pendidikan, yang sangat penting untuk keterlibatan tinggi dan kesuksesan akademis,” kata Huggins. “Ketika diberi kesempatan, Big Tech hampir selalu memprioritaskan keuntungan dibandingkan manusia. Jadi kami menciptakan jalur kami sendiri dalam ruang AI.”
Huggins melatih algoritmenya pada teks seperti Shakespeare, di samping tulisan penulis kulit hitam dari Harlem Renaissance, dan bahkan kata-kata putri remajanya untuk menangkap esensi AAVE. Huggins juga bekerja sama dengan para pendidik, ahli bahasa, dan pakar budaya untuk meninjau dan memvalidasi keluaran Spark Plug.
Pasmore juga berupaya memperluas perusahaannya ke sekolah-sekolah, khususnya HBCU, karena semakin banyak siswa yang menggunakan ChatGPT setiap hari untuk menyelesaikan pekerjaan mereka.
“Ini adalah pendamping AI yang lebih baik untuk banyak pekerjaan yang harus dilakukan oleh anak-anak kulit hitam dan coklat,” katanya.
Menyatukan diaspora
Afrika merasa dirinya diabaikan dalam gerakan AI saat ini. Misalnya, hanya 0,77% dari total jurnal AI di dunia yang berasal dari Afrika Sub-Sahara, dibandingkan dengan Asia Timur dan Amerika Utara masing-masing sebesar 47,1% dan 11,6%, menurut survei tahun 2023. Laporan Indeks Kecerdasan Buatan. Dari segi populasi, dibandingkan dengan Amerika Utara, Afrika mencakup sekitar 17% populasi dunia, dibandingkan dengan hanya 7% populasi Amerika Utara. Ketika tiba waktunya untuk mendapatkan informasi dan pakar tentang AI, kemungkinan penggunaan penelitian dari sub-Sahara cukup rendah, sehingga dapat berdampak pada pengembangan alat AI global.
Meskipun Afrika mengalami banyak perkembangan dalam menciptakan model bahasa yang lebih inklusif dan dapat melayani diaspora kulit hitam dengan lebih baik, saat ini model AI saat ini mulai dari ChatGPT hingga Gemini tidak dapat sepenuhnya mendukung lebih dari 2.000 bahasa yang digunakan di seluruh Afrika.
Yinka Iyinolakan tercipta CDIAL.AI untuk mengatasi hal ini. CDIAL.AI adalah chatbot yang dapat berbicara dan memahami hampir semua bahasa dan dialek Afrika, dengan fokus khusus pada pola bicara, bukan teks.
Iyinolakan menyampaikan kepada TechCrunch sentimen yang sama yang dilakukan oleh banyak orang kulit hitam Amerika – bahwa model AI dasar terutama diambil dari data internet dan dari bahasa yang paling umum digunakan. Seperti budaya keturunan Afrika-Amerika, banyak bahasa dan tradisi Afrika yang hilang dari internet, karena budaya ini secara historis dikomunikasikan secara lisan dan bukan dalam bentuk tertulis. Artinya, model AI tidak memiliki cukup informasi tentang budaya Afrika untuk melatih dirinya sendiri, sehingga menimbulkan kesenjangan pengetahuan.
Untuk CDIAL.AI, Iyinolakan mendatangkan lebih dari 1.200 penutur asli dan ahli bahasa di seluruh Afrika untuk mengumpulkan pengetahuan dan wawasan guna membangun apa yang ia sebut sebagai “model bahasa besar yang mengutamakan suara multi-bahasa pertama di dunia.” Perusahaan berencana untuk memperluas dalam 12 bulan ke depan dengan memasukkan lebih banyak bahasa dan membangun model untuk mendukung teks, suara, dan gambar.
Dia tidak sendirian di sini. Google baru-baru ini memberikan hibah sebesar $1,4 juta kepada Jacaranda Health yang berbasis di Kenya untuk membangun layanan pembelajaran mesinnya sehingga dapat bekerja dalam lebih banyak bahasa Afrika dan Intron Health baru-baru ini mengumpulkan beberapa juta dolar untuk meningkatkan pengenalan ucapan klinisnya untuk lebih dari 200 aksen yang digunakan di seluruh Afrika .
“Silicon Valley ingin percaya bahwa ini adalah segalanya dan akhir dari segalanya bagi kecerdasan buatan,” kata Iyinolakan. “Tetapi untuk 'mendapatkan' kecerdasan buatan, yang merupakan bintang utara bagi semua perusahaan, mereka perlu memasukkan sepertiga dari pengetahuan dunia.”
Membuat kemajuan
Memanfaatkan chatbot AI bukanlah satu-satunya inovasi yang coba diatasi oleh para pendiri kulit hitam.
Steve Jones memulai perusahaan pocstock untuk membuat stok gambar orang kulit berwarna karena, selama beberapa dekade, terdapat kekurangan representasi minoritas dalam stok gambar. Inilah salah satu alasan mengapa model saat ini kebanyakan mengeluarkan gambar orang kulit putih ketika pengguna meminta mereka untuk membuat gambar apa pun mulai dari dokter hingga penyanyi pop.
“Semua platform dan alat harus dilatih dari data yang lengkap, inklusif secara ras, dan akurat secara budaya, atau kami akan melakukannya [perpetuate] masalah bias yang dihadapi masyarakat kita saat ini,” kata Jones kepada TechCrunch. Untuk mengatasi hal ini, pocstock telah menghabiskan lima tahun terakhir mengumpulkan data keragaman dan membuat sistem penandaan visualnya sendiri yang berkontribusi pada database yang digunakan bisnis untuk membantu melatih model AI mereka sehingga dapat menghasilkan pencitraan yang lebih inklusif.
Namun, beberapa perbaikan sedang terjadi. Jones mengatakan dia melihat perusahaan pencitraan saham besar yang menggunakan perusahaan AI mengambil langkah lebih besar dalam meningkatkan keragaman konten mereka. Pasmore juga melihat masa depan yang lebih cerah, dengan mengatakan bahwa AI yang dipersonalisasi adalah masa depan dan semakin banyak model AI yang berinteraksi dengan penggunanya, model tersebut akan semakin memahami keinginan dan kebutuhan seseorang, “yang menurut saya, menghilangkan banyak bias. .”
Bahkan mungkin ada ruang untuk model AI yang lebih spesifik budaya di masa depan, terutama karena semakin banyak model alternatif milik orang kulit hitam yang terus bermunculan. Bagaimanapun, dunia ini luas dan lebih beragam — tidak ada gunanya mencoba memasukkannya ke dalam satu kotak hitam.
“Harapan saya adalah semakin banyak pendiri perusahaan kulit berwarna yang terlibat dalam pengembangan platform AI mereka sendiri atau menciptakan lapangan kerja baru yang terkait dengan AI sedini mungkin dalam ledakan ekonomi berikutnya,” kata Jones. “AI akan menciptakan triliuner, dan saya ingin melihat orang kulit berwarna mengambil posisi sebagai produsen dan bukan hanya konsumen.”
