Mengikuti perkembangan industri yang bergerak cepat seperti AI adalah hal yang sulit. Jadi hingga AI dapat melakukannya untuk Anda, berikut adalah ringkasan praktis dari kisah-kisah terkini di dunia pembelajaran mesin, bersama dengan penelitian dan eksperimen penting yang tidak kami bahas sendiri.
Omong-omong, TechCrunch berencana segera meluncurkan buletin AI. Pantau terus. Sementara itu, kami meningkatkan laju kolom AI semireguler kami, yang sebelumnya dua kali sebulan (atau lebih), menjadi mingguan — jadi nantikan edisi lainnya.
Minggu ini di AI, OpenAI mengungkapkan hal itu menjelajah cara “bertanggung jawab” menghasilkan pornografi AI. Ya – Anda tidak salah dengar. Diumumkan dalam sebuah dokumen yang dimaksudkan untuk menyingkap tirai dan mengumpulkan umpan balik mengenai instruksi AI-nya, kebijakan NSFW OpenAI yang baru dimaksudkan untuk memulai percakapan tentang bagaimana – dan di mana – perusahaan dapat mengizinkan gambar dan teks eksplisit dalam produk AI-nya, kata OpenAI.
“Kami ingin memastikan bahwa masyarakat memiliki kendali maksimal sejauh tidak melanggar hukum atau hak orang lain,” Joanne Jang, anggota tim produk di OpenAI, kata NPR. “Ada kasus-kasus kreatif di mana konten yang melibatkan seksualitas atau ketelanjangan dianggap penting bagi pengguna kami.”
Ini bukan pertama kalinya OpenAI mengirim telegram kesediaannya untuk terlibat dalam wilayah kontroversial. Awal tahun ini, Mira Murati, CTO perusahaan, diberi tahu The Wall Street Journal mengatakan dia “tidak yakin” apakah OpenAI pada akhirnya akan mengizinkan alat pembuat videonya, Sora, digunakan untuk membuat konten dewasa.
Jadi apa yang membuat ini?
Di sana adalah masa depan di mana OpenAI membuka pintu bagi pornografi yang dihasilkan AI dan semuanya menjadi… baik-baik saja. Menurut saya, Jang tidak salah jika mengatakan bahwa ada bentuk ekspresi artistik orang dewasa yang sah — ekspresi yang dapat diciptakan dengan bantuan alat yang didukung AI.
Tapi saya tidak yakin kita bisa mempercayai OpenAI – atau vendor AI generatif mana pun – untuk melakukannya dengan benar.
Pertimbangkan sudut pandang hak pencipta, misalnya. Model OpenAI telah dilatih pada sejumlah besar konten web publik, beberapa di antaranya pasti bersifat pornografi. Namun OpenAI belum melisensikan semua konten ini — atau bahkan mengizinkan pembuat konten untuk tidak mengikuti pelatihan hingga saat ini (dan bahkan hanya bentuk pelatihan tertentu).
Sulit untuk mencari nafkah dari konten dewasa, dan jika OpenAI menjadikan pornografi yang dihasilkan AI sebagai arus utama, maka akan ada persaingan yang lebih ketat yang dihadapi para pembuat konten — persaingan yang dibangun atas dasar karya para pembuat konten tersebut, bukan tanpa alasan.
Masalah lain yang saya pikirkan adalah kesalahan dalam upaya perlindungan yang ada saat ini. OpenAI dan pesaingnya telah menyempurnakan alat pemfilteran dan moderasi mereka selama bertahun-tahun. Namun pengguna terus-menerus menemukan solusi yang memungkinkan mereka menyalahgunakan model, aplikasi, dan platform AI perusahaan.
Baru pada bulan Januari, Microsoft terpaksa melakukan perubahan pada alat pembuatan gambar Desainernya, yang memanfaatkan model OpenAI, setelah pengguna menemukan cara untuk membuat gambar telanjang Taylor Swift. Di sisi pembuatan teks, sangatlah mudah untuk menemukan chatbots yang dibangun di atas model yang dianggap “aman”, seperti Claude 3 dari Anthropic, yang dengan mudah melontarkan erotika.
AI telah menciptakan bentuk baru pelecehan seksual. Siswa sekolah dasar dan sekolah menengah atas menggunakan aplikasi yang didukung AI untuk “menghapus” foto teman sekelas mereka tanpa persetujuan teman sekelas tersebut; sebuah tahun 2021 pemilihan yang dilakukan di Inggris, Selandia Baru, dan Australia menemukan bahwa 14% responden berusia 16 hingga 64 tahun telah menjadi korban gambar deepfake.
Undang-undang baru di AS dan negara lain bertujuan untuk memerangi hal ini. Namun juri masih belum yakin apakah sistem peradilan tersebut – sudah merupakan sistem peradilan berjuang untuk membasmi sebagian besar kejahatan seks — untuk dapat mengatur industri yang bergerak secepat AI.
Sejujurnya, sulit membayangkan pendekatan yang mungkin dilakukan OpenAI terhadap pornografi yang dihasilkan AI yang tidak penuh risiko. Mungkin OpenAI akan mempertimbangkan kembali pendiriannya sekali lagi. Atau mungkin – melawan rintangan – itu akan mencari cara yang lebih baik. Apa pun kasusnya, sepertinya kita akan mengetahuinya lebih cepat.
Berikut adalah beberapa kisah AI lainnya yang perlu diperhatikan dalam beberapa hari terakhir:
- Rencana AI Apple: CEO Apple Tim Cook mengungkapkan beberapa informasi menarik tentang rencana perusahaan untuk bergerak maju dengan AI selama diskusi pendapatan minggu lalu dengan investor. Sarah memiliki cerita lengkapnya.
- GenAI Perusahaan: CEO Dropbox dan Figma — masing-masing Drew Houston dan Dylan Field — telah berinvestasi di Lamini, sebuah startup yang membangun teknologi AI generatif serta platform hosting AI generatif yang ditujukan untuk organisasi perusahaan.
- AI untuk layanan pelanggan: Airbnb meluncurkan fitur baru yang memungkinkan tuan rumah memilih saran yang didukung AI untuk menjawab pertanyaan tamu, seperti mengirimkan panduan pembayaran properti kepada tamu.
- Microsoft membatasi penggunaan AI: Microsoft telah menegaskan kembali larangannya terhadap departemen kepolisian AS menggunakan AI generatif untuk pengenalan wajah. Pemerintah juga melarang penegak hukum global menerapkan teknologi pengenalan wajah pada kamera tubuh dan kamera dasbor.
- Uang untuk cloud: Penyedia cloud alternatif seperti CoreWeave mengumpulkan ratusan juta dolar seiring lonjakan AI generatif yang mendorong permintaan perangkat keras berbiaya rendah untuk melatih dan menjalankan model.
- RAG memiliki batasannya: Halusinasi adalah masalah besar bagi bisnis yang ingin mengintegrasikan AI generatif ke dalam operasi mereka. Beberapa vendor mengklaim bahwa mereka dapat menghilangkannya menggunakan teknik yang disebut RAG. Tapi klaim itu sangat dilebih-lebihkan, ternyata klaim Anda benar.
- Ringkasan pertemuan Vogels: CTO Amazon, Werner Vogels, membuat aplikasi ringkasan pertemuan yang disebut Distill menjadi sumber terbuka. Seperti yang Anda duga, ini sangat bergantung pada produk dan layanan Amazon.
