Rivos menjadi berita utama pada tahun 2022 setelah Apple mengajukan gugatan rahasia dagang terhadapnya, yang menuduh Rivos mempekerjakan puluhan insinyur Apple dan menggunakan informasi rahasia untuk mengembangkan chip guna menyaingi milik pembuat iPhone.
Rivos membantah tuduhan tersebut dan menggugat balik Apple atas persaingan tidak sehat. Apple berakhir menyelesaikan gugatannya di bulan Februari. Sekitar waktu yang sama, mereka mengakhiri litigasi terpisah dengan beberapa insinyur Apple yang dipekerjakan oleh Rivos.
Kini, dengan adanya drama di ruang sidang, Rivos melipatgandakan upayanya untuk menghadirkan teknologi chipsetnya ke pasar, kata CEO Puneet Kumar kepada TechCrunch.
“Rivos didirikan dengan misi membangun chip berkinerja tinggi dan hemat daya yang terdepan di industri,” kata Kumar. “Kami sangat senang dapat menargetkan pelanggan yang sedang membangun solusi berbasis data.”
Tahapan pendanaan baru yang besar akan membantu membiayai upaya-upaya tersebut.
Rivos pada hari Selasa mengumumkan bahwa mereka mengumpulkan lebih dari $250 juta dalam Seri A yang diperpanjang dan kelebihan permintaan yang dipimpin oleh Matrix Capital Management dengan partisipasi dari raksasa chip termasuk Intel (melalui divisi VC perusahaannya) dan MediaTek. Pendukung lainnya termasuk Cambium Capital, Hotung Venture Group, Walden Catalyst, Dell Technologies Capital dan Koch Disruptive Technologies.
Ini merupakan perubahan besar bagi Rivos, yang didirikan pada tahun 2021 dan sekitar setahun yang lalu berjuang untuk mengumpulkan dana dari investor dan merekrut karyawan di bawah bayang-bayang tuntutan Apple. Di Agustus, Rivos memberhentikan hampir dua lusin karyawannyaatau 6% dari tenaga kerjanya pada saat itu, dan terpaksa menunda putaran penggalangan dana Seri A senilai $400 miliar, The Information melaporkan pada saat itu.
Chip server khusus
Tujuan jangka panjang Rivos, kata Kumar, adalah membangun chip terutama untuk server yang dapat menangani analisis data intensif dan beban kerja AI, termasuk beban kerja AI generatif.
“Kami menargetkan pelanggan yang membangun solusi berbasis data, misalnya mereka yang menggunakan AI generatif dan analisis data untuk mendorong keputusan,” kata Kumar. “Ada banyak perusahaan yang menargetkan pasar seperti itu; Aliran mendukung kebutuhan perangkat keras yang intensif pada model dan analitik AI yang akan mengubah perusahaan.”
Chipset pertama Rivos dibangun di atas RISC-V, arsitektur set instruksi standar terbuka (ISA).
ISA adalah spesifikasi teknis yang mendasari setiap chip, yang menjelaskan bagaimana perangkat lunak mengontrol perangkat keras chip. Untuk komputasi tujuan umum, tim desain chip biasanya melisensikan ISA yang ada dari perusahaan lama (misalnya Arm atau Intel). Namun RISC-V menghadirkan alternatif yang terbuka dan tanpa royalti.
Chip Rivos menampilkan apa yang Kumar gambarkan sebagai “akselerator paralel data” untuk mempercepat komputasi terkait AI dan data besar, yang pada dasarnya adalah GPU yang dirancang untuk tujuan di luar pemrosesan grafis. Itu dibuat menggunakan proses fabrikasi 3nm TSMC. Dalam pembuatan chip, “proses” mengacu pada ukuran komponen terkecil yang dapat tertanam pada sebuah chip.
3nm itu dianggap mendekati ujung tombak. Sedangkan Qualcomm, MediaTek, Nvidia dan AMD antara lain mengharapkan untuk menggunakan proses TSMC untuk rangkaian chip mereka yang akan datang, Apple adalah satu-satunya perusahaan yang menggunakannya pada tahun 2024 dalam seri chipset M3-nya.
Selain membangun chip, Rivos sedang mengerjakan perangkat keras pusat data mandiri berdasarkan Standar modular Proyek Komputasi Terbuka, yang secara efektif akan berfungsi sebagai wadah chip plug-and-play. Dan mereka menciptakan tumpukan perangkat lunak “firmware-to-app” untuk memprogram chip tersebut, kata Kumar.
“Beban kerja pelanggan dapat dengan mudah diterapkan pada perangkat keras kami yang lebih efisien, namun tetap menggunakan model dan database yang ada, sehingga memberikan mereka manfaat langsung,” tambah Kumar.
Rivos, yang saat ini merupakan perusahaan pra-pendapatan, berencana menghasilkan uang dengan membebankan biaya kepada pelanggan – terutama operator pusat data besar – untuk solusi perangkat keras dan perangkat lunak pelengkapnya. David Goel, seorang investor awal, mengatakan bahwa jalur adopsi “low-friction” Rivos adalah pembeda utama dalam pasar chip yang kejam.
“Tim Rivos dengan mahir mengintegrasikan arsitektur RISC-V baru yang inovatif dengan akselerator inventif, yang secara efektif mewujudkan visi ini,” kata Goel kepada TechCrunch. “Prototipe chip mereka berfungsi sebagai demonstrasi menarik dari kemampuan unik mereka.”
Tapi apakah itu cukup membedakan?
Persaingan yang ketat
Salah satu segmen pelanggan potensial Rivos, perusahaan teknologi besar, berlomba untuk mengembangkan chip internal mereka sendiri untuk AI dan analisis data besar seiring dengan berlanjutnya ledakan AI generatif.
Google menggunakan TPU generasi kelima dan baru-baru ini meluncurkan Axion, chip khusus pertamanya untuk model yang sedang berjalan. Amazon memiliki beberapa keluarga chip khusus. Microsoft tahun lalu ikut serta dalam persaingan dengan Azure Maia AI Accelerator dan CPU Azure Cobalt 100. Dan Meta beringsut dengan desainnya sendiri.
Sementara itu, ada lusinan startup mencari bagian dari pasar chip pusat data khusus yang bisa mencapai $10 miliar tahun ini dan dua kali lipat pada tahun 2025.
Groq, sebuah perusahaan yang mengembangkan chip untuk menjalankan model AI lebih cepat dibandingkan perangkat keras konvensional, baru-baru ini membentuk unit bisnis baru yang ditujukan untuk aplikasi dan kasus penggunaan perusahaan. Startup perangkat keras AI, Tenstorrent, yang dipimpin oleh pakar teknik Jim Keller, sedang berupaya membangun chipsetnya ke dalam pusat data. Dan Pemberontakanseorang Korea Selatan dongeng Perusahaan chip AI, telah mengumpulkan modal ratusan juta dolar untuk meningkatkan produksi chip yang berfokus pada pusat data, Atom.
Namun Nvidia, kekuatan dominan dalam chip saat ini, terbukti sulit untuk digulingkan.
Nvidia sempat menjadi perusahaan senilai $2 triliun tahun ini, karena tingginya permintaan GPU untuk pelatihan AI. Riset Ekuitas Wells Fargo perkiraan bahwa Nvidia memiliki 98% pangsa pasar di GPU pusat data, dan bisnis pusat data perusahaan tersebut naik lebih dari 400% pada Q4 2023 sebagai Nvidia membangun unit baru untuk merancang chip yang dipesan lebih dahulu untuk perusahaan komputasi awan dan lainnya.
Mengingat sengitnya persaingan — dan efek dingin Supremasi Nvidia berdampak pada pendanaan bagi calon pesaingnya – hal ini merupakan hal yang sulit bagi beberapa perusahaan baru yang baru mengembangkan chip server khusus.
Graphcore, yang dilaporkan mengalami penurunan valuasi sebesar $1 miliar setelah kesepakatan dengan Microsoft gagal, beberapa bulan yang lalu mengatakan bahwa mereka merencanakan PHK karena lingkungan makroekonomi yang “sangat menantang”. Habana Labs, perusahaan chip AI milik Intel, memberhentikan sekitar 10% tenaga kerjanya tahun lalu. Juga tahun lalu, SiFive – seperti Rivos, startup RISC-V – memecat 20% tenaga kerjanya dan menghentikan lini produk intinya.
Jadi apakah Rivos akan lebih baik? Mungkin.
Kumar tidak mau berbicara tentang pelanggan, dan chip Rivos diperkirakan tidak akan mencapai produksi massal hingga tahun depan. Namun dengan 375 karyawan dan ratusan juta dolar di bank, Kumar mengatakan bahwa Rivos berada pada posisi yang tepat untuk memperluas manufaktur dan menggandakan platform dan rekayasa perangkat lunak.
“Perubahan cepat dalam AI generatif dan penggabungan dengan tumpukan analisis data menjadikan akselerator mudah diprogram dan di-debug, dan data dapat berpindah dengan lancar antara CPU dan akselerator,” kata Kumar. “Rivos menjawab kebutuhan ini melalui pendekatan 'kompilasi ulang-bukan-desain ulang' kami.”
