Iklim pendanaan untuk startup chip AI, yang dulunya cerah pada pertengahan bulan Juli, mulai suram Nvidia menegaskan dominasinya.
Menurut laporan terbaru, perusahaan chip AS dinaikkan hanya $881 juta dari Januari 2023 hingga September 2023 — turun dari $1,79 miliar pada tiga kuartal pertama tahun 2022. Perusahaan chip AI Mythic kehabisan uang tunai pada tahun 2022 dan hampir terpaksa menghentikan operasinya, sementara Graphcore, saingan yang dulunya bermodal besar , kini menghadapi kerugian yang semakin besar.
Namun ada satu startup yang tampaknya sukses di sektor chip AI yang sangat kompetitif dan semakin padat.
Halodidirikan bersama pada tahun 2017 oleh Orr Danon dan Avi Baum, yang sebelumnya merupakan CTO untuk konektivitas nirkabel di perusahaan mikroprosesor Instrumen Texas, merancang chip khusus untuk menjalankan beban kerja AI pada perangkat edge. Chip Hailo menjalankan tugas-tugas AI dengan penggunaan memori dan konsumsi daya yang lebih rendah dibandingkan prosesor pada umumnya, menjadikannya kandidat kuat untuk perangkat kompak, offline, dan bertenaga baterai seperti mobil, kamera pintar, dan robotika.
“Saya ikut mendirikan Hailo dengan misi membuat AI berkinerja tinggi tersedia dalam skala di luar pusat data,” kata Danon kepada TechCrunch. “Prosesor kami digunakan untuk tugas-tugas seperti deteksi objek, segmentasi semantik, dan sebagainya, serta untuk peningkatan gambar dan video yang didukung AI. Baru-baru ini, mereka telah digunakan untuk menjalankan model bahasa besar (LLM) pada perangkat edge termasuk komputer pribadi, unit kontrol elektronik infotainment, dan banyak lagi.”
Banyak startup chip AI yang belum mendapatkan satu kontrak besar, apalagi puluhan atau ratusan. Namun Hailo saat ini memiliki lebih dari 300 pelanggan, klaim Danon, di industri seperti otomotif, keamanan, ritel, otomasi industri, peralatan medis, dan pertahanan.
Dalam pertaruhan prospek masa depan Hailo, sekelompok pendukung keuangan termasuk pengusaha Israel Alfred Akirov, importir otomotif Delek Motors dan platform VC OurCrowd menginvestasikan $120 juta di Hailo minggu ini, perpanjangan dari Seri C perusahaan. Danon mengatakan bahwa ibu kota baru akan “memungkinkan Hailo untuk memanfaatkan semua peluang yang ada” sambil “menyiapkan landasan untuk pertumbuhan jangka panjang.”
“Kami memiliki posisi strategis untuk menghadirkan AI ke perangkat edge dengan cara yang secara signifikan akan memperluas jangkauan dan dampak dari teknologi baru yang luar biasa ini,” kata Danon.
Sekarang, Anda mungkin bertanya-tanya, apakah startup seperti Hailo Sungguh memiliki peluang melawan raksasa chip seperti Nvidia, dan pada tingkat yang lebih rendah Lengan, Intel Dan AMD? Salah satu pakar, Christos Kozyrakis, profesor teknik elektro dan ilmu komputer di Stanford, berpendapat demikian — ia yakin chip akselerator seperti milik Hailo akan “mutlak diperlukan” seiring dengan berkembangnya AI.
“Kesenjangan efisiensi energi antara CPU dan akselerator terlalu besar untuk diabaikan,” kata Kozyrakis kepada TechCrunch. “Anda menggunakan akselerator untuk efisiensi dengan tugas-tugas utama (misalnya AI) dan memiliki satu atau dua prosesor untuk kemampuan program.”
Kozyrakis melakukan melihat umur panjang yang menjadi tantangan bagi kepemimpinan Hailo — misalnya, jika arsitektur model AI, chip-chipnya dirancang untuk bekerja secara efisien, maka hal ini tidak lagi populer. Dukungan perangkat lunak juga bisa menjadi masalah, kata Kozyrakis, jika banyak pengembang tidak mau belajar menggunakan peralatan yang dibuat berdasarkan chip Hailo.
“Sebagian besar tantangan terkait chip khusus ada pada ekosistem perangkat lunak,” kata Kozyrakis. “Di sinilah Nvidia, misalnya, memiliki keunggulan besar dibandingkan perusahaan lain di bidang AI, karena mereka telah berinvestasi dalam perangkat lunak untuk arsitektur mereka selama lebih dari 15 tahun.”
Namun, dengan dana sebesar $340 juta di bank dan jumlah tenaga kerja sekitar 250 orang, Danon merasa yakin dengan masa depan Hailo — setidaknya dalam jangka pendek. Ia melihat teknologi startup ini dapat mengatasi banyak tantangan yang dihadapi perusahaan terkait inferensi AI berbasis cloud, khususnya latensi, biaya, dan skalabilitas.
“Model AI tradisional bergantung pada infrastruktur berbasis cloud, yang sering kali mengalami masalah latensi dan tantangan lainnya,” kata Danon. “Mereka tidak mampu mendapatkan wawasan dan peringatan secara real-time, dan ketergantungan mereka pada jaringan membahayakan keandalan dan integrasi dengan cloud, sehingga menimbulkan masalah privasi data. Hailo mengatasi tantangan ini dengan menawarkan solusi yang beroperasi secara independen dari cloud, sehingga membuat mereka mampu menangani pemrosesan AI dalam jumlah yang jauh lebih besar.”
Penasaran dengan perspektif Danon, saya bertanya tentang AI generatif dan ketergantungannya yang besar pada cloud dan pusat data jarak jauh. Tentunya, Hailo melihat model top-down dan cloud-centric saat ini (misalnya modus operandi OpenAI) merupakan ancaman nyata?
Danon mengatakan sebaliknya, AI generatif mendorong permintaan baru terhadap perangkat keras Hailo.
“Dalam beberapa tahun terakhir, kami telah melihat lonjakan permintaan terhadap aplikasi AI yang canggih di sebagian besar industri mulai dari keamanan bandara hingga pengemasan makanan,” katanya. “Lonjakan baru dalam AI generatif semakin meningkatkan permintaan ini, karena kami melihat permintaan untuk memproses LLM secara lokal oleh pelanggan tidak hanya di industri komputasi dan otomotif, tetapi juga di bidang otomasi industri, keamanan, dan lainnya.”
Bagaimana tentang itu.
