Bagaimana CTO Amazon Werner Vogels — seorang pria dengan kekayaan jutaan dolar, yang selama pandemi COVID-19 membeli langsung Airbnb kecil di Central Amsterdam yang pernah ia tinggali — menghabiskan hari-harinya? Dari kelihatannya: membangun aplikasi ringkasan rapat yang didukung AI. Pergilah.
Di sebuah pos minggu ini di blog pribadi Vogels, dia merinci Distill, sebuah aplikasi sumber terbuka yang dia buat bersama tim “OCTO” (Kantor CTO) untuk menyalin dan meringkas panggilan konferensi mereka. Distill mengambil rekaman audio rapat (dalam format seperti MP3, FLAC, dan WAV), menganalisisnya, dan membuat ringkasan beserta daftar hal yang harus dilakukan. Secara opsional, ia dapat mengeluarkan ringkasan dan daftar itu ke platform seperti Slack melalui integrasi khusus.
Seperti yang diharapkan dari aplikasi dari CTO Amazon, Distill sangat bergantung pada produk dan layanan Amazon berbayar untuk melakukan pekerjaan berat komputasi. AWS Transcribe menjalankan transkripsi Distill; Amazon S3 menyediakan penyimpanan untuk file audio rapat; dan Bedrock, rangkaian pengembangan AI generatif Amazon, menangani peringkasan.
Namun untuk apa membuat ringkasan rapat ketika ada banyak sekali alat yang dapat memenuhi tujuan tersebut? Yah, saya harus membayangkan apa yang dipikirkan Vogels, mengapa tidak? Dia memiliki banyak sumber daya dan tampaknya cukup waktu luang untuk proyek pemrograman penghobi. Berdasarkan blognya, dia sudah mencoba mem-porting basis kode Distill dari Python ke Rust. (Menjadi CTO adalah pekerjaan yang bagus jika Anda bisa mendapatkannya.)
Satu hal unik tentang Distill adalah Anda dapat memilih model AI mana yang melakukan ringkasan rapat. Secara default, ini adalah Sonnet, model kelas menengah dalam keluarga Claude 3 Anthropic. (Kepemilikan besar Amazon di Anthropic mungkin ada hubungannya dengan keputusan desain tersebut.) Namun model apa pun yang dihosting di Bedrock akan berfungsi, seperti Meta's Llama 3 dan model dari startup AI Mistral, AI21 Labs, dan Cohere.
Vogels tidak menjanjikan Distill tidak akan melakukan kesalahan.
“Ingat, AI tidaklah sempurna,” tulisnya. “Beberapa ringkasan yang kami dapatkan kembali… memiliki kesalahan yang memerlukan penyesuaian manual. Tapi tidak apa-apa, karena tetap mempercepat proses kami. Ini hanyalah sebuah pengingat bahwa kita harus tetap cerdas dan terlibat dalam proses tersebut. Berpikir kritis saat ini sama pentingnya dengan sebelumnya.”
Saya berpendapat bahwa harus “terlibat” dalam meringkas berarti menggagalkan inti dari peringkasan otomatis. Anda sebaiknya menyewa seorang stenografer. Namun Anda tidak akan pernah melihat Vogels menjelek-jelekkan teknologi yang dijual majikannya. Dan, menurut saya, itulah sebabnya dia masih menjadi CTO.
