Banyak hal yang harus dilakukan oleh personel operasional TI, dan ketika terjadi insiden yang menyebabkan sistem utama tidak berfungsi, waktu akan selalu berpihak pada mereka. Selama bertahun-tahun, perusahaan telah mencari cara untuk bangkit lebih cepat dengan pedoman yang dirancang untuk menemukan jawaban atas masalah umum, dan pemeriksaan mayat agar masalah tersebut tidak terulang kembali, namun tidak setiap masalah dapat diselesaikan dengan mudah, dan terdapat begitu banyak data dan banyak kemungkinan. titik kegagalan.
Ini sebenarnya adalah masalah yang sempurna untuk dipecahkan oleh AI generatif, dan startup AIOps Panda Besar, hari ini mengumumkan alat AI generatif baru yang disebut Biggy untuk membantu menyelesaikan beberapa masalah ini dengan lebih cepat. Apa yang Biggy dirancang untuk lakukan adalah melihat berbagai macam data terkait TI untuk mempelajari cara perusahaan beroperasi dan membandingkannya dengan skenario masalah dan skenario serupa lainnya serta menyarankan solusi.
BigPanda telah menggunakan AI sejak awal berdirinya perusahaan, dan dengan sengaja merancang dua sistem terpisah: satu untuk lapisan data dan satu lagi untuk AI, dan hal ini mempersiapkan mereka untuk peralihan ke AI generatif berdasarkan model bahasa besar. “Mesin AI sebelum Gen AI membangun banyak jenis AI lainnya, namun menggunakan mesin data yang sama yang akan mendukung apa yang kami lakukan dengan Biggy, dan apa yang kami lakukan dengan AI generatif dan percakapan. ,” kata CEO BigPanda Assaf Resnick kepada TechCrunch.
Seperti kebanyakan alat AI generatif, alat ini menyediakan kotak prompt tempat pengguna dapat mengajukan pertanyaan dan berinteraksi dengan bot. Dalam hal ini, model yang mendasarinya telah dilatih berdasarkan data di dalam perusahaan pelanggan, serta data yang tersedia untuk umum pada perangkat keras atau perangkat lunak tertentu, dan disesuaikan untuk menangani jenis masalah yang sering dihadapi TI. .
“LLM yang out-of-the-box telah dilatih mengenai sejumlah besar data, dan mereka benar-benar bagus sebagai generalis di semua bidang operasional yang kami lihat – infrastruktur, jaringan, pengembangan aplikasi, semuanya di sana. Dan mereka sebenarnya mengetahui semua perangkat kerasnya dengan sangat baik,” kata Jason Walker, kepala bagian inovasi di BigPanda. “Jadi jika Anda bertanya tentang server blade HP tertentu dengan kode kesalahan ini, cukup bagus untuk menggabungkannya, dan kami menggunakannya untuk banyak lalu lintas acara.” Tentu saja harus lebih dari itu atau teknisi manusia dapat dengan mudah mencarinya di Google Penelusuran.
Ini menggabungkan pengetahuan ini dengan apa yang dapat diambil secara internal di berbagai tipe data. “BigPanda menyerap data operasional dan kontekstual pelanggan dari kemampuan observasi, perubahan, CDMB (file yang menyimpan informasi konfigurasi) dan topologi bersama dengan data historis dan konteks kelembagaan manusia — dan menormalkan data menjadi pasangan nilai kunci, atau tag,” Walker dikatakan. Itu merupakan jargon teknis yang banyak, namun pada dasarnya berarti melihat informasi tingkat sistem, data organisasi, dan interaksi manusia untuk memberikan respons guna membantu para insinyur memecahkan masalah.
Saat pengguna memasukkan prompt, ia akan melihat seluruh data untuk menghasilkan jawaban yang diharapkan akan mengarahkan para insinyur ke arah yang benar untuk memperbaiki masalah tersebut. Mereka mengakui bahwa jawaban tersebut tidak selalu sempurna karena tidak ada AI generatif yang sempurna, namun mereka memberi tahu pengguna ketika tingkat kepastiannya lebih rendah bahwa jawabannya benar.
“Untuk area di mana kami pikir kami tidak memiliki banyak kepastian, maka kami memberi tahu mereka bahwa ini adalah informasi terbaik kami, namun manusia harus memperhatikannya,” kata Resnick. Untuk area lain yang lebih pasti, mereka mungkin akan memperkenalkan otomatisasi, bekerja dengan alat seperti Red Hat Ansible untuk menyelesaikan masalah tanpa interaksi manusia, katanya.
Bagian penyerapan data tidak selalu merupakan hal yang sepele bagi pelanggan, dan ini adalah langkah pertama menuju penyediaan asisten AI yang dapat membantu TI menemukan akar masalah, dan menyelesaikannya dengan lebih cepat. Tidak ada AI yang dapat diandalkan, namun memiliki alat AI yang interaktif seharusnya merupakan peningkatan dibandingkan pendekatan manual yang lebih memakan waktu saat ini dalam pemecahan masalah sistem TI.
