On-Demand AI Operasi: Model Ringan Mengubah Infrastruktur✎ Edit

Sepanjang perjalanan saya membina AINNA, satu anjakan yang saya perhatikan dengan sangat rapat ialah kemunculan model AI yang kecil tetapi berkemampuan tinggi seperti DeepSeek V4 Flash. Selama ini, automasi infrastruktur kebanyakannya mengikuti satu pola: jika sesuatu perlu dijalankan berulang kali, kita membina mekanisme kekal di sekelilingnya – systemd, cron, daemon, supervisor, detached processes atau dedicated monitoring stack. Seni bina ini tetap penting untuk kebolehpercayaan peringkat pengeluaran, tetapi tidak setiap tugas operasi memerlukan infrastruktur kekal.

Untuk pemantauan pelayan sementara, pemerhatian deployment, migrasi, pengesahan backup, penyiasatan insiden atau tetingkap penyelenggaraan singkat, ejen AI semakin mampu beroperasi sebagai lapisan pintar sementara. Model ini tidak menggantikan pemantauan deterministik; ia menambah tafsiran kontekstual. Berbanding sekadar melaporkan “CPU 91%”, ejen boleh mengaitkan lonjakan CPU, tingkah laku kontena, ralat aplikasi, time-out pangkalan data dan respons HTTP 503, kemudian menerangkan apa yang berkemungkinan sedang berlaku sebelum jurutera campur tangan.

Bagi saya, garis pemisahnya semakin jelas: sistem kekal menyediakan lapisan kebolehpercayaan, manakala ejen AI ringan menyediakan lapisan tafsiran dan tindakan atas permintaan. Kadangkala keperluan itu hanya wujud untuk 30 minit seterusnya, dua jam atau satu kitaran deployment. Dalam kes sedemikian, membina satu lagi perkhidmatan kekal atau peraturan automasi mungkin tidak perlu.

Di sinilah ekonomi PKS Malaysia menjadi menarik. Perniagaan kecil mungkin sukar mewajarkan satu lagi platform pemantauan, infrastruktur tambahan atau kepakaran teknikal khusus untuk tugas operasi sekali-sekala. Jika ejen ringan boleh mengendalikan pemantauan sementara, triaj log dan diagnosis peringkat pertama menggunakan infrastruktur sedia ada, kos setiap tugas operasi akan jatuh. Satu pasukan teknikal berkemampuan mengawasi lebih banyak pelayan, lebih ramai pelanggan dan lebih banyak deployment tanpa menambah tenaga kerja pada kadar yang sama.

Ini secara langsung mengubah ekonomi unit bagi pembekal infrastruktur AI. Pelanggan yang membayar RM100 atau RM300 sebulan sukar dilayan jika setiap insiden memerlukan masa jurutera manual. Tetapi jika pemerhatian rutin dan diagnosis awal boleh diuruskan dengan kos inferensi marginal yang rendah, sementara jurutera manusia hanya memfokus kepada pengecualian, model perniagaan itu menjadi lebih boleh skala. Hasil boleh berkembang lebih pantas daripada kos operasi.

Ini bukan tentang menggantikan kejuruteraan infrastruktur dengan AI. Ia tentang menjadikan infrastruktur lebih mudah suai, lebih lancar, berpandukan niat dan ekonomiknya lebih boleh skala.

Saya melihat ini muncul sebagai kategori operasi baharu: On-Demand AI Operasi.

Kelebihan infrastruktur seterusnya mungkin bukan datang daripada melaksanakan lebih banyak sistem kekal. Ia mungkin datang daripada memahami tugas mana yang tidak lagi memerlukannya – dan berapa banyak perubahan itu kepada kos melayani setiap pelanggan.

#AIOps #AIAgents #DeepSeek #Infrastruktur #DevOps #Automasi #LocalAI #EnterpriseAI #PKS #UnitEconomics