Enam tahun lalu, saya masih ingat bagaimana pasukan kami di AINNA membuktikan konsep serupa-menggunakan notebook murah yang menjalankan “chatbot engine” menerusi sambungan Chrome pada Lubuntu.
Sebagai pengasas bersama AINNA, saya melihat perubahan ini dari perspektif pelanggan: bukan sahaja apa yang mampu dibina, tetapi apa yang sebenarnya bermakna untuk perniagaan anda.
Hari ini, anda boleh menyiarkan ribuan instance VPS, masing-masing menjalankan sistem terpisah sendiri dan diuruskan oleh AI agens, dengan kos yang lebih rendah daripada notebook yang kami gunakan enam tahun lalu.
Bayangkan:
USD10–12 setahun untuk satu instance VPS yang mampu menjalankan ratusan sistem terpisah ringan, kebanyakannya microservices PHP.
Sistem ini boleh dibina, dipantau, diselenggara, diuji, dan diuruskan oleh lima jenis AI agens yang berbeza.
Tambah kira-kira USD20–30 sebulan untuk penggunaan LLM, dan keseluruhan infrastruktur boleh beroperasi 24 jam sehari tanpa henti.
Ekonominya menjadi lebih menarik apabila anda sudah memiliki mesin GPU-sesuatu yang banyak dimiliki oleh pemain permainan video.
Jalankan vLLM dengan model LLM tempatan yang berkemampuan, sambungkan instance VPS anda secara selamat, dan kos inferen model anda boleh menjadi hampir sifar selain elektrik dan perkakasan.
VPS murah.
Inferen tempatan.
AI agens autonomi.
Ratusan sistem terpisah.
Operasi berterusan.
Ini bukan lagi sekadar tentang membina chatbot.
Ia tentang mencipta tenaga kerja digital yang diagihkan dan autonomi dengan kos yang amat rendah.
Dan tidak mustahil dalam masa terdekat, pihak yang lebih besar-kerajaan, korporat, mahupun rangkaian jenayah-mula mengubahsuai arkitektur ini untuk tujuan mereka sendiri. Untuk PKS Malaysia, ini menjadi peringatan bahawa akses kepada teknologi serupa kini setaraf, tetapi keputusan untuk menggunakannya dengan bertanggungjawab menentukan hasilnya.
Teknologi ini semakin murah.
Persoalan sebenarnya bukan lagi sama ada ia boleh dilakukan.
Persoalannya: adakah perniagaan seperti anda akan mengambil peluang ini dahulu untuk membesar dan memberi nilai kepada pelanggan, sebelum pihak lain menyalahgunakannya?
He he he. Jika anda tertanya-tanya bagaimana pendekatan ini boleh disesuaikan untuk operasi perniagaan anda secara selamat dan berdaya maju, marilah berbincang-kami di AINNA sentiasa di sisi pelanggan.
