AINNA NeuralOps kini melangkah ke fasa seterusnya dengan keupayaan baharu yang kami namakan NeuralOps Decision Layer. Sejak awal saya membina AINNA, ada satu prinsip yang saya pegang teguh: bukan setiap masalah dalam sistem perniagaan perlu dihantar kepada model AI besar.
Dalam kebanyakan operasi PKS, sebahagian besar tugasan sebenarnya sudah boleh dikendalikan oleh parser, peraturan, pengiraan dan automasi. Sistem kita mampu memproses transaksi biasa, pergerakan stok, dokumen atau tugasan rutin tanpa perlu melibatkan LLM langsung.
Cabaran hanya muncul apabila sistem mengesan anomali atau sesuatu yang tidak jelas. Daripada terus menghantar kes itu kepada LLM besar, NeuralOps boleh menggunakan model keputusan tempatan yang lebih kecil dahulu, seperti SLM yang berjalan melalui platform seperti Ollama.
Model kecil ini tidak perlu menjana jawapan panjang. Tugasnya hanya membuat keputusan yang fokus, contohnya menentukan sama ada transaksi itu jualan atau perbelanjaan, sama ada isu stok itu normal atau tidak normal, atau sama ada sesuatu kes memerlukan semakan lanjut.
Hanya apabila kes itu benar-benar kompleks, sistem akan meningkatkan kes tersebut kepada LLM yang lebih besar. Aliran kerjanya menjadi jauh lebih cekap: Data → Parser → Peraturan Sistem → Model Keputusan Kecil → LLM hanya bila perlu.
Bagi PKS, ini bermakna kos AI yang lebih rendah, penggunaan token yang lebih sedikit, pemprosesan yang lebih pantas, privasi yang lebih baik dan kurang pergantungan pada model mahal. Matlamat NeuralOps bukanlah untuk menggunakan lebih banyak AI, tetapi untuk menggunakan tahap kecerdasan yang tepat bagi tugasan yang tepat.