Di peringkat operasi, kami sedang membangunkan dan melatih model AI khusus untuk PKS menerusi AINNA NeuralOps. Matlamatnya bukan untuk menghasilkan chatbot serbaguna yang ketiga, tetapi membina lapisan kepintaran operasi yang faham cara PKS benar-benar berfungsi dan boleh bekerja terus dengan sistem perniagaan.
Kami tidak melatih LLM dari sifar. Kami bermula dengan model asas open-source, kemudian menala semula menggunakan LoRA/QLoRA dalam GPU notebook, dengan dataset yang dibina daripada kes penggunaan PKS sebenar - laporan pengurusan, kewangan, HR, jualan, inventori, khidmat pelanggan, dan operasi laman web.
Kami juga menggunakan advanced LLMs sebagai teacher models untuk knowledge distillation. Model berkemampuan lebih tinggi ini membantu kami menjana, memperbaiki, mengkritik, dan menilai contoh latihan, corak penaakulan, kes-kes tepi, dan respons khusus PKS sebelum ilmu yang berguna dipindahkan ke model pakar yang lebih kecil.
Alur kerja kami pada masa ini: Advanced LLM Teacher → PKS Dataset → Distillation → LoRA/QLoRA → Specialised PKS Model → NeuralOps Agent Harness. Idea dasarnya: gunakan model berkuasa untuk mengajar, tetapi gunakan model lebih kecil untuk beban kerja operasi harian.
Model pakar ini kemudiannya dipasangkan dalam NeuralOps, bersama Smart Routing, ejen-ejen pakar, pangkalan data, API, dan Sistem Berasingan. NeuralOps yang tentukan model, alat, sumber data, atau aliran kerja mana yang patut mengendalikan setiap tugas - bukan menghantar semuanya ke satu LLM besar.
Untuk tugas mudah dan boleh jangka, kami gunakan sistem deterministik seperti PHP, Python, SQL, atau peraturan perniagaan. Bagi kepintaran rutin, NeuralOps boleh gunakan model pakar PKS. Hanya tugas penaakulan lebih kompleks yang dinaiktaraf ke model besar, supaya kos inferens tidak membazir dan pergantungan pada pembekal AI luar berkurangan.
Data perniagaan terkini juga kekal di dalam sistem operasi seperti MySQL, HR, Kewangan, Inventori, CRM, dan platform laporan. Model tidak perlu menghafal seluruh syarikat. Ia belajar cara memahami operasi PKS, manakala sistem sebenar menyediakan maklumat terkini dan boleh disahkan.
Arsitektur yang sedang kami bina secara praktikalnya: Perniagaan Systems → NeuralOps → Smart Routing → Specialised PKS Model / Alat / Advanced LLM → Validation → Tindakan. Matlamat saya adalah menjadikan AI lebih praktikal untuk PKS: lebih kecil, lebih pakar, cekap kos, boleh kawal, dan bersepadu ke dalam aliran kerja perniagaan sebenar - bukan sekadar wujud sebagai pembantu perbualan.
#AINNA #NeuralOps #AI #AgenticAI #PKS #LLM #KnowledgeDistillation #LoRA #QLoRA #OpenSourceAI #Automasi #BusinessIntelligence
