Di peringkat operasi, kami sedang membangunkan dan melatih model AI khusus untuk PKS menerusi AINNA NeuralOps. Matlamatnya bukan untuk menghasilkan chatbot serbaguna yang ketiga, tetapi membina lapisan kepintaran operasi yang faham cara PKS benar-benar berfungsi dan boleh bekerja terus dengan sistem perniagaan.
Kami tidak melatih LLM dari sifar. Kami bermula dengan model asas open-source, kemudian menala semula menggunakan LoRA/QLoRA dalam GPU notebook, dengan dataset yang dibina daripada kes penggunaan PKS sebenar - laporan pengurusan, kewangan, HR, jualan, inventori, khidmat pelanggan, dan operasi laman web.
Kami juga menggunakan advanced LLMs sebagai teacher models untuk knowledge distillation. Model berkemampuan lebih tinggi ini membantu kami menjana, memperbaiki, mengkritik, dan menilai contoh latihan, corak penaakulan, kes-kes tepi, dan respons khusus PKS sebelum ilmu yang berguna dipindahkan ke model pakar yang lebih kecil.
Alur kerja kami pada masa ini: Advanced LLM Teacher → PKS Dataset → Distillation → LoRA/QLoRA → Specialised PKS Model → NeuralOps Agent Harness. Idea dasarnya: gunakan model berkuasa untuk mengajar, tetapi gunakan model lebih kecil untuk beban kerja operasi harian.
Model pakar ini kemudiannya dipasangkan dalam NeuralOps, bersama Smart Routing, ejen-ejen pakar, pangkalan data, API, dan Sistem Berasingan. NeuralOps yang tentukan model, alat, sumber data, atau aliran kerja mana yang patut mengendalikan setiap tugas - bukan menghantar semuanya ke satu LLM besar.
Untuk tugas mudah dan boleh jangka, kami gunakan sistem deterministik seperti PHP, Python, SQL, atau peraturan perniagaan. Bagi kepintaran rutin, NeuralOps boleh gunakan model pakar PKS. Hanya tugas penaakulan lebih kompleks yang dinaiktaraf ke model besar, supaya kos inferens tidak membazir dan pergantungan pada pembekal AI luar berkurangan.
Data perniagaan terkini juga kekal di dalam sistem operasi seperti MySQL, HR, Kewangan, Inventori, CRM, dan platform laporan. Model tidak perlu menghafal seluruh syarikat. Ia belajar cara memahami operasi PKS, manakala sistem sebenar menyediakan maklumat terkini dan boleh disahkan.
Arsitektur yang sedang kami bina secara praktikalnya: Perniagaan Sistem → NeuralOps → Smart Routing → Specialised PKS Model / Alat / Advanced LLM → Validation → Tindakan. Matlamat saya adalah menjadikan AI lebih praktikal untuk PKS: lebih kecil, lebih pakar, cekap kos, boleh kawal, dan bersepadu ke dalam aliran kerja perniagaan sebenar - bukan sekadar wujud sebagai pembantu perbualan.
#AINNA #NeuralOps #AI #AgenticAI #PKS #LLM #KnowledgeDistillation #LoRA #QLoRA #OpenSourceAI #Automasi #PerniagaanIntelligence
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
Tulisan yang bagus. Kami tidak melatih LLM dari sahaja dah berbaloi.
Clear and short. Sharing alur kerja kami pada masa with my team.
我喜欢这段说明这部分，因为它讲得比较务实。
kemudian menala semula menggunakan lora/qlora is the part I would forward to my boss.
dengan dataset yang dibina daripada - that is the whole thing in one line.