Saya sedang membina dan melatih model AI khusus untuk kegunaan PKS menerusi AINNA NeuralOps. Dari sudut operasi logistik dan pembangunan sistem, matlamatnya bukan mencipta chatbot umum, tetapi membangunkan lapisan keerdasan pakar yang memahami aliran kerja PKS sebenar-termasuk inventori, pemenuhan pesanan dan perkhidmatan pelanggan-serta berinteraksi terus dengan sistem perniagaan.
Saya tidak melatih Model Bahasa Besar (LLM) dari sifar. Saya bermula dengan model asas sumber terbuka dan menala semula menggunakan LoRA/QLoRA dalam GPU notebook, dengan set data yang dibina daripada kes penggunaan PKS sebenar seperti pengurusan inventori, pemenuhan pesanan, jadual penghantaran, kewangan, HR, jualan, perkhidmatan pelanggan dan operasi laman web.
Saya turut menggunakan LLM lanjutan sebagai model pengajar untuk proses knowledge distillation. Model-model yang lebih berkemampuan ini membantu saya menjana, memperbaiki, mengkritik dan menilai contoh latihan, corak penaakulan, kes tepi dan respons khusus PKS sebelum pengetahuan berguna dipindahkan ke model pakar yang lebih kecil dan cekap.
Aliran kerja saya kini ialah: Model Pengajar LLM Lanjutan → Set Data PKS → Distillation → LoRA/QLoRA → Model PKS Pakar → NeuralOps Agent Harness. Matlamatnya adalah menggunakan model berkuasa untuk mengajar, sambil menugaskan model lebih kecil untuk beban kerja operasi harian-sesuatu yang amat penting dalam persekitaran logistik yang memerlukan kelajuan dan kebolehcapaian.
Model pakar itu kemudiannya dipasangkan ke dalam NeuralOps, bersama Smart Routing, ejen pakar, pangkalan data, API dan Sistem Berasingan. NeuralOps menentukan model, alat, sumber data atau aliran kerja mana yang harus menangani setiap tugas, berbanding menghantar setiap permintaan ke satu LLM besar yang tidak efisien.
Bagi tugas mudah dan boleh diramal, saya menggunakan sistem deterministik seperti PHP, Python, SQL atau peraturan perniagaan. Bagi keerdasan rutin, NeuralOps boleh memanggil model PKS pakar. Hanya tugas penaakulan kompleks yang dinaik taraf ke model lebih besar, sekali gus mengurangkan kos inferen yang tidak perlu dan pergantungan kepada pembekal AI luar.
Data perniagaan terkini kekal di dalam sistem operasi seperti MySQL, HR, Kewangan, Inventori, CRM dan platform pelaporan. Model tidak perlu menghafal keseluruhan syarikat; ia belajar memahami operasi PKS, manakala sistem sumber menyediakan maklumat semasa yang boleh disahkan.
Senibina yang saya bina secara dasarnya ialah: Sistem Perniagaan → NeuralOps → Smart Routing → Model PKS Pakar / Alatan / LLM Lanjutan → Pengesahan → Tindakan. Matlamat saya adalah menjadikan AI lebih praktikal untuk PKS: lebih kecil, lebih pakar, cekap kos, boleh kawal dan bersepadu dalam aliran kerja perniagaan sebenar, terutamanya operasi logistik dan pemenuhan, berbanding hanya menjadi pembantu perbualan.
#AINNA #NeuralOps #AI #AgenticAI #PKS #LLM #KnowledgeDistillation #LoRA #QLoRA #OpenSourceAI #Automasi #PerniagaanIntelligence
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
Sa totoo lang, nakakagulat ang paksang ito.
The direction on tetapi membangunkan lapisan keerdasan pakar is exactly right.
I read this twice. Model-model yang lebih berkemampuan ini is the part that stuck.