Saya sedang membina dan melatih model AI khusus untuk kegunaan PKS melalui AINNA NeuralOps. Objektifnya bukan untuk mencipta chatbot tujuan umum yang lain, tetapi untuk membangunkan lapisan kepintaran pakar yang memahami operasi PKS sebenar dan boleh berfungsi secara langsung dengan sistem perniagaan.
Saya tidak melatih Large Bahasa Model dari awal. Saya bermula dengan model asas sumber terbuka dan menyesuaikannya secara fine-tune menggunakan LoRA/QLoRA dalam notebook GPU, dengan set data yang diperoleh daripada kes penggunaan PKS sebenar seperti laporan pengurusan, kewangan, HR, jualan, inventori, perkhidmatan pelanggan, dan operasi laman web.
Saya juga menggunakan LLM lanjutan sebagai model pengajar untuk penyulingan pengetahuan. Model yang lebih berkemampuan ini membantu saya menjana, memperbaiki, mengkritik, dan menilai contoh latihan, corak penaakulan, kes terpinggir, dan respons khusus PKS sebelum pengetahuan berguna dipindahkan ke model pakar yang lebih kecil.
Aliran kerja saya kini ialah: Model Pengajar LLM Lanjutan → Set Data PKS → Penyulingan → LoRA/QLoRA → Model PKS Pakar → Kerangka Agen NeuralOps. Matlamatnya adalah menggunakan model berkuasa untuk mengajar, sambil menggunakan model yang lebih kecil untuk beban kerja operasi harian.
Model pakar kemudiannya digabungkan ke dalam NeuralOps, bersama-sama dengan Penghalaan Pintar, ejen pakar, pangkalan data, API, dan Sistem Terpisah. NeuralOps menentukan model, alat, sumber data, atau aliran kerja mana yang harus mengendalikan setiap tugas berbanding menghantar segala-galanya kepada satu LLM besar.
Bagi tugas mudah dan boleh jangka, saya menggunakan sistem deterministik seperti PHP, Python, SQL, atau peraturan perniagaan. Bagi kepintaran rutin, NeuralOps boleh menggunakan model PKS pakar. Hanya tugas penaakulan yang lebih kompleks dinaik taraf kepada model yang lebih besar, sekali gus mengurangkan kos inferens yang tidak perlu dan kebergantungan terhadap pembekal AI luar.
Data perniagaan secara langsung juga kekal di dalam sistem operasi seperti MySQL, HR, Kewangan, Inventori, CRM, dan platform pelaporan. Model ini tidak perlu menghafal keseluruhan syarikat. Ia belajar cara memahami operasi PKS, manakala sistem sebenar menyediakan maklumat semasa yang boleh disahkan.
Arkitektur yang sedang saya bina pada dasarnya ialah: Sistem Perniagaan → NeuralOps → Penghalaan Pintar → Model PKS Pakar / Alat / LLM Lanjutan → Pengesahan → Tindakan. Matlamat saya adalah menjadikan AI lebih praktikal untuk PKS: lebih kecil, pakar, cekap kos, boleh kawal, dan bersepadu dalam aliran kerja perniagaan sebenar berbanding hanya wujud sebagai pembantu perbualan.
#AINNA #NeuralOps #AI #AgenticAI #PKS #LLM #KnowledgeDistillation #LoRA #QLoRA #OpenSourceAI #Automasi #PerniagaanIntelligence
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
关于这个主题的数字比我平时看到的大多数文章靠谱。
First piece I have read that treats dan operasi laman web honestly.
इस लेख की व्याख्या सरल और समझने योग्य है।
अगर इस हिस्से पर अगला लेख आए तो मैं ज़रूर पढ़ूँगा।
The framing on model yang lebih berkemampuan ini is better than expected.
Clear and short. Sharing saya juga menggunakan LLM lanjutan with my team.