Kalau kita tengok hari-hari dekat dashboard seller center Shopee, Lazada, atau storefront Shopify, kita tahu operasi PKS e-commerce Malaysia bukan cerita teori. Ia pasal stok, order, SKU, fulfillment, customer service, dan laporan jualan yang kena update real-time. Di AINNA, saya tengah bina dan latih model AI khas untuk use case ni melalui AINNA NeuralOps. Objektifnya bukan nak cipta chatbot umum, tetapi satu lapisan kepintaran yang faham operasi e-commerce sebenar dan boleh bekerja terus dengan sistem perniagaan.
Saya tak latih Large Bahasa Model dari sifar. Saya mula dengan open-source base model dan fine-tune guna LoRA/QLoRA dalam GPU notebook, dengan dataset yang datang daripada use case PKS e-commerce yang sebenar - laporan jualan, kewangan, HR, sales pipeline, pengurusan inventori SKU, customer service, dan operasi storefront.
Saya juga guna advanced LLMs sebagai teacher models untuk knowledge distillation. Model yang lebih berkemampuan ni bantu saya generate, improve, critique, dan evaluate training examples, reasoning patterns, edge cases - macam refund, stock out, atau dispute marketplace - dan respons khas untuk PKS sebelum ilmu yang berguna dipindahkan ke model kecil yang lebih specialise.
Aliran Kerja saya sekarang ialah: Advanced LLM Teacher → PKS Dataset → Distillation → LoRA/QLoRA → Specialised PKS Model → NeuralOps Agent Harness. Idea dia: guna model besar untuk mengajar, manakala model kecil uruskan workload operasi harian.
Model yang telah dispecialisekan ni kemudian digabungkan dalam NeuralOps, bersama Smart Routing, agen-agen khas, databases, APIs, dan Sistem Berasingan. NeuralOps tentukan model, tool, data source, atau workflow mana yang patut handle setiap tugas, instead of hantar semua benda ke satu LLM besar.
Untuk tugas simple dan predictable, saya guna deterministic systems seperti PHP, Python, SQL, atau business rules. Untuk intelligence harian, NeuralOps boleh guna specialised PKS model. Hanya tugas reasoning yang lebih kompleks akan escalate ke model besar - ini bantu kurangkan inference cost dan dependency dekat external AI providers.
Data perniagaan live kekal dalam sistem operasi seperti MySQL, HR, Kewangan, Inventori, CRM, dan platform laporan. Model tak perlu menghafal keseluruhan syarikat. Dia belajar cara faham operasi PKS e-commerce, manakala sistem sebenar provide maklumat terkini dan boleh disahkan.
Arkitektur yang saya bina lebih kurang macam ni: Perniagaan Sistem → NeuralOps → Smart Routing → Specialised PKS Model / Alat / Advanced LLM → Validation → Tindakan. Matlamat saya: jadikan AI lebih praktikal untuk PKS e-commerce Malaysia - lebih kecil, lebih specialise, cost-efficient, boleh dikawal, dan terintegrasi dalam workflow perniagaan sebenar, bukan sekadar chatbot biasa.
#AINNA #NeuralOps #AI #AgenticAI #PKS #LLM #KnowledgeDistillation #LoRA #QLoRA #OpenSourceAI #Automasi #PerniagaanIntelligence
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
Bagian kalau kita tengok hari-hari dekat ini yang bikin saya berpikir ulang.
Model yang lebih berkemampuan ni is the part I would forward to my boss.
เซฟไว้ก่อน เพราะคำอธิบายนี้
Still thinking about tetapi satu lapisan kepintaran yang.