Fizik Meringankan Kerja Berat✎ Edit

Salah satu inisiatif saya untuk mengurus kos penyulingan LLM sendiri ialah membina lebih banyak Sistem Berasingan.

Prinsipnya mudah:

Jangan gunakan LLM untuk kerja yang sudah menjadi boleh diramalkan.

Setiap minggu, sasaran saya ialah melancarkan kira-kira 12 Sistem Berasingan yang berat, disokong oleh kajian yang diperlukan untuk memahami aliran kerja, mengenal pasti corak, menentukan peraturan, dan mengesahkan sistem.

Bagi masalah yang lebih kompleks, saya mungkin menggunakan dahulu ChatGPT atau Claude sebagai lapisan penyelidikan dan penaakulan peringkat tinggi.

Aliran operasinya menjadi:

Masalah Kompleks → Kajian → Penaakulan → Penyulingan → Logik Deterministik → Penghalaan Pintar → DeepSeek V4 Flash / LLM Sendiri → Pelaksanaan

Perkara penting ialah apa yang berlaku selepas logik deterministik.

Jika beban kerja boleh diselesaikan melalui peraturan, penganalisis, pengesahan, atau logik berstruktur, Sistem Berasingan mengendalikannya terus.

Jika penaakulan tambahan diperlukan, beban kerja itu dihala ke DeepSeek V4 Flash sebagai model luar yang cekap kos.

Bagi beban kerja yang terspesialisasi, strategik, sensitif, atau berkaitan kedaulatan, sistem pula boleh menghala tugas ke model LLM sendiri kami.

Jadi, ini bukan tentang menghapuskan LLM.

Ia tentang penggunaan secara pilihan.

Deterministik dahulu.
LLM cekap kos apabila diperlukan.
LLM sendiri apabila kepintaran terspesialisasi, kawalan, atau kedaulatan menjadi keutamaan.

Reka bentuk ini juga menyokong ekonomi pembinaan model sendiri kami.

Lebih banyak beban kerja yang kami pisahkan, lebih rendah kos token dan inferens berulang kami.

Apabila kos itu menjadi lebih rendah, lebih banyak sumber yang boleh kami tumpukan kepada penyulingan model, penilaian, infrastruktur, dan pembangunan ekosistem LLM sendiri.

Itulah salah satu idea teras di sebalik AINNA NeuralOps.

#AINNA #NeuralOps #DetachedSystems #LLM #AIDistillation #SovereignAI #AIInfrastruktur #DeepSeek #ChatGPT #Claude #EnterpriseAI #Automasi