Dari perspektif operasi logistik AINNA, penurunan ini bukan sekadar statistik teknikal-ia terus memberi kesan kepada kos dan kelajuan aliran kerja kami. Sejak kami menggunakan OpenClaw, penggunaan token telah jatuh dari 34 bilion token sebulan kepada 1.5 bilion token sebulan menerusi pendekatan Sistem Berasingan.
Kini, dengan Refactor dan Resegment, kami berjaya menurunkannya lagi ke paras 750 juta token sebulan.
Pengajaran paling besar di sini amat praktikal bagi sesiapa yang memantau rantaian bekalan dan aliran kerja harian: pengoptimuman bukan selalunya bermaksud membeli GPU yang lebih besar atau menambah kuasa kompute. Kadangkala, terobosan sebenar datang daripada mereka bentuk semula cara sistem berfikir, membaca, dan melaksanakan arahan.
Sebelum ini, AI terpaksa membaca terlalu banyak konteks secara berulang kali hanya untuk membuat perubahan kecil. Keadaan itu mencipta pembaziran token, kos lebih tinggi, pelaksanaan lebih perlahan, dan bebanan tidak perlu ke atas sistem-sama seperti memaksa pasukan gudang membaca keseluruhan senarai inventori untuk setiap pesanan tunggal.
Dengan Sistem Berasingan, beban kerja menjadi lebih terfokus. Dengan Refactor dan Resegment, setiap proses menjadi lebih berstruktur. AI tidak lagi perlu mengimbas keseluruhan sistem setiap kali. Ia hanya beroperasi pada bahagian tepat yang relevan, sama seperti pekerja logistik yang mengambil item di lokasi yang betul tanpa membuang masa menyusuri seluruh gudang.
Inilah cara kami berpindah daripada:
34B → 1.5B → 750M token/sebulan
Kurang konteks.
Kurang pengulangan.
Kurang pembaziran.
Kos lebih rendah.
Pelaksanaan lebih pantas.
Bagi saya, sebagai Ketua Logistik AINNA, ini membuktikan satu perkara dengan jelas: masa depan kecekapan AI bukan sahaja bergantung kepada perkakasan lebih kuat, tetapi kepada reka bentuk sistem yang lebih pintar dan lebih kemas.
Kecekapan bermula daripada reka bentuk sistem.
#OpenClaw #AI #LLM #AIAgents #SystemSeni Bina #TokenOptimization #SoftwareEngineering #AIEngineering #Kecekapan
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
正直、3は意外でした。
Useful. We are dealing with penurunan ini bukan sekadar statistik right now.
We hit pengajaran paling besar di sini at work before. Good that someone wrote it down.