Di AINNA, pasukan R&D dan operasi logistik kami menganggap setiap sistem sebagai rantaian aliran kerja yang mesti dioptimakan secara berterusan. Sejak kami menerapkan OpenClaw, penggunaan token telah jatuh dari 34 bilion token sebulan kepada 1.5 bilion token sebulan melalui pendekatan Sistem Berasingan.
Kini, dengan Refactor dan Resegment, kami berjaya menurunkannya lagi kepada kira-kira 750 juta token sebulan.
Pengajaran utama di sini jelas: pengoptimuman bukan semestinya bermaksud membeli GPU yang lebih besar atau menambah kuasa komputasi. Kadangkala, terobosan sebenar datang daripada mereka bentuk semula cara sistem memahami, membaca, dan melaksanakan tugas.
Sebelum ini, AI terpaksa membaca konteks yang terlalu banyak secara berulang kali hanya untuk membuat perubahan kecil. Itu menghasilkan pembaziran token, kos lebih tinggi, pelaksanaan lebih perlahan, dan bebanan tidak perlu pada sistem.
Dengan Sistem Berasingan, beban kerja menjadi lebih terfokus. Dengan Refactor dan Resegment, setiap proses menjadi lebih tersusun. AI tidak lagi perlu mengimbas keseluruhan sistem setiap kali. Ia hanya beroperasi pada bahagian tepat yang relevan - konsep yang sama kami terapkan dalam reka bentuk sistem logistik: hantar sumber hanya ke nod atau zon yang berkaitan, bukan ke seluruh rangkaian.
Itulah cara kami bergerak dari:
34B → 1.5B → 750M token/sebulan
Kurang konteks.
Kurang pengulangan.
Kurang pembaziran.
Kos lebih rendah.
Pelaksanaan lebih pantas.
Bagi saya, ini membuktikan satu perkara dengan jelas: masa depan kecekapan AI bukan sekadar bergantung pada perkakasan yang lebih kuat. Ia bergantung pada seni bina sistem yang lebih pintar.
Kecekapan bermula dengan reka bentuk sistem.
#OpenClaw #AI #LLM #AIEjen #SystemSeni Bina #TokenOptimization #SoftwareEnjinering #AIEnjinering #Kecekapan
