Sejak kami melaksanakan OpenClaw dalam operasi, penggunaan token kami turun dari 34 bilion token sebulan kepada 1.5 bilion token sebulan menerusi pendekatan Sistem Berasingan.
\r\nKini, dengan Refactor dan Resegment, kami berjaya menurunkannya lagi ke paras 750 juta token sebulan.
\r\nDari sudut operasi, pengajaran paling besar di sini mudah: optimasi bukan selalu tentang membeli GPU lebih besar atau menambah kuasa compute. Dalam persekitaran perniagaan Malaysia, terutamanya untuk pasukan yang menjalankan operasi harian, kejayaan sebenar datang apabila kita menyusun semula proses supaya sistem bekerja lebih fokus dan cekap.
\r\nSebelum ini, AI terpaksa membaca konteks yang terlalu banyak berulang kali hanya untuk membuat perubahan kecil. Itu mencetuskan pembaziran token, kos tinggi, perlahan execution, dan bebanan tidak perlu pada operasi.
\r\nDengan Sistem Berasingan, beban kerja menjadi lebih tertumpu. Dengan Refactor dan Resegment, setiap proses menjadi lebih tersusun. AI tidak perlu lagi mengimbas keseluruhan sistem setiap kali. Ia hanya bekerja pada bahagian tepat yang memberi kesan kepada hasil.
\r\nInilah cara kami bergerak dari:
\r\n34B → 1.5B → 750M token/sebulan
\r\nKurang konteks.
\r\nKurang ulangan.
\r\nKurang pembaziran.
\r\nKos lebih rendah.
\r\nExecution lebih pantas.
Bagi saya, dari perspektif operasi dan pembangunan perniagaan, ini membuktikan satu perkara dengan jelas: masa depan kecekapan AI bukan hanya bergantung pada hardware yang lebih kuat. Ia bergantung pada reka bentuk sistem yang lebih bijak.
\r\nKecekapan bermula dari reka bentuk sistem.
\r\n#OpenClaw #AI #LLM #AIAgents #SystemSeni Bina #TokenOptimization #SoftwareEngineering #AIEngineering #Kecekapan
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
เห็นด้วยเรื่อง34 และทิศทางชัดเจน
The bit about dalam persekitaran perniagaan Malaysia is what I keep coming back to.
Ang 34 ang ipapadala ko sa boss ko.
The numbers around lagi ke paras 750 make more sense than most posts I read.