Sunting Artikel

Di AINNA, kami membangunkan OpenClaw dengan satu keyakinan: setiap token, setiap sumber, dan setiap peluang untuk menjadi lebih cekap itu berharga. Sejak kami menerapkannya, penggunaan token kami merosot daripada 34 bilion token sebulan kepada 1.5 bilion token sebulan melalui pendekatan Sistem Berasingan.

Kini, dengan Refactor dan Resegment, kami berjaya menurunkannya lagi ke kira-kira 750 juta token sebulan.

Pengajaran terbesar di sini sangat mudah: pengoptimuman tidak semestinya bermaksud membeli GPU yang lebih besar atau menambah kuasa komputasi. Kadangkala, terobosan sebenar datang daripada mereka bentuk semula cara sistem berfikir, membaca, dan melaksanakan tugas.

Dahulu, AI terpaksa membaca konteks yang terlalu banyak berulang kali hanya untuk membuat perubahan kecil. Akibatnya, berlakulah pembaziran token, kos meningkat, perlaksanaan menjadi perlahan, dan bebanan tidak perlu menimpa sistem.

Dengan Sistem Berasingan, beban kerja menjadi lebih terfokus. Dengan Refactor dan Resegment, setiap proses menjadi lebih tersusun. AI tidak perlu lagi mengimbas keseluruhan sistem setiap kali. Ia hanya membuat kerja pada bahagian tepat yang penting.

Begitulah cara kami berpindah daripada:

34B → 1.5B → 750M tokens/bulan

Kurang konteks.
\r\nKurang pengulangan.
\r\nKurang pembaziran.
\r\nKos lebih rendah.
\r\nPerlaksanaan lebih pantas.

Bagi saya, ini membuktikan satu perkara dengan jelas: masa depan kecekapan AI bukan sahaja tertakluk kepada perkakasan yang lebih kuat. Ia bergantung kepada seni bina yang lebih pintar.

Kecekapan bermula dengan reka bentuk sistem.

#OpenClaw #AI #LLM #AIAgents #SystemArchitecture #TokenOptimization #SoftwareEngineering #AIEngineering #Kecekapan