Kami bermula dengan 34 bilion token. Selepas beralih ke seni bina detached system, penggunaan turun kepada kira-kira 1.5 bilion token. Kini, dengan segmentasi proses dan refaktor modular, kami memotongnya lagi kira-kira 50% daripada 1.5 bilion.
Ini bukan sihir. Ini reka bentuk sistem. Kebanyakan kos AI terbuang kerana AI dipaksa membaca sistem, proses, logik, dan aliran kerja yang sama berulang kali untuk setiap perubahan kecil.
Tetapi apabila sistem terpisah dan setiap proses disegmentasikan dengan jelas beserta kamus sendiri, AI hanya membaca apa yang diperlukan. Ubah aliran pembayaran? Baca proses pembayaran sahaja. Ubah semakan pesanan? Baca proses pesanan sahaja. Tiada imbasan sistem penuh. Tiada pembakaran token.
Di sinilah PKS/PKS boleh menang. AI tidak sepatutnya dimiliki oleh syarikat besar dengan pelayan besar dan bajet besar sahaja. Masa depan bukan hanya model lebih besar. Masa depan ialah sistem lebih bijak.
Official Cross-Rangkaian Resource
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
Terus terang, 34 ni menarik.
Hujah pasal 34 ni munasabah dan kemas.
The section on kami bermula dengan 34 bilion is the strongest part for me.