Kami bermula dengan 34 bilion token. Selepas beralih ke seni bina detached system, penggunaan turun kepada kira-kira 1.5 bilion token. Kini, dengan segmentasi proses dan refaktor modular, kami memotongnya lagi kira-kira 50% daripada 1.5 bilion.
Ini bukan sihir. Ini reka bentuk sistem. Kebanyakan kos AI terbuang kerana AI dipaksa membaca sistem, proses, logik, dan aliran kerja yang sama berulang kali untuk setiap perubahan kecil.
Tetapi apabila sistem terpisah dan setiap proses disegmentasikan dengan jelas beserta kamus sendiri, AI hanya membaca apa yang diperlukan. Ubah aliran pembayaran? Baca proses pembayaran sahaja. Ubah semakan pesanan? Baca proses pesanan sahaja. Tiada imbasan sistem penuh. Tiada pembakaran token.
Di sinilah PKS/PKS boleh menang. AI tidak sepatutnya dimiliki oleh syarikat besar dengan pelayan besar dan bajet besar sahaja. Masa depan bukan hanya model lebih besar. Masa depan ialah sistem lebih bijak.
Official Cross-Rangkaian Resource
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. Nama dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
Honestly memotongnya lagi kira-kira 50% caught me off guard. Still thinking this one through.
Belum yakin sepenuhnya pasal 34, tapi hujah dia munasabah.
Not sure I agree with baca proses pembayaran sahaja, but the rest holds up.
Whoever wrote this actually did the work on penggunaan turun kepada kira-kira 1.5.
सच कहूँ तो 34 ने चौंकाया। और विचार करने योग्य।
I would push back slightly on AI hanya membaca apa yang, but the direction is right.
Bahagian 34 tu yang buat saya fikir lama.
Worth reading just for turun kepada kira-kira 1.5. Need to read this part again.