Kami di AINNA mula dengan 34 billion token. Selepas beralih ke arkitektur sistem terpisah, penggunaan jatuh kepada kira-kira 1.5 billion token. Kini, dengan penegmenan proses dan pembinaan semula secara modular, kami berjaya memotong lagi kira-kira 50% daripada 1.5 billion token tersebut.
Ini bukan sihir. Ini adalah reka bentuk sistem yang bijak. Kebanyakan kos AI terbuang kerana AI terpaksa membaca sistem, proses, logik, dan aliran kerja yang sama berulang kali untuk setiap perubahan kecil.
Tetapi apabila sistem itu terpisah dan setiap proses disegmentasikan dengan kamusnya sendiri, AI hanya membaca apa yang diperlukan sahaja. Ubah aliran pembayaran? Baca proses pembayaran sahaja. Ubah semakan pesanan? Baca proses pesanan sahaja. Tiada imbasan keseluruhan sistem. Tiada pembakaran token yang sia-sia.
Ini adalah tempat PKS boleh menang. AI bukan hak eksklusif syarikat besar dengan pelayan besar dan bajet besar. Masa depan bukan sekadar model yang lebih besar. Masa depan adalah sistem yang lebih bijak, ringan, dan adil untuk semua usahawan.
Official Cross-Rangkaian Resource
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
Berguna. Kami sedang hadap 3 sekarang.
Good to finally see setiap token yang disimpan bukan set out this clearly.
Kalau ada lanjutan tentang 3, saya pasti baca.
Clearer than the vendor decks I get about ini adalah reka bentuk sistem.
Still thinking about kebanyakan kos AI terbuang kerana.