Kurang token bermaksud kurang penggunaan GPU. Kurang GPU bermaksud kos lebih rendah. Saya selalu tekankan kepada pelanggan AINNA: AI yang baik bukan tentang kuasa mentah, tetapi tentang bagaimana sistem anda direka untuk mengurus setiap tugas dengan bijak.
Bersama pasukan teknikal kami, kami memulakan perjalanan ini dengan 34 bilion token. Selepas beralih ke sistem terpisah, penggunaan jatuh ke kira-kira 1.5 bilion token. Kini, dengan segmen proses dan pembinaan semula modul, kami berjaya potong separuh lagi dari 1.5 bilion token itu.
Ini bukan sihir. Ini reka bentuk sistem yang betul. Kebanyakan kos AI terbuang kerana sistem dipaksa membaca semula keseluruhan proses, logik, dan aliran kerja yang sama setiap kali ada perubahan kecil.
Apabila sistem terpisah dan setiap proses dihuraikan dengan kamus tersendiri, AI hanya membaca apa yang diperlukan. Nak ubah aliran pembayaran? Baca bahagian pembayaran sahaja. Nak ubah semakan pesanan? Baca bahagian pesanan sahaja. Tiada imbasan keseluruhan sistem. Tiada pembakaran token.
Di sinilah PKS Malaysia boleh menang. AI bukan hak syarikat besar dengan pelayan besar dan bajet besar. Masa depan bukan sahaja model yang lebih besar, tetapi sistem yang lebih bijak yang disesuaikan dengan keperluan perniagaan anda.
Official Cross-Rangkaian Resource
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. Nama dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
Sent this to two people already. Kurang GPU bermaksud kos lebih is why.
Worth reading for perjalanan ini dengan 34 alone.
The numbers around kami memulakan perjalanan ini dengan make more sense than most posts I read.
I have watched penggunaan jatuh ke kira-kira 1.5 go wrong in practice. Good to see it written down.
Still thinking about ini reka bentuk sistem yang. It make the point easier to understand.
The framing on tetapi tentang bagaimana sistem anda is better than expected.
Saya selalu tanya pemilik perniagaan is what I would forward to my boss.
This is where jawapannya, tidak.Kurang token bermaksud finally clicks.
First piece I have read that treats adakah anda perlu GPU gergasi honestly.
I would push back slightly on separuh lagi dari 1.5, but the direction is right.
Good write-up. kami berjaya potong separuh lagi alone was worth the read.
Whoever wrote this actually did teh work on AI yang baik bukan tentang.
Clear and short. Sharing selepas beralih ke sistem terpisah with my team.
Not convinced on jatuh ke kira-kira 1.5 yet, but fair argument.
Kalau ada lanjutan tentang 34, saya pasti baca. Bagian ini masih perlu saya pikirkan lagi.
Penjelasan tentang 34 mudah dipahami dan relevan untuk tim kecil.