Jika pasukan AI kami mula tersentuh had model premium sebelum hari ke-7, itu bukan sekadar masalah token.
Itu masalah unit economics dan seni bina.
Mungkin kami perlu semak semula strategi model, macam kami semak semula routing penghantaran.
Bagi kami, ChatGPT Pro + Ollama jadi kombinasi paling praktikal. Kami guna model optimum seperti Luna dan DeepSeek V4.1 secara agresif untuk pembangunan, distilasi dan membina sistem berasingan - manakala model lebih tinggi biasanya masuk hanya untuk audit akhir, validasi dan pemberian arahan.
Dalam sebulan sahaja, kami bina 25 sistem berasingan, hampir separuh sudah berasaskan app, dan kemajuan pembangunan kami kini lebih kurang 3× lebih pantas.
Kami juga bangunkan ejen AI dengan keupayaan routing pintar, serta CLI berasaskan web dan protokol Telegram.
Jumlah kos operasi AI? Sekitar RM200/bulan sahaja.
Dan bukan pembangunan sahaja. Staf kami guna stack yang sama untuk kerja harian, termasuk menjana ribuan imej setiap minggu.
Jadi bahagian menarik bukan sekadar kos AI yang lebih rendah.
Ia adalah apa yang berlaku apabila model routing, ejen dalaman dan sistem berasingan mula menjadi infrastruktur kami sendiri - bukan bergantung pada satu model mahal untuk semua perkara.
Mungkin token tak penat lagi. GPU pula yang naik muak tengok kami. He he he.
Guna model yang betul untuk kerja yang betul. Simpan model paling kuat untuk audit dan hala tuju, dan jadikan kecerdasan yang berulang sebagai infrastruktur yang kami miliki sendiri.
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
أول مرة أقرأ شيئًا صريحًا عن 7.
Sent this to two people already. Mungkin kami perlu semak semula is why.
First piece I have read that treats itu bukan sekadar masalah token honestly.