Setiap hari di lapangan, saya membina sekurang-kurangnya tiga detached system, selain menghasilkan kira-kira empat pitch deck lengkap setiap minggu - semuanya dengan sokongan AI agents.
Merangkumi development, research, coding, testing, documentation, analisis dan iteration, beban kerja AI kami boleh mencapai 3–5 billion tokens setiap bulan.
Jika ditukar kepada harga API LLM premium komersial, kos setara boleh mudah mencapai ratusan ribu ringgit setiap bulan.
Bayangkan pula dalam persekitaran korporat.
Sebuah organisasi dengan ratusan atau ribuan pekerja, setiap satunya menggunakan AI agents untuk research, analisis, reporting, coding, documentation, operasi dan sokongan keputusan.
Penggunaan token akan melonjak amat pantas.
Pada masa yang sama, syarikat korporat semakin tiada pilihan selain menggunakan AI agents.
Mengapa?
Kerana syarikat kecil seperti kami kini boleh capai tahap produktiviti yang dahulu memerlukan ratusan atau malah ribuan pekerja.
AI semakin mengecilkan jurang produktiviti antara syarikat kecil dan syarikat besar.
Tapi ada satu lagi sisi.
Produktiviti AI tidak semestinya bermakna perbelanjaan AI yang besar.
Dalam operasi kami, walaupun kira-kira 3 billion tokens setiap bulan, kos AI terus boleh kekal hanya kira-kira RM100–RM200 setiap bulan.
Perbezaannya bukan kerana kami kurang guna AI.
Tapi kerana kami membina arkitektur Smart Routing di sekeliling AI agents kami.
Bukan setiap tugas perlu dihantar ke model paling besar atau paling mahal.
Tugas mudah → model lightweight.
Tugas coding → model specialised.
Penalaran kompleks → model lebih kuat.
Pengesahan deterministik → detached systems.
Pemprosesan berulang → automation dan computing konvensional.
Prinsipnya mudah:
Gunakan kecerdasan premium hanya apabila benar-benar diperlukan.
Sistem terasing kami mengendalikan validation, calculations, filtering, reconciliation, keputusan berasaskan peraturan dan pemprosesan berstruktur yang tidak memerlukan LLM.
Ini membolehkan kami guna AI secara agresif tanpa bayar seolah-olah setiap tugas memerlukan model paling berkuasa.
Bagi saya, masa depan Enterprise AI bukan semata-mata:
"Beri setiap pekerja satu AI agen."
Sebaliknya:
"Beri setiap pekerja satu AI agen - tetapi bina infrastruktur pintar di bawahnya."
Kerana apabila organisasi mempunyai 1,000 atau 10,000 pekerja berkemampuan AI, soalan sebenar bukan lagi sama ada ia guna AI.
Soalan sebenarnya menjadi:
Berapa banyak kecerdasan yang organisasi bayar tetapi sebenarnya tidak pernah diperlukan?
Inilah sebabnya kami melihat Smart Routing, specialised models dan detached systems sebagai lebih daripada sekadar optimasi.
Ia sedang menjadi infrastruktur kawalan kos AI.
Pada skala enterprise, perbezaan itu boleh bernilai jutaan ringgit setiap tahun.
Fasa seterusnya penggunaan AI bukan sahaja tentang model yang paling berkuasa.
Ia akan menjadi tentang mengetahui bila tidak perlu menggunakannya.
#ArtificialIntelligence #AIAgents #EnterpriseAI #SmartRouting #NeuralOps #Automasi #DigitalTransformation #AIInfrastruktur #LLM #Productivity
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
ที่ทำงานกำลังเจอ3อยู่พอดี มีประโยชน์
The section on kira-kira 3 b 3 billion is the strongest part for me.
Good to finally see mencapai 3–5 bi 5 billion set out this clearly.
حفظته، خصوصًا من أجل 3.