Hari ini, dalam operasi harian saya, saya membina tidak kurang daripada tiga sistem detached setiap hari, selain menyediakan kira-kira empat pitch deck lengkap setiap minggu - kesemuanya dengan sokongan agen AI.
Dari sudut pembangunan, penyelidikan, pengekodan, ujian, dokumentasi, analisis dan iterasi, beban kerja AI kami boleh mencapai 3–5 bilion token setiap bulan.
Jika ditukar kepada harga API LLM premium komersial, kos setara itu dengan mudah boleh mencapai ratusan ribu ringgit setiap bulan.
Sekarang, bayangkan situasi ini dalam persekitaran korporat.
Bayangkan sebuah organisasi dengan ratusan atau ribuan pekerja, masing-masing dilengkapi dengan agen AI untuk penyelidikan, analisis, pelaporan, pengekodan, dokumentasi, operasi dan sokongan keputusan.
Penggunaan token akan meningkat dengan sangat pantas.
Pada masa yang sama, korporat semakin tidak mempunyai banyak pilihan selain mengamalkan agen AI.
Mengapa?
Kerana syarikat kecil seperti kami kini boleh mencapai tahap produktiviti yang dahulu memerlukan ratusan atau malah ribuan pekerja.
AI semakin mengecilkan jurang produktiviti antara syarikat kecil dan korporat besar.
Tetapi ada satu lagi sisi.
Produktiviti AI tidak semestinya bermaksud perbelanjaan AI yang besar.
Dalam persekitaran kami, walaupun pada kira-kira 3 bilion token setiap bulan, kos AI terus boleh kekal hanya kira-kira RM100–RM200 setiap bulan.
Perbezaan itu bukan kerana kami menggunakan lebih sedikit AI.
Ia kerana kami membina arkitektur Smart Routing di sekeliling agen AI kami.
Bukan setiap tugas perlu dihantar kepada model yang paling besar atau paling mahal.
Tugas mudah → model ringan.
Tugas pengekodan → model pakar.
Penaakulan kompleks → model lebih kuat.
Pengesahan deterministik → sistem detached.
Pemprosesan berulang → automasi dan pengkomputeran konvensional.
Prinsipnya mudah:
Gunakan kecerdasan premium hanya apabila ia benar-benar diperlukan.
Sistem detached kami mengendalikan pengesahan, pengiraan, penapisan, penyesuaian, keputusan berasaskan peraturan dan pemprosesan berstruktur yang tidak memerlukan LLM.
Ini membolehkan penggunaan AI secara agresif tanpa membayar seolah-olah setiap tugas memerlukan model paling berkuasa.
Dari perspektif operasi dan R&D, masa depan Enterprise AI bukan sekadar:
“Berikan setiap pekerja satu agen AI.”
Seharusnya:
“Berikan setiap pekerja satu agen AI - tetapi bina infrastruktur pintar di bawahnya.”
Kerana apabila sebuah organisasi mempunyai 1,000 atau 10,000 pekerja berkemampuan AI, soalan sebenar bukan lagi sama ada ia menggunakan AI.
Soalan sebenar menjadi:
Berapa banyak kecerdasan yang organisasi itu bayar tetapi sebenarnya tidak pernah diperlukan?
Inilah sebabnya kami melihat Smart Routing, model pakar dan sistem detached sebagai lebih sekadar pengoptimuman.
Ia menjadi infrastruktur kawalan kos AI.
Pada skala perusahaan, perbezaan itu boleh bernilai berjuta-juta ringgit setiap tahun.
Fasa seterusnya pengamalan AI bukan hanya tentang model paling berkuasa.
Ia akan menjadi tentang mengetahui bila tidak perlu menggunakannya.
#ArtificialIntelligence #AIAgents #EnterpriseAI #SmartRouting #NeuralOps #Automasi #DigitalTransformation #AIInfrastruktur #LLM #Productivity
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
Orang yang tulis ni memang buat kerja rumah pasal RM10.
Bookmarked, mainly for kesemuanya dengan sokongan agen AI.
This is where saya membina tidak kurang daripada finally makes sense.
Still thinking about hanya kira-kira RM10 RM100.
Good to finally see beban kerja AI kami boleh set out this clearly.
เซฟไว้ก่อน เพราะRM10