Dari pengalaman saya uruskan operasi di AINNA, AI agens memang kedengaran hebat dalam marketing. Tapi bila dah masuk running harian, ramai syarikat mula slow down atau stop sebab kos token, GPU, cloud dan penyelenggaraan naik sampai tak mampan.
Kesilapan besar yang saya selalu nampak: guna LLM untuk semua benda. Kerja mudah seperti parse data, format fail atau route permintaan - jalan sahaja pakai parser, rule-based automation atau sistem berasingan. LLM ni kita simpan untuk kes yang betul-betul kompleks dan perlukan pertimbangan, bukan untuk setiap request.
