Beberapa tahun kebelakangan ini, industri AI asyik berebut untuk membina model lebih pintar, prompt lebih baik dan aplikasi bertenaga AI. Walaupun ini memecutkan inovasi, ia turut melahirkan cabaran baru. Apabila perniagaan memasang AI dalam skala besar, masalah paling besar bukan lagi model itu sendiri. Cabaran sebenar ialah cara AI diorkestrasi, diurus tadbir dan disepadukan ke dalam operasi harian-terutamanya dalam pengurusan marketplace, inventori dan jualan dalam talian.
Setiap panggilan AI yang tidak perlu menghabiskan sumber GPU, menaikkan kos operasi, meningkatkan penggunaan tenaga dan memperkenalkan kelewatan yang boleh dielak. Banyak proses perniagaan dalam e-dagang tidak memerlukan penaakulan AI canggih. Tugas seperti mengurai data pesanan, mengesahkan pemadanan SKU, menghala pesanan ke gudang/penghantar, pengiraan stok dan keputusan berstruktur biasanya bersifat deterministik dan boleh diselesaikan lebih cekap tanpa memanggil LLM.
Ini menimbulkan satu soalan kejuruteraan penting: sebelum bertanya "Model AI manakah yang patut lakukan tugas ini?", mungkin kita perlu tanya dahulu "Adakah tugas ini sebenarnya memerlukan AI?" Jawapannya memberi kesan besar kepada kos, kemampuan skala, keselamatan dan kelestarian operasi e-dagang.
Saya percaya AI perusahaan kini memasuki fasa baharu di mana kejayaan tidak bergantung kepada penggunaan model paling berkuasa, tetapi kepada reka bentuk seni bina pemprosesan yang betul. Sistem deterministik, penghalaan pintar, infrastruktur AI tempatan, lapisan pengesahan dan AI awan masing-masing mempunyai kekuatan tersendiri. Masa depan milik organisasi yang pandai menggabungkan teknologi ini secara cekap, bukannya menghantar setiap permintaan ke LLM.
Pendekatan seni bina ini juga mengukuhkan kedaulatan data, memperbaiki tadbir urus, mengurangkan kos infrastruktur dan menghasilkan sistem yang lebih mudah diaudit dan diskalakan semasa kempen jualan raya atau pelancaran produk. Dalam banyak kes, menggunakan kurang AI-tetapi dengan lebih bijak-boleh memberi hasil operasi yang lebih baik berbanding memaksimumkan penggunaan AI di setiap sudut.
Pemikiran ini mempengaruhi arah usaha kejuruteraan kami di AINNA. Bukannya hanya membangunkan produk bertenaga AI, kami turut melabur dalam seni bina orkestrasi yang memisahkan beban kerja, mengasingkan pemprosesan deterministik daripada penaakulan AI, menghala setiap tugas ke lapisan pelaksanaan paling sesuai, dan menyokong penyebaran AI tempatan yang selamat bersebelahan dengan perkhidmatan awan. Objektifnya bukan untuk memaksimumkan penggunaan AI, tetapi untuk memaksimumkan kecekapan operasi marketplace dan jualan dalam talian.
Generasi seterusnya syarikat AI perusahaan mungkin tidak dikenang kerana membina model paling pintar. Sebaliknya, mereka mungkin diiktiraf kerana membina infrastruktur paling pintar di sekeliling model itu. Dalam jangka panjang, infrastruktur-bukan model itu sendiri-boleh menjadi kelebihan daya saing sebenar, terutamanya dalam landskap e-dagang Malaysia yang bergerak pantas.
