Di AINNA, kami dalam pasukan operasi e-dagang selalu buka dashboard marketplace. Kami faham betul: mengurus beratus-ratus order, SKU, refund, komisen platform, voucher, dan status penghantaran bukan kerja mudah. Tapi ramai orang dalam industri ini masih tak sedar betapa rumitnya automasi operasi marketplace apabila kita bercakap tentang skala.
Bayangkan 100 seller. Setiap seller ada 100 SKU, dan masing-masing menerima puluhan order sehari dengan pelbagai status. Itu bukan "100 seller" sahaja. Ia beratus-ratus transaksi, data SKU, stok berubah-ubah, order duplikat, refund, dispute, komisen platform, voucher, bayaran COD, dan deskripsi produk yang tidak konsisten.
Jika kita gunakan pendekatan pertama, di mana agen AI membaca dan menaakul semua data secara langsung, untuk satu seller dengan data sederhana, workflow AI penuh mungkin menggunakan kira-kira 200,000 hingga 500,000 token setiap seller - termasuk pengekstrakan, klasifikasi, validasi, pembetulan, dan penjanaan laporan. Untuk 100 seller, jumlahnya mencecah kira-kira 20 juta hingga 50 juta token.
Menggunakan Claude sebagai model premium untuk pemprosesan penuh, kos boleh membesar dengan pantas. Jika kita ambil anggaran pertengahan 35 juta token, dengan 80% input dan 20% output, itu bermakna kira-kira 28 juta token input dan 7 juta token output. Pada harga permulaan Claude Sonnet $2 untuk input dan $10 untuk output setiap satu juta token, jumlahnya lebih kurang $126. Pada harga standard $3 input dan $15 output, ia menjadi lebih kurang $189.
Pendekatan kedua berbeza. AI tidak membaca semuanya berulang kali. Sistem detached akan mengekstrak data order dan jualan ke dalam struktur baris transaksi, membersihkan data, mengesan duplikat, memisahkan jenis transaksi, menggunakan peraturan operasi, memetakan deskripsi standard, mengesahkan output, dan hanya menghantar transaksi yang kabur atau berisiko tinggi kepada AI.
Dengan cara ini, kita boleh guna Qwen atau model kos rendah lain kerana guardrails sudah mengawal workflow. Model itu tidak diminta "faham semuanya dari mula". Ia hanya mengendalikan pengecualian tertentu. Jika hanya 5% hingga 15% transaksi memerlukan semakan AI, jumlah penggunaan token keseluruhan mungkin jatuh ke kira-kira 3 juta hingga 7 juta token untuk kesemua 100 seller.
Menggunakan anggaran pertengahan 5 juta token, dengan 80% input dan 20% output, itu bermakna 4 juta token input dan 1 juta token output. Dengan model routed berasaskan Qwen yang berkos rendah, kos inferens AI mungkin di bawah $1 untuk sesetengah struktur harga - tidak termasuk OCR, hosting, storage, kejuruteraan, dan kos semakan manusia.
Jadi perbandingan sebenar bukan setakat Claude vs Qwen. Itu terlalu cetek. Perbandingan sebenarnya ialah rekabentuk sistem. Claude yang memproses segala-galanya secara langsung mungkin memakan kos $126 hingga $189 untuk contoh ini. Sistem detached yang menggunakan Qwen hanya untuk pengecualian routed mungkin mengurangkan kos token AI kepada di bawah $1, bergantung pada harga penyedia.
Ini sebabnya smart routing, segmentation, dan guardrails penting dalam operasi e-dagang. Masa depan automasi marketplace dan pengurusan inventori untuk perniagaan Malaysia bukanlah "hantar beratus-ratus ribu data kepada model AI paling besar". Model yang lebih bijak ialah: sistem uruskan apa yang berstruktur, AI uruskan apa yang tidak pasti, dan manusia semak apa yang berisiko.
Di situlah penjimatan kos menjadi serius.
#ArtificialIntelligence #AIAgents #DetachedSystems #SmartRouting #Guardrails #EcommerceOperations #MarketplaceManagement #InventoryOps #PKS #TokenEfficiency #Automasi #AINNA
