AI Tak Perlu Fikir Setiap Masa - Begini Cara Jimat Komput, Tenaga & Air dalam Operasi E-Dagang✎ Edit

Dalam operasi e-commerce, kita semakin banyak bergantung pada AI untuk chatbot, auto-response, dan analisis data. Tapi ada satu sisi AI yang jarang dibincangkan: penggunaan elektrik, penyejukan dan air.

Kajian terkini menunjukkan, selepas model AI dilatih dan digunakan, inference (proses menjana jawapan) boleh menyumbang 80–90% daripada penggunaan tenaga. Setiap panggilan LLM yang tidak perlu - contohnya bila chatbot menjawab soalan yang sama berulang kali - bermakna lebih banyak GPU compute, lebih elektrik, lebih haba, dan akhirnya lebih keperluan penyejukan. Ini kos yang kita tanggung, bukan hanya dalam bentuk wang, tapi juga kesan alam sekitar.

Ini sebabnya kami di AINNA sedang membangunkan NeuralOps dengan prinsip yang berbeza:

Bukan setiap tugas dalam e-commerce perlu menggunakan LLM.

Dengan Smart Routing, satu tugas - contohnya menyemak status pesanan atau mengira stok - boleh diselesaikan dahulu oleh rules, parsers, databases, API atau model yang lebih kecil. Penaakulan LLM yang berat hanya digunakan apabila benar-benar perlu, seperti memahami soalan pelanggan yang kompleks. Bila workflow dah stabil, ia boleh ditukar menjadi sistem deterministik yang terpisah yang berjalan berulang kali tanpa perlu memanggil LLM. Ini bermakna proses yang sama tidak perlu 'difikir' semula oleh AI setiap kali.

Untuk workflow yang berulang-ulang seperti pengemaskinian harga produk atau pengiraan komisen, seni bina ini berpotensi mengurangkan permintaan inference AI sehingga 90%. Bayangkan jika kita ada 10,000 transaksi sehari - kita hanya perlu panggil LLM untuk kes yang benar-benar unik.

Kesannya bukan sekadar jimat token atau kos API.

Kurang inference → Kurang GPU compute → Kurang elektrik → Kurang haba → Kurang penyejukan → Kurang penggunaan air. Ini rantaian yang terus mengurangkan jejak karbon operasi kita.

Ada satu lagi kelebihan yang jarang disedari: kebolehpercayaan.

Bila workflow terpisah tidak lagi bergantung pada LLM semasa pelaksanaan, terdapat sifar token LLM dan sifar halusinasi LLM dalam laluan pelaksanaan tersebut. Ini penting dalam e-commerce - kita tidak mahu chatbot memberi jawapan yang salah atau 'mereka-reka' fakta untuk soalan yang sudah ada jawapan standard. Kecerdasan digunakan di mana reasoning diperlukan, manakala sistem deterministik mengendalikan operasi yang berulang dengan tepat.

Bagi saya, AI yang mampan bukan sahaja tercapai dengan membina pusat data yang lebih efisien.

Ia juga datang daripada mengelakkan inference AI yang tidak perlu daripada sampai ke pusat data. Dalam erti kata lain, kita perlu bijak memilih bila nak guna AI - bukan sekadar untuk semua benda.

Itulah hala tuju yang kami terokai dengan NeuralOps di AINNA:
gunakan AI apabila kecerdasan diperlukan, dan gunakan sistem deterministik apabila tidak. Ini cara paling praktikal untuk memastikan operasi e-commerce kita cekap, jimat, dan mampan dalam jangka panjang.

#ArtificialIntelligence #AgenticAI #NeuralOps #SovereignAI #GreenAI #SustainableAI #DataCentre #AIInfrastructure #SmartRouting #Automasi #PKS