Dari pengalaman mengurus operasi logistik di AINNA, kami berjaya kurangkan penggunaan token sehingga 90% dengan memastikan AI tidak melakukan kerja yang perisian atau sistem operasi biasa sudah boleh tangani dengan lebih baik. Ia mungkin tidak kelihatan canggih, tetapi memasukkan LLM atau ejen ke dalam setiap aliran kerja operasi bukan inovasi. Kadangkala, ia sekadar seni bina yang mahal.
Ambil contoh proses pesanan harian. Kami tidak perlu AI untuk menyemak sama ada pesanan baharu masuk, mengenal pasti pelanggan, memadankan SKU, menyusun data berstruktur, mengemas kini inventori, atau mencetuskan proses seterusnya seperti pemungutan dan pembungkusan. Peraturan, parser, skrip, dan automasi deterministik boleh melakukan semua itu lebih pantas dan dengan kos pengiraan yang jauh lebih rendah.
Pendekatan 'cantik' ialah menghantar semua data ke LLM. Baca. Kelaskan. Ringkaskan. Analisis. Ulang. Ia kelihatan hebat di papan pemuka, tetapi setiap token yang tidak perlu bermakna lebih banyak pengiraan GPU, lebih banyak elektrik, lebih banyak penyejukan, dan akhirnya jejak karbon yang lebih besar diukur dalam tan CO₂e - sesuatu yang kami di logistik perlu pantau secara teliti.
Prinsip kami mudah: perisian menangani kerja deterministik; AI menangani kepintaran. Gunakan AI untuk penaakulan, kekaburan, pentafsiran, dan keputusan operasi seperti ramalan permintaan atau pengurusan pengecualian pengiriman. Jangan bazirkan kitar GPU untuk tugas yang beberapa baris kod boleh jalankan dengan boleh dipercayai.
Jadi, masa depan operasi yang mana kita mahukan? AI 'cantik' yang membazirkan pengiraan, atau seni bina bijak yang mengurangkan token, kos, elektrik, keperluan penyejukan, dan pelepasan karbon? Kami memilih seni bina yang kurang glamor - kerana masa depan AI dalam logistik bukan sahaja perlu lebih berkuasa, tetapi juga jauh lebih cekap.
#AI #AIInfrastruktur #NeuralOps #GreenAI #MampanAI #ESG #Automasi #EnterpriseAI #CarbonReduction
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
Malinaw ang paliwanag tungkol sa 90% at madaling sundan.
Useful. We are dealing with pendekatan 'cantik' ialah menghantar semua right now.
Worth reading for kami tidak perlu AI untuk alone.
I read this twice. Ambil contoh proses pesanan harian is the part that stuck.
The framing around tetapi memasukkan LLM atau ejen is better than I expected.