Kita boleh potong penggunaan token sehingga 90% apabila kita berhenti meminta AI melakukan tugas yang perisian biasa sudah uruskan dengan lebih baik. Ia mungkin tidak kelihatan menarik, tetapi memaksakan LLM atau ejen ke dalam setiap aliran kerja bukanlah inovasi. Kadangkala, ia hanyalah seni bina yang mahal.
Ambil contoh sesuatu seringkas e-mel. Kita tidak memerlukan AI untuk memeriksa sama ada e-mel baharu sudah tiba, mengenal pasti pengirim, memadankan kata kunci, menyusun data berstruktur, mengemas kini pangkalan data, atau mencetuskan proses seterusnya. Peraturan, penghurai, skrip, dan automasi berketentuan boleh melakukan tugas itu dengan lebih pantas dan hanya memerlukan sebahagian kecil daripada pengiraan.
Pendekatan yang nampak menarik ialah menghantar segala-galanya ke LLM. Bacanya. Kelaskannya. Ringkasannya. Analisiskannya. Ulangi. Ia kelihatan mengagumkan pada papan pemuka, tetapi setiap token yang tidak perlu bermaksud lebih banyak pengiraan GPU, lebih banyak tenaga elektrik, lebih banyak penyejukan, dan akhirnya jejak karbon yang lebih besar diukur dalam tan CO₂e.
Prinsip kami di AINNA mudah: perisian mengendalikan kerja berketentuan; AI mengendalikan kecerdasan. Gunakan AI untuk penaakulan, keraguan, tafsiran, dan keputusan. Jangan membazirkan kitaran GPU untuk tugas yang beberapa baris kod boleh jalankan dengan yakin.
Jadi, masa depan manakah yang kita mahu bina bersama? AI yang menarik tetapi membazirkan pengiraan, atau seni bina pintar yang mengurangkan token, kos, tenaga elektrik, keperluan penyejukan, dan pelepasan karbon? Kita memilih seni bina yang kurang menarik itu - kerana masa depan AI bukan sahaja harus lebih berkuasa, tetapi juga harus jauh lebih cekap.
#AI #AIInfrastructure #NeuralOps #GreenAI #SustainableAI #ESG #Automasi #EnterpriseAI #CarbonReduction
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. Nama dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
First piece that handles kadangkala, ia hanyalah seni bina honestly.
I read this twice. Ia mungkin tidak kelihatan menarik is the part that stuck.
The numbers around atau mencetuskan proses seterusnya make more sense than most posts I read. Still thinking this one through.
Honestly, perisian mengendalikan kerja berketentuan; AI surprised me.
Good write-up. dan akhirnya jejak karbon yang alone was worth the read.