Kami mengurangkan penggunaan token sehingga 90% dengan menghalang AI daripada melakukan kerja yang perisian biasa sudah boleh tangani dengan lebih baik. Ia mungkin tidak kelihatan menggiurkan, tetapi memasukkan LLM atau ejen ke dalam setiap aliran kerja bukan inovasi. Kadangkala, ia semata-mata seni bina yang mahal.
Ambil contoh sesuatu semudah e-mel. Anda tidak memerlukan AI untuk menyemak sama ada e-mel baharu telah tiba, mengenal pasti pengirim, memadankan kata kunci, menyusun data berstruktur, mengemas kini pangkalan data, atau mencetuskan proses seterusnya. Peraturan, penghurai, skrip, dan automasi berketentuan boleh melakukan kerja itu lebih pantas dan dengan pengkomputeran yang jauh lebih sedikit.
Pendekatan yang menggiurkan ialah menghantar segala-galanya kepada LLM. Membacanya. Mengklasifikasikannya. Menyimpulkannya. Menganalisisnya. Mengulanginya. Ia kelihatan mengagumkan pada papan pemuka, tetapi setiap token yang tidak perlu bermaksud lebih banyak pengkomputeran GPU, lebih banyak elektrik, lebih banyak penyejukan, dan akhirnya jejak karbon yang lebih besar diukur dalam tan CO₂e.
Prinsip kami mudah: perisian menangani kerja berketentuan; AI menangani kecerdasan. Gunakan AI untuk penaakulan, ketidakjelasan, tafsiran, dan keputusan. Jangan membazirkan kitar GPU untuk tugas yang beberapa baris kod boleh dijalankan dengan boleh dipercayai.
Jadi, masa depan manakah yang kita mahukan? AI yang menggiurkan tetapi membazirkan pengkomputeran, atau seni bina pintar yang mengurangkan token, kos, elektrik, keperluan penyejukan, dan pelepasan karbon? Kami memilih seni bina yang kurang menggiurkan - kerana masa depan AI tidak seharusnya lebih berkuasa sahaja. Ia seharusnya jauh lebih cekap.
#AI #AIInfrastruktur #NeuralOps #GreenAI #MampanAI #ESG #Automasi #EnterpriseAI #CarbonReduction
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
Ang 90% ang ipapadala ko sa boss ko.
tetapi setiap token yang tidak is the part I would forward to my boss.
Whoever wrote this actually did the work on atau mencetuskan proses seterusnya.