Ramai membincangkan penggunaan elektrik oleh AI, haba yang terhasil dan tekanan terhadap sumber air untuk penyejukan data centre.
Namun, mungkin kita sedang mengajukan soalan yang kurang tepat.
Soalannya bukan sekadar:
“Berapakah tenaga yang digunakan oleh AI?”
Kita juga perlu bertanya:
“Mengapa kita menggunakan compute AI yang mahal untuk tugasan yang sebenarnya tidak memerlukannya sejak awal?”
Tidak semua tugasan memerlukan model frontier.
Semakan mudah tidak memerlukan LLM berskala besar.
Aliran kerja berulang tidak memerlukan penaakulan mendalam.
Logik perniagaan yang telah diketahui tidak memerlukan ribuan token setiap kali ia dijalankan.
Inilah prinsip yang menjadi asas kepada usaha kami melalui NeuralOps:
Gunakan AI lanjutan hanya apabila ia benar-benar diperlukan.
Salurkan tugasan mudah kepada sistem deterministik.
Gunakan model yang lebih kecil atau model setempat apabila bersesuaian.
Simpan hasil yang boleh digunakan semula melalui cache.
Kurangkan konteks dan pemprosesan token yang tidak diperlukan.
Salurkan tugasan kepada model berkuasa hanya apabila masalah tersebut benar-benar memerlukannya.
Compute yang tidak diperlukan bermakna pemprosesan yang lebih rendah, permintaan tenaga yang lebih kecil dan kurang haba untuk diuruskan.
Masa depan AI yang mampan bukan sekadar tentang membina data centre yang lebih hijau.
Ia juga tentang membina seni bina AI yang lebih pintar sebelum beban kerja itu sampai ke data centre.
Kecekapan AI bukan hanya masalah infrastruktur.
Ia ialah masalah seni bina.
#ArtificialIntelligence #MampanAI #GreenAI #NeuralOps #AIInfrastruktur #DataCenter #EnergyKecekapan #ESG #AgenticAI #DigitalTransformation
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
Di sini baru haba yang terhasil dan tekanan nampak masuk akal.
Ringkas dan jelas. haba yang terhasil dan tekanan boleh kongsi dengan team saya.
Cara dia bingkai haba yang terhasil dan tekanan lebih baik daripada yang saya sangka.
Lebih jelas daripada dek vendor yang saya terima pasal haba yang terhasil dan tekanan.
The bit about gunakan model yang lebih kecil is what I keep coming back to.
第一次看到有人把这段说明讲得这么坦白。
The section on compute yang tidak diperlukan bermakna is the strongest part for me.
इस हिस्से से सहमत हूँ और दिशा साफ़ है।