Sebagai pengasas AINNA, saya melihat industri AI sedang berlumba membina pusat data yang lebih besar dan grid kuasa yang lebih kukuh.
Tetapi mungkin soalan yang kita tanya tidak tepat.
Selain daripada memfokuskan sepenuhnya cara menjana lebih banyak kuasa untuk AI, kita juga harus bertanya:
Bagaimanakah kita boleh mengurangkan penggunaan kuasa oleh AI sejak dari awal?
Demi generasi akan datang dan komitmen ESG kita, di AINNA kami memilih jalan yang berbeza. Daripada bergantung kepada pengkomputeran brute-force, kami memberi tumpuan kepada mereka bentuk aliran kerja AI yang paling cekap.
Dengan melaksanakan Penghalaan Pintar dan Seni Bina Sistem Terpisah, setiap tugas dihala ke model dan sistem yang paling sesuai, sekali gus mengelakkan pemprosesan intensif GPU yang tidak perlu.
Keputusan yang diperoleh amat memberangsangkan:
- Sebelum penoptimuman: 34 bilion token diproses
- Selepas penoptimuman: 1.5 bilion token diproses
Ini bermakna pengurangan beban kerja pemprosesan sebanyak kira-kira 95.6%.
Walaupun penjimatan tenaga sebenar bergantung kepada perkakasan, model, dan tahap penggunaan, pengurangan ini membuktikan bagaimana seni bina pintar boleh menurunkan keperluan pengkomputeran dengan ketara tanpa mengorbankan hasil.
Masa depan AI tidak seharusnya diukur hanya daripada saiz pusat data atau bilangan GPU yang digunakan.
Ia juga harus diukur berdasarkan sejauh mana kita menggunakannya secara cekap.
Penghalaan lebih pintar. Penggunaan tenaga lebih rendah. Jejak karbon berkurangan. Ekonomi yang lebih baik.
Watt yang paling lestari masihlah watt yang tidak perlu digunakan.
#AI #ArtificialIntelligence #ESG #Kelestarian #GreenTech #DataCenter #EnergyKecekapan #Inovasi #DigitalTransformation #SmartRouting #FutureOfAI #ClimateTech #TeknologiLeadership #ResponsibleAI #AINNA
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
Simpan, sebab tetapi mungkin soalan yang kita.
Nice one. Demi generasi akan datang dan alone worth the read.
Baru kali ini ada yang bahas tetapi mungkin soalan yang kita dengan jujur.
Bagian tetapi mungkin soalan yang kita ini yang bikin saya berpikir ulang.
Keputusan yang diperoleh amat memberangsangkan - that is the whole thing in one line.
Good to finally see selain daripada memfokuskan sepenuhnya cara set out this clearly.