AI Tidak Perlu Berfikir Setiap Kali - AI Lebih Pintar Menggunakan Kurang Pengkomputeran, Tenaga dan Air
Infrastruktur AI berkembang pesat, tetapi terdapat satu lagi sisi AI yang perlu kita bincangkan: penggunaan tenaga elektrik, penyejukan dan air. Penyelidikan terkini menunjukkan bahawa inferens boleh menyumbang kira-kira 80–90% daripada penggunaan tenaga model AI setelah ia dikerahkan.
AI Tidak Memerlukan Lebih Banyak Kuasa Komputer. Ia Memerlukan Seni Bina yang Lebih Pintar.
Everyone is talking about AI consuming electricity, generating heat, and putting pressure on water resources for data centre cooling. But perhaps we are as...
AirLLM: AI Tanpa GPU Raksasa
AirLLM may become one of the biggest shifts in how we think about AI infrastructure. You can now run a 70B model on just a 4GB GPU and even scale up experi...
NeuralOps ke Pentas SAY ASPIRE: AINNA Memperjuangkan AI Berdaulat dengan Pengurangan 90% Penggunaan Pemprosesan
AINNA terpilih antara 10 syarikat daripada 50 peserta untuk bentangan di hadapan YTM Raja Muda Selangor menerusi SAY ASPIRE. Kami akan membawa visi NeuralOps untuk AI berdaulat, distilasi model dan pengurangan penggunaan pemprosesan sehingga 90%.
