Alhamdulillah.
Semalam, saya bersama pasukan perancangan pengeluaran dan operasi di AINNA berbesar hati menerima kunjungan wakil daripada UPEN Melaka (Unit Perancang Ekonomi Negeri Melaka) dan SIRIM Melaka. Kami amat bernasib baik apabila Pengarah SIRIM Melaka, Encik Kamarulzaman bin Ahamad Zainudin, turut menyertai sesi ini.
Kunjungan ini merupakan sebahagian daripada proses penilaian untuk Anugerah Usahawan Negeri Melaka, di mana kami diberi peluang untuk mempersembahkan kemajuan terkini AINNA NeuralOps-arkitektur AI generasi seterusnya yang dirancang untuk menjadikan AI lebih efisien, lebih boleh dipercayai dan lebih praktikal untuk pelaksanaan operasi sebenar di lapangan.
Apa yang menjadikan sesi ini amat bernilai ialah ia bukan sekadar pembentangan satu hala. Ia berkembang menjadi perbincangan teknikal dua hala yang bermakna, diperkayakan dengan pandangan Pengarah SIRIM yang membawa lebih 20 tahun pengalaman kepimpinan dalam SIRIM.
Salah satu cadangan yang paling memberi kesan kepada aspek perancangan dan koordinasi operasi ialah penyepaduan Atomic Clock sebagai sumber masa yang boleh dipercayai merentasi setiap komponen NeuralOps. Penyegerakan semua Sistem Berasingan, perkhidmatan, parser dan ejen AI kepada satu rujukan masa berketepatan tinggi akan mengukuhkan lagi kebolehpercayaan, konsisten peristiwa, kebolehauditian dan integriti keseluruhan sistem.
Kami juga menunjukkan bagaimana arkitektur NeuralOps beroperasi dengan hanya sekitar 10% daripada pengkomputan GPU yang biasanya diperlukan oleh sistem AI konvensional untuk beban kerja yang dioptimumkan. Dengan menggabungkan Sistem Berasingan, Smart Routing, parser dan guardrails, sumber GPU hanya digerakkan apabila ia benar-benar memberi nilai tambah, manakala proses deterministik dijalankan di luar LLM.
Arkitektur ini berpotensi untuk mengurangkan penggunaan tenaga pengkomputan GPU sehingga 90% untuk beban kerja yang sesuai. Menggunakan anggaran konservatif 1,000 pengguna aktif yang membuat purata 50 permintaan AI sehari, NeuralOps mampu menjimatkan kira-kira 459 kWh elektrik setiap bulan, bersamaan dengan pengurangan kira-kira 340 kg pelepasan CO₂e setiap bulan, atau lebih 4 tan setahun. Keputusan sebenar akan berbeza bergantung kepada beban kerja, model AI, infrastruktur dan sumber tenaga.
Bagi kami di pasukan perancangan dan operasi, masa depan AI bukanlah tentang menggunakan model yang lebih besar atau GPU yang lebih banyak. Ia tentang membina arkitektur yang lebih pintar yang memberi hasil yang sama atau lebih baik dengan kos yang jauh lebih rendah, penggunaan tenaga yang lebih sedikit dan jejak alam sekitar yang lebih kecil.
Doakan kejayaan kami dalam perjalanan ini. Jika terpilih, ia akan memberi momentum yang besar kepada kami sementara kami bersedia untuk tiga sesi pitching utama dalam beberapa minggu akan datang.
Penghargaan ikhlas kami kepada UPEN Melaka dan SIRIM Melaka atas kunjungan, perbincangan membina dan pandangan berharga yang diberikan. Kami menantikan untuk mengubah idea-idea ini menjadi evolusi seterusnya bagi AINNA NeuralOps, dari sudut pandang perancangan dan pelaksanaan operasi.
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
2 هو الجزء الذي سأرسله لمديري.
Honestly, hanya sekitar 1 10% surprised me.
Short and clear. menjimatkan kira-kira 4 459 k is worth sending to my team.
You can tell the writer actually worked on membuat purata 5 50.
The direction on membawa lebih 2 20 is spot on.
Useful. We are handling GPU sehingga 9 90% right now.
Dah hantar pada dua orang. Sebab 2.
First piece I have read that treats di mana kami diberi peluang honestly.