Alhamdulillah.
Semalam, pasukan operasi AINNA menerima lawatan dari UPEN Melaka (Melaka Keadaan Economic Perancangan Unit) dan SIRIM Melaka ke pejabat kami. Kami juga mendapat kesempatan bersemuka dengan En. Kamarulzaman bin Ahamad Zainudin, Pengarah SIRIM Melaka - seseorang yang memahami betul bagaimana piawai dan kualiti sistem perlu dijayakan di lapangan.
Lawatan ini sebahagian daripada proses penilaian Melaka Keadaan Usahawan Award. Kami mengambil peluang ini untuk mempersembahkan perkembangan terkini AINNA NeuralOps - arkitektur AI kami yang dibina untuk berfungsi dengan cekap, stabil dan praktikal dalam persekitaran operasi sebenar.
Yang paling berharga bagi saya, sesi ini bukan sekadar pembentangan satu hala. Ia berkembang menjadi perbincangan teknikal dua hala yang padat. Input dari Pengarah SIRIM, yang membawa lebih 20 tahun pengalaman kepimpinan dalam SIRIM, memberi perspektif operasi dan pematuhan yang amat kami hargai.
Salah satu cadangan paling memberi kesan ialah penyepaduan Atomic Clock sebagai sumber masa yang dipercayai merentasi setiap komponen NeuralOps. Apabila semua detached systems, perkhidmatan, parser dan AI agents diselaraskan kepada satu rujukan masa berketepatan tinggi, kita dapat mengukuhkan kebolehpercayaan, konsisten peristiwa, kebolehauditian dan integriti keseluruhan sistem.
Kami juga menunjukkan bagaimana arkitektur NeuralOps beroperasi hanya dengan kira-kira 10% daripada GPU compute yang biasanya diperlukan oleh sistem AI konvensional untuk beban kerja optimum. Dengan gabungan Sistem Berasingan, Smart Routing, parser dan guardrails, sumber GPU hanya dipanggil apabila ia benar-benar memberi nilai tambah, manakala proses deterministik dijalankan di luar LLM.
Secara operasi, arkitektur ini berpotensi mengurangkan penggunaan tenaga GPU compute sehingga 90% untuk beban kerja yang sesuai. Menggunakan anggaran konservatif 1,000 pengguna aktif dengan purata 50 permintaan AI sehari, NeuralOps mampu menjimatkan kira-kira 459 kWh elektrik sebulan, bersamaan pengurangan kira-kira 340 kg pelepasan CO₂e sebulan, atau lebih 4 tan setahun. Hasil sebenar bergantung kepada beban kerja, model AI, infrastruktur dan sumber tenaga yang digunakan.
Bagi pasukan operasi dan pembangunan perniagaan kami, masa depan AI bukan soalan model yang lebih besar atau GPU yang lebih banyak. Ia tentang membina arkitektur yang lebih pintar - menghasilkan prestasi sama atau lebih baik, tetapi dengan kos lebih rendah, penggunaan tenaga lebih rendah dan jejak alam sekitar yang jauh lebih kecil.
Doakanlah kami terus diberi kelancaran dalam perjalanan ini. Jika terpilih, ia akan memberi momentum besar kepada persiapan kami menghadapi tiga sesi pitching utama dalam beberapa minggu akan datang.
Settinggi-tinggi penghargaan kami kepada UPEN Melaka dan SIRIM Melaka atas lawatan, perbincangan membina dan panduan berharga yang diberikan. Kami akan terus bekerja keras untuk menjadikan idea-idea ini sebagai evolusi seterusnya dalam operasi AINNA NeuralOps.
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
Kalau ada lanjutan tentang 20, saya pasti baca.
The numbers around stabil dan praktikal dalam persekitaran make more sense than most posts I read.
membawa lebih 20 20 - that is the whole thing in one line.
First piece I have read that treats compute sehingga 90% 90% honestly.
Whoever wrote this actually did the work on yang paling berharga bagi saya.
Good write-up. Kami mengambil peluang ini untuk alone was worth the read.
Still thinking about kami juga mendapat kesempatan bersemuka.
The framing around menjimatkan kira-kira 459 459 k is better than I expected.