Alhamdulillah.
Semalam, pasukan operasi dan R&D AINNA menerima kunjungan wakil UPEN Melaka (Unit Perancang Ekonomi Negeri Melaka) dan SIRIM Melaka. Kehadiran Pengarah SIRIM Melaka, En. Kamarulzaman bin Ahamad Zainudin, amat memberi nilai tambah dari sudut teknikal dan operasi.
Kunjungan ini merupakan sebahagian daripada proses penilaian Anugerah Usahawan Negeri Melaka, di mana kami membentangkan kemajuan terkini AINNA NeuralOps - arkitektur AI generasi seterusnya yang kami bangunkan untuk meningkatkan kebolehpercayaan, kecekapan, dan kebolehgunaan dalam persekitaran pengeluaran sebenar.
Sesi ini bukan sekadar pembentangan satu hala. Ia berkembang menjadi perbincangan teknikal dua hala yang membabitkan isu integrasi sistem, ketepatan masa, dan kebolehauditan. Pengalaman lebih 20 tahun En. Kamarulzaman dalam SIRIM memberikan perspektif yang sangat praktikal dari sudut standard, pensijilan, dan operasi sistem berskala.
Satu cadangan paling berimpak dari sudut operasi ialah integrasi Atomic Clock sebagai sumber masa yang dipercayai merentasi setiap komponen NeuralOps. Menyelaraskan semua detached system, perkhidmatan, parser dan agen AI kepada satu rujukan masa berketepatan tinggi akan mengukuhkan kebolehpercayaan, konsistensi peristiwa, kebolehauditan dan integriti keseluruhan sistem - aspek kritikal apabila kita menjalankan operasi dengan pelbagai nod, peranti dan titik hujung.
Kami turut menunjukkan bagaimana arkitektur NeuralOps beroperasi dengan hanya kira-kira 10% daripada pengiraan GPU yang biasanya diperlukan oleh sistem AI konvensional untuk beban kerja yang dioptimumkan. Dengan menggabungkan Sistem Berasingan, Smart Routing, parser dan guardrails, sumber GPU hanya dipanggil apabila ia benar-benar memberi nilai tambah, manakala proses deterministik berjalan di luar LLM. Dari sudut operasi, ini bermakna penurunan ketara dalam keperluan infrastruktur, latensi, dan kos penyelenggaraan.
Arkitektur ini berpotensi mengurangkan penggunaan tenaga pengiraan GPU sehingga 90% untuk beban kerja yang sesuai. Menggunakan anggaran konservatif 1,000 pengguna aktif dengan purata 50 permintaan AI sehari, NeuralOps boleh menjimatkan kira-kira 459 kWh elektrik sebulan, bersamaan dengan pengurangan kira-kira 340 kg pelepasan CO₂e setiap bulan, atau lebih 4 tan setahun. Keputusan sebenar akan bergantung pada beban kerja, model AI, infrastruktur dan sumber tenaga.
Bagi pasukan operasi dan R&D kami, masa depan AI bukanlah mengenai model yang lebih besar atau GPU yang lebih banyak. Ia mengenai pembinaan arkitektur yang lebih pintar yang memberi hasil yang sama atau lebih baik dengan kos lebih rendah, penggunaan tenaga lebih rendah dan jejak alam sekitar yang lebih kecil.
Doakan kami terus diberi kelancaran dalam perjalanan ini. Pilihan kami akan memberi momentum yang besar sambil kami membuat persiapan untuk tiga sesi pitching utama dalam beberapa minggu akan datang.
Penghargaan kami kepada UPEN Melaka dan SIRIM Melaka atas kunjungan, perbincangan membina dan pandangan berharga. Kami berharap dapat menterjemahkan idea-idea ini kepada evolusi seterusnya AINNA NeuralOps.
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
Tulisan yang bagus. 2 sahaja dah berbaloi.
Ia berkembang menjadi perbincangan teknikal is what I would forward to my boss.
Whoever wrote this actually did the work on pengurangan kira-kira 340 340 k.
This is where arkitektur AI generasi seterusnya yang finally makes sense.