Tadbir urus AI sering dibincangkan di peringkat dasar.
Tetapi dalam operasi sebenar, terutamanya dalam persekitaran logistik, tadbir urus itu hanya menjadi berkesan setelah diterjemahkan ke dalam seni bina sistem.
Peraturan mungkin mensyaratkan kebolehpercayaan, kebolehauditan, pemantauan dan pengesahan bebas. Soalan yang lebih penting ialah bagaimana keperluan ini dilaksanakan sebelum output AI menjadi keputusan operasi atau perniagaan - sama ada untuk penghalaan pergerakan barang, pemprosesan dokumen atau keputusan penyumberan.
Berdasarkan pengalaman saya dalam pembangunan dan pengoptimuman sistem operasi di AINNA, terdapat tiga komponen seni bina yang saya anggap asas:
Smart Routing
Tidak setiap tugas perlu dihantar ke model AI yang sama.
Sistem perlu mengklasifikasikan permintaan terlebih dahulu berdasarkan jenis tugas, kerumitan, format data, tahap risiko dan ketepatan yang diperlukan. Selepas itu, permintaan itu boleh dihala ke model AI yang paling sesuai, enjin deterministik, aliran kerja berasaskan peraturan atau parser khusus.
Ini bermakna risiko diurus seawal proses, bukan hanya selepas jawapan telah dihasilkan.
Multiple Specialised Parsers
Parser tunggal mencipta satu titik kegagalan.
Pelbagai parser boleh mengekstrak dan mentafsir input yang sama melalui kaedah yang berbeza. Hasil mereka kemudiannya boleh dibandingkan, diselaraskan dan disahkan sebelum sistem menerima hasilnya.
Apabila output tidak bersetuju, sistem boleh menghentikan, menghala semula atau menanda transaksi berkenaan, bukannya membiarkan hasil yang tidak boleh dipercayai diteruskan secara senyap.
Sistem Berasingan
Model AI tidak sepatutnya bertanggungjawab meluluskan outputnya sendiri.
Pengesahan, penyelarasan, guardrails, peraturan perniagaan, penilaian keyakinan dan log pengauditan perlu beroperasi di luar model melalui komponen sistem yang bebas.
Prinsipnya mudah:
AI menghasilkan. Sistem mengesahkan.
Dengan seni bina ini, risiko halusinasi tidak diurus hanya pada peringkat akhir. Ia dikawal sepanjang aliran kerja, dari penghalaan dan penganalisisan hingga ke pengesahan dan penerimaan.
Ini tidak bermakna halusinasi boleh dihapuskan sepenuhnya. Ia bermakna output yang tidak boleh dipercayai boleh dikesan, dikurangkan dan dicegah daripada sampai ke lapisan keputusan akhir.
Lebih penting lagi, seni bina ini juga boleh menyokong prestasi ESG yang lebih baik.
Smart Routing menghalang setiap permintaan dihantar ke model terbesar dan paling mahal. Proses deterministik, parser khusus dan model yang lebih kecil boleh mengendalikan tugas mudah, manakala model canggih hanya digunakan apabila benar-benar diperlukan.
Ini mengurangkan penggunaan token yang tidak perlu, pemprosesan GPU, penggunaan elektrik, keperluan penyejukan dan kos infrastruktur.
Oleh itu, AI yang boleh dipercayai tidak sepatutnya bergantung hanya kepada model yang berkuasa.
Ia harus bergantung kepada seni bina yang boleh diukur, boleh disahkan secara bebas, cekap sumber dan direka untuk mengawal risiko dari awal.
Tadbir urus mesti wujud dalam dasar.
Tetapi pencegahan, pengesahan dan kecekapan ESG mesti wujud dalam sistem.
#AITadbir Urus #ResponsibleAI #AIInfrastruktur #SmartPenghalaan #DetachedSystems #AIValidation #ESG #GreenAI #MalaysiaAI #DigitalTransformation
Dari Dasar ke Seni Bina: Membina Tadbir Urus AI ke Dalam Sistem Operasi
