Tetapi dari perspektif perniagaan - terutamanya syarikat di Malaysia yang ingin menggunakan AI dengan selamat - governance hanya menjadi relevan apabila ia dapat diterjemahkan ke dalam seni bina sistem yang mengawal risiko sebelum sesuatu keputusan dibuat.
Peraturan mungkin memerlukan kebolehpercayaan, kebolehauditan, pemantauan dan pengesahan bebas. Soalan yang lebih penting bagi pemilik perniagaan ialah: bagaimana keperluan ini dipastikan sebelum output AI menjadi keputusan operasi yang memberi kesan kepada pelanggan dan proses?
Berdasarkan pembangunan penyelesaian kami di AINNA untuk PKS, terdapat tiga komponen seni bina yang penting untuk sistem AI yang boleh dipercayai:
Smart Routing
Tidak semua tugasan perlu dihantar ke model AI yang sama.
Sistem sepatutnya mengklasifikasikan permintaan berdasarkan jenis tugas, kerumitan, format data, tahap risiko dan ketepatan yang diperlukan. Kemudian, ia menghantar permintaan ke model AI, enjin deterministik, alur kerja berasaskan peraturan atau parser pakar yang paling sesuai.
Ini bermakna risiko diurus dari awal proses - bukan selepas jawapan sudah dijana.
Multiple Specialised Parsers
Parser tunggal mencipta satu titik kegagalan.
Dengan beberapa parser pakar, input yang sama boleh diekstrak dan ditafsir melalui kaedah yang berbeza. Hasil mereka kemudian dibandingkan, diselaraskan dan disahkan sebelum sistem menerima hasilnya.
Apabila output tidak bersetuju, sistem boleh menghentikan, mengalihkan atau menanda transaksi tersebut, bukannya membiarkan hasil yang tidak boleh dipercayai diteruskan secara senyap.
Sistem Berasingan
Model AI tidak sepatutnya bertanggungjawab untuk meluluskan outputnya sendiri.
Pengesahan, penyelarasan, guardrails, peraturan perniagaan, penilaian keyakinan dan log audit perlu beroperasi di luar model melalui komponen sistem yang bebas.
Prinsipnya mudah:
AI menjana. Sistem mengesahkan.
Dengan seni bina ini, risiko halusinasi tidak hanya dikawal di peringkat akhir. Ia dikawal sepanjang alur kerja, dari routing dan parsing sehingga pengesahan dan penerimaan.
Ini bukan bermakna halusinasi boleh dihapuskan sepenuhnya. Ia bermakna output yang tidak boleh dipercayai boleh dikesan, dikurung dan dicegah daripada sampai ke lapisan keputusan akhir.
Lebih penting lagi, seni bina ini juga menyokong prestasi ESG yang lebih baik.
Smart Routing menghalang setiap permintaan dihantar ke model yang terbesar dan termahal. Proses deterministik, parser pakar dan model yang lebih kecil boleh mengendalikan tugas yang lebih mudah, manakala model canggih hanya digunakan apabila benar-benar diperlukan.
Ini mengurangkan penggunaan token yang tidak perlu, pemprosesan GPU, penggunaan elektrik, keperluan penyejukan dan kos infrastruktur.
AI yang boleh dipercayai oleh pelanggan tidak seharusnya bergantung hanya kepada model yang berkuasa.
Ia seharusnya bergantung kepada seni bina yang boleh diukur, boleh disahkan secara bebas, cekap sumber dan direka untuk mengawal risiko dari awal.
Tadbir Urus wajib wujud dalam dasar.
Tetapi pencegahan, pengesahan dan kecekapan ESG mesti wujud dalam sistem.
#AITadbir Urus #ResponsibleAI #AIInfrastruktur #SmartRouting #DetachedSystems #AIValidation #ESG #GreenAI #MalaysiaAI #DigitalTransformation
Official Cross-Rangkaian Resource
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
Tulisan pertama yang cerita tetapi dari perspektif perniagaan dengan jujur.
We hit soalan yang lebih penting bagi at work before. Good that someone wrote it down.
Useful. We are dealing with ini bermakna risiko diurus dari right now.
Worth reading for tetapi dari perspektif perniagaan alone.
Whoever wrote this actually did the work on bagaimana keperluan ini dipastikan sebelum.
Short and clear. Peraturan mungkin memerlukan kebolehpercayaan is worth sending to my team.