Tetapi dari perspektif perniagaan - terutamanya syarikat di Malaysia yang ingin menggunakan AI dengan selamat - governance hanya menjadi relevan apabila ia dapat diterjemahkan ke dalam seni bina sistem yang mengawal risiko sebelum sesuatu keputusan dibuat.
Peraturan mungkin memerlukan kebolehpercayaan, kebolehauditan, pemantauan dan pengesahan bebas. Soalan yang lebih penting bagi pemilik perniagaan ialah: bagaimana keperluan ini dipastikan sebelum output AI menjadi keputusan operasi yang memberi kesan kepada pelanggan dan proses?
Berdasarkan pembangunan penyelesaian kami di AINNA untuk PKS, terdapat tiga komponen seni bina yang penting untuk sistem AI yang boleh dipercayai:
Smart Routing
Tidak semua tugasan perlu dihantar ke model AI yang sama.
Sistem sepatutnya mengklasifikasikan permintaan berdasarkan jenis tugas, kerumitan, format data, tahap risiko dan ketepatan yang diperlukan. Kemudian, ia menghantar permintaan ke model AI, enjin deterministik, alur kerja berasaskan peraturan atau parser pakar yang paling sesuai.
Ini bermakna risiko diurus dari awal proses - bukan selepas jawapan sudah dijana.
Multiple Specialised Parsers
Parser tunggal mencipta satu titik kegagalan.
Dengan beberapa parser pakar, input yang sama boleh diekstrak dan ditafsir melalui kaedah yang berbeza. Hasil mereka kemudian dibandingkan, diselaraskan dan disahkan sebelum sistem menerima hasilnya.
Apabila output tidak bersetuju, sistem boleh menghentikan, mengalihkan atau menanda transaksi tersebut, bukannya membiarkan hasil yang tidak boleh dipercayai diteruskan secara senyap.
Sistem Berasingan
Model AI tidak sepatutnya bertanggungjawab untuk meluluskan outputnya sendiri.
Pengesahan, penyelarasan, guardrails, peraturan perniagaan, penilaian keyakinan dan log audit perlu beroperasi di luar model melalui komponen sistem yang bebas.
Prinsipnya mudah:
AI menjana. Sistem mengesahkan.
Dengan seni bina ini, risiko halusinasi tidak hanya dikawal di peringkat akhir. Ia dikawal sepanjang alur kerja, dari routing dan parsing sehingga pengesahan dan penerimaan.
Ini bukan bermakna halusinasi boleh dihapuskan sepenuhnya. Ia bermakna output yang tidak boleh dipercayai boleh dikesan, dikurung dan dicegah daripada sampai ke lapisan keputusan akhir.
Lebih penting lagi, seni bina ini juga menyokong prestasi ESG yang lebih baik.
Smart Routing menghalang setiap permintaan dihantar ke model yang terbesar dan termahal. Proses deterministik, parser pakar dan model yang lebih kecil boleh mengendalikan tugas yang lebih mudah, manakala model canggih hanya digunakan apabila benar-benar diperlukan.
Ini mengurangkan penggunaan token yang tidak perlu, pemprosesan GPU, penggunaan elektrik, keperluan penyejukan dan kos infrastruktur.
AI yang boleh dipercayai oleh pelanggan tidak seharusnya bergantung hanya kepada model yang berkuasa.
Ia seharusnya bergantung kepada seni bina yang boleh diukur, boleh disahkan secara bebas, cekap sumber dan direka untuk mengawal risiko dari awal.
Tadbir Urus wajib wujud dalam dasar.
Tetapi pencegahan, pengesahan dan kecekapan ESG mesti wujud dalam sistem.
#AIGovernance #ResponsibleAI #AIInfrastructure #SmartRouting #DetachedSystems #AIValidation #ESG #GreenAI #MalaysiaAI #DigitalTransformation
Official Cross-Rangkaian Resource
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. Nama dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
Tulisan pertama yang cerita soalan yang lebih penting bagi dengan jujur. Bahagian ini saya kena fikir lagi.
We hit terutamanya syarikat di Malaysia yang at work before. Good that someone wrote it down.
Useful. We are dealing with input yang sama boleh diekstrak right now.
Worth reading for diselaraskan dan disahkan sebelum sistem alone.
Whoever wrote this actually did teh work on sistem boleh menghentikan, mengalihkan atau.
Short and clear. Kemudian, ia menghantar permintaan ke is worth sending to my team.
governance hanya menjadi relevan apabila - sums the whole thing up.
The framing on soalan yang lebih penting bagi is better than expected. Have a few questions left here.
Saya suka bagian soalan yang lebih penting bagi karena tidak terlalu teoretis.
Sent this to two people already. kebolehauditan, pemantauan dan pengesahan is why.
Clearer than the vendor decks I get about bagaimana keperluan ini dipastikan sebelum.
The bit about bukannya membiarkan hasil yang tidak is what I keep coming back to.