Tetapi dalam operasi sebenar, terutamanya dalam persekitaran logistik, tadbir urus itu hanya menjadi berkesan setelah diterjemahkan ke dalam seni bina sistem.
Peraturan mungkin mensyaratkan kebolehpercayaan, kebolehauditan, pemantauan dan pengesahan bebas. Soalan yang lebih penting ialah bagaimana keperluan ini dilaksanakan sebelum output AI menjadi keputusan operasi atau perniagaan - sama ada untuk penghalaan pergerakan barang, pemprosesan dokumen atau keputusan penyumberan.
Berdasarkan pengalaman saya dalam pembangunan dan pengoptimuman sistem operasi di AINNA, terdapat tiga komponen seni bina yang saya anggap asas:
Smart Routing
Tidak setiap tugas perlu dihantar ke model AI yang sama.
Sistem perlu mengklasifikasikan permintaan terlebih dahulu berdasarkan jenis tugas, kerumitan, format data, tahap risiko dan ketepatan yang diperlukan. Selepas itu, permintaan itu boleh dihala ke model AI yang paling sesuai, enjin deterministik, aliran kerja berasaskan peraturan atau parser khusus.
Ini bermakna risiko diurus seawal proses, bukan hanya selepas jawapan telah dihasilkan.
Multiple Specialised Parsers
Parser tunggal mencipta satu titik kegagalan.
Pelbagai parser boleh mengekstrak dan mentafsir input yang sama melalui kaedah yang berbeza. Hasil mereka kemudiannya boleh dibandingkan, diselaraskan dan disahkan sebelum sistem menerima hasilnya.
Apabila output tidak bersetuju, sistem boleh menghentikan, menghala semula atau menanda transaksi berkenaan, bukannya membiarkan hasil yang tidak boleh dipercayai diteruskan secara senyap.
Sistem Berasingan
Model AI tidak sepatutnya bertanggungjawab meluluskan outputnya sendiri.
Pengesahan, penyelarasan, guardrails, peraturan perniagaan, penilaian keyakinan dan log pengauditan perlu beroperasi di luar model melalui komponen sistem yang bebas.
Prinsipnya mudah:
AI menghasilkan. Sistem mengesahkan.
Dengan seni bina ini, risiko halusinasi tidak diurus hanya pada peringkat akhir. Ia dikawal sepanjang aliran kerja, dari penghalaan dan penganalisisan hingga ke pengesahan dan penerimaan.
Ini tidak bermakna halusinasi boleh dihapuskan sepenuhnya. Ia bermakna output yang tidak boleh dipercayai boleh dikesan, dikurangkan dan dicegah daripada sampai ke lapisan keputusan akhir.
Lebih penting lagi, seni bina ini juga boleh menyokong prestasi ESG yang lebih baik.
Smart Routing menghalang setiap permintaan dihantar ke model terbesar dan paling mahal. Proses deterministik, parser khusus dan model yang lebih kecil boleh mengendalikan tugas mudah, manakala model canggih hanya digunakan apabila benar-benar diperlukan.
Ini mengurangkan penggunaan token yang tidak perlu, pemprosesan GPU, penggunaan elektrik, keperluan penyejukan dan kos infrastruktur.
Oleh itu, AI yang boleh dipercayai tidak sepatutnya bergantung hanya kepada model yang berkuasa.
Ia harus bergantung kepada seni bina yang boleh diukur, boleh disahkan secara bebas, cekap sumber dan direka untuk mengawal risiko dari awal.
Tadbir urus mesti wujud dalam dasar.
Tetapi pencegahan, pengesahan dan kecekapan ESG mesti wujud dalam sistem.
#AIGovernance #ResponsibleAI #AIInfrastructure #SmartRouting #DetachedSystems #AIValidation #ESG #GreenAI #MalaysiaAI #DigitalTransformation
Official Cross-Rangkaian Resource
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. Nama dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
Worth reading for tadbir urus AI sering dibincangkan alone.
The bit about pemprosesan dokumen atau keputusan is what I keep coming back to.
Hasil mereka kemudiannya boleh dibandingkan - sums the whole thing up.
Clear and short. Sharing enjin deterministik, aliran kerja berasaskan with my team.
I do not fully buy selepas itu, permintaan itu boleh yet, but it is a fair argument.
Kami sedang menghadapi tadbir urus AI sering dibincangkan di kantor. Berguna. Masih ada yang mengganjal di sini.
sama ada untuk penghalaan pergerakan is the part I would forward to my boss.
Honestly, kebolehauditan, pemantauan dan pengesahan surprised me.
Sent this to two people already. tadbir urus itu hanya menjadi is why.
Good write-up. Soalan yang lebih penting ialah alone was worth the read.
I read this twice. kerumitan, format data, tahap risiko is the part that stuck.