Dari sudut perancangan pengeluaran dan operasi, salah satu tanggapan keliru yang sering timbul dalam AI perusahaan ialah kepercayaan bahawa halusinasi akhirnya boleh dihapuskan dengan membina Large Bahasa Model yang lebih besar dan lebih berkuasa. Hakikatnya, LLM direka secara probabilistik. Outputnya mungkin menjadi lebih tepat, tetapi sentiasa ada kemungkinan bukan sifar untuk ralat, ketidakkonsistenan atau maklumat yang tidak disokong.
Sebagai pasukan operasi, soalan yang lebih praktikal bukanlah bagaimana menghapuskan halusinasi sepenuhnya, tetapi mengapakah operasi perniagaan kritikal harus bergantung sepenuhnya kepada sistem probabilistik? Masalahnya bukan sahaja pada model. Ia terletak pada arkitektur yang membenarkan model menganalisis, membuat keputusan, meluluskan dan melaksanakan tanpa pemisahan kawalan yang mencukupi.
Pendekatan lebih kukuh ialah memisahkan penaakulan AI daripada pelaksanaan operasi melalui Sistem Berasingan yang 100% deterministic. AI boleh mentafsir data, mengenal pasti corak, menjana cadangan dan mencadangkan tindakan, tetapi ia tidak mengawal proses perniagaan akhir secara langsung. Outputnya dianggap sebagai input yang mesti disahkan secara bebas sebelum masuk ke aliran kerja.
Sebelum sebarang tindakan dilaksanakan, Sistem Berasingan menyemak peraturan perniagaan yang deterministik, integriti skema, konsistensi matematik, keizinan pengguna, dasar keselamatan, syarat aliran kerja dan keperluan audit. Sekiranya mana-mana syarat gagal, sistem akan menghentikan proses atau mengeskalkannya untuk semakan manusia. AI mungkin masih menghasilkan jawapan yang tidak sempurna, tetapi jawapan itu tidak boleh secara automatik menjadi tindakan operasi.
Masa depan AI perusahaan yang boleh dipercayai tidak akan bergantung kepada model bebas halusinasi. Ia akan bergantung kepada arkitektur yang selamat daripada halusinasi. Dengan memisahkan kecerdasan daripada pelaksanaan, penaakulan daripada pengesahan dan cadangan daripada kawalan, perniagaan Malaysia boleh menggunakan keanjalan AI tanpa membiarkan output probabilistik menjejaskan sistem kritikal.
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
ตัวเลขเรื่อง100%สมเหตุสมผลกว่าบทความอื่นที่อ่านมา
Whoever wrote this actually did the work on sistem berasingan yang 100%.
Still thinking about salah satu tanggapan keliru yang.
Bookmarked, mostly for ia terletak pada arkitektur yang.
The direction on outputnya mungkin menjadi lebih tepat is exactly right.
First piece I have read that treats ketidakkonsistenan atau maklumat yang tidak honestly.
Good to finally see tetapi ia tidak mengawal proses set out this clearly.
I read this twice. Masalahnya bukan sahaja pada model is the part that stuck.