Saya sering dengar pengusaha PKS di Malaysia bertanya: "Adakah model AI yang lebih besar boleh hapuskan masalah AI berkhayal?" Percayalah, anda tidak keseorangan. Ini ialah tanggapan yang sangat biasa. Hakikatnya, LLM direka secara probabilistik. Hasilnya mungkin semakin tepat dari semasa ke semasa, tetapi kemungkinan ralat, ketidakkonsistenan atau maklumat yang tidak disokong akan sentiasa wujud.
Sebagai pemilik perniagaan, soalan yang lebih praktikal bukanlah "bagaimana hendak buat AI menjadi sempurna?" tetapi "mengapa operasi kritikal syarikat perlu bergantung sepenuhnya kepada sistem yang probabilistik?" Masalahnya bukan semata-mata pada model. Ia berpunca daripada reka bentuk sistem yang membenarkan AI menganalisis, membuat keputusan, meluluskan dan melaksanakan tanpa pemisahan kawalan yang mencukupi.
Cara yang lebih selamat adalah memisahkan proses pemikiran AI daripada pelaksanaan operasi melalui sistem Detached yang 100% deterministik. AI boleh mentafsir data, mengenal pasti corak, menjana cadangan dan mengusulkan tindakan, tetapi ia tidak mengawal proses perniagaan akhir secara langsung. Hasil AI dianggap sebagai input yang perlu disahkan secara bebas.
Sebelum sebarang tindakan dilaksanakan, sistem Detached memeriksa peraturan perniagaan yang deterministik, integriti skema, keselarasan matematik, kebenaran pengguna, dasar keselamatan, syarat aliran kerja, dan keperluan audit. Jika mana-mana syarat tidak dipenuhi, sistem akan menghentikan proses atau merujuknya kepada semakan manusia. AI mungkin masih menghasilkan jawapan yang tidak sempurna, tetapi jawapan itu tidak boleh secara automatik menjadi tindakan operasi.
Masa depan AI yang boleh dipercayai untuk perniagaan bukan bergantung kepada model bebas khayal. Ia bergantung kepada arkitektur yang selamat terhadap khayal. Dengan memisahkan kepintaran daripada pelaksanaan, penaakulan daripada pengesahan, dan cadangan daripada kawalan, PKS Malaysia boleh menikmati fleksibiliti AI tanpa membiarkan output probabilistik menjejaskan sistem yang kritikal. Itulah sebabnya di AINNA, kami memastikan setiap penyelesaian AI yang kami bangunkan bersama pelanggan mempunyai lapisan pengesahan ini-supaya kepintaran AI menjadi enabler, bukan risiko.
