Salah satu tanggapan salah yang sering saya dengar dalam kalangan pemilik perniagaan dan usahawan ialah keyakinan bahawa 'halusinasi' AI akan hilang apabila kita membina model bahasa besar (LLM) yang lebih besar dan lebih berkuasa. Hakikatnya, LLM direka secara kebarangkalian. Outputnya mungkin lebih tepat, tetapi kemungkinan ralat, ketidakkonsistenan atau maklumat yang tidak disokong sentiasa wujud - tidak pernah sifar.
Sebagai pengasas AINNA, soalan yang sering saya ajukan kepada usahawan ialah: mengapa operasi kritikal perniagaan perlu bergantung sepenuhnya kepada sistem yang berasaskan kebarangkalian? Isu ini bukan semata-mata pada model. Ia berpunca daripada seni bina yang membenarkan AI menganalisis, membuat keputusan, meluluskan dan melaksanakan tanpa pemisahan kawalan yang mencukupi.
Tumpuan kami di AINNA ialah memisahkan proses penaakulan AI daripada pelaksanaan operasi melalui Sistem Terpisah yang 100% Deterministik. AI boleh mentafsir data, mengenal pasti corak, menjana cadangan dan mencadangkan tindakan - tetapi ia tidak mengawal proses perniagaan akhir secara langsung. Outputnya dianggap sebagai input yang mesti disahkan secara berasingan.
Sebelum sebarang tindakan dilaksanakan, Sistem Terpisah memeriksa peraturan perniagaan yang deterministik, integriti skema, konsistensi matematik, keizinan pengguna, dasar keselamatan, syarat aliran kerja dan keperluan audit. Jika mana-mana syarat gagal, sistem menghentikan proses atau menaikkannya untuk semakan manusia. AI masih mungkin memberi jawapan yang tidak sempurna, tetapi jawapan itu tidak boleh secara automatik menjadi tindakan operasi.
Masa depan AI perusahaan yang boleh dipercayai bukan bergantung kepada model bebas halusinasi. Ia bergantung kepada seni bina yang selamat terhadap halusinasi. Dengan memisahkan kecerdasan daripada pelaksanaan, penaakulan daripada pengesahan, serta cadangan daripada kawalan, perniagaan kita boleh menikmati fleksibiliti AI tanpa membiarkan output kebarangkalian menjejaskan sistem kritikal.
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
Berguna. Kami sedang hadap 1 sekarang.
Worth reading for terpisah yang 1 100% alone.
The direction on isu ini bukan semata-mata pada is exactly right.
พูดตรง ๆ 1 ก็น่าสนใจ
The case for ketidakkonsistenan atau maklumat yang tidak is well made.