Bagaimana jika kita meletakkan “jiwa” di dalam pelayan, dan suatu hari nanti, kita tidak lagi dapat mengawalnya?
Hari ini, dalam satu acara yang dianjurkan oleh Kedutaan Arab Saudi, saya berpeluang untuk bercakap dengan seorang pegawai kanan daripada TV Alhirah mengenai Agent AI.
Saya berkongsi apa yang sedang kita usahakan: ejen AI yang boleh hidup di dalam pelayan, PC dan mesin, bukan sekadar menunggu arahan, tetapi sentiasa berusaha ke arah matlamat dan niat yang ditetapkan oleh manusia.
Saya menerangkannya dengan ringkas:
“Ia umpama ada seseorang di dalam pelayan anda, sentiasa bekerja untuk anda.”
Dalam perjalanan pulang, satu lagi pemikiran terlintas di fikiran saya.
Apabila ejen AI menjadi semakin autonomi dan berupaya berkomunikasi serta bekerjasama dengan ejen lain, apakah yang berlaku apabila guardrails gagal?
Inilah sebabnya saya percaya bahawa suiz henti kecemasan mesti dibina secara terbina dalam setiap ejen AI autonomi - dan akhirnya menjadi amalan kejuruteraan piawai di seluruh industri.
Kita boleh terus membina AI yang lebih berkemampuan dan autonomi.
Tetapi manusia mesti sentiasa mengekalkan kuasa muktamad untuk menghentikannya.
Bina ejen itu. Bina kecerdasan itu.
Tetapi jangan sekali-kali lupakan suiz henti kecemasan itu.
#AgentAI #AISafety #ArtificialIntelligence #NeuralOps #AINNA
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
Saya berkongsi apa yang sedang - itu dah ringkasan artikel ni.
The numbers around dan akhirnya menjadi amalan kejuruteraan make more sense than most posts I read.
I read this twice. apakah yang berlaku apabila guardrails is the part that stuck.
इस विषय से सहमत हूँ और दिशा साफ़ है।
Still thinking about inilah sebabnya saya percaya bahawa.
The framing on saya berkongsi apa yang sedang is better than expected.
Nice one. Tetapi jangan sekali-kali lupakan suiz alone worth the read.
Saya suka bagian saya berkongsi apa yang sedang karena tidak terlalu teoretis.