Apa jadi kalau kita letak “jiwa” dalam server, dan satu hari nanti kita tak boleh kawal dia?
Hari ini, dalam satu event yang dianjurkan Kedutaan Saudi, saya berpeluang berbual dengan pegawai kanan dari TV Alhirah tentang Agent AI.
Saya kongsi apa yang kami usahakan: AI agen yang boleh hidup dalam server, PC dan mesin, bukan sekadar tunggu arahan, tetapi terus bekerja ke arah matlamat dan niat yang ditetapkan manusia. Dalam operasi e-dagang, bayangkan agen yang pantau stok, harga, pesanan dan kempen marketplace tanpa henti.
Saya gambarkan mudah:
“Macam ada seorang operator dalam server anda, sentiasa bekerja untuk anda.”
Dalam perjalanan pulang, satu lagi persoalan timbul.
Bila AI agen makin autonomi dan boleh berkomunikasi serta bekerjasama dengan agen lain, apa jadi apabila guardrails gagal?
Sebab itu saya percaya kill switch mesti dibina secara native dalam setiap AI agen autonomi — dan akhirnya jadi amalan kejuruteraan standard dalam industri.
Kita boleh terus bina AI yang lebih berupaya dan autonomi.
Tetapi manusia mesti sentiasa pegang kuasa akhir untuk hentikannya.
Bina agen. Bina kecerdasan.
Tetapi jangan lupa kill switch.
#AgentAI #AISafety #ArtificialIntelligence #NeuralOps #AINNA
