Sunting Artikel

Bagaimana jika kita meletakkan “jiwa” di dalam sebuah server, dan suatu hari nanti kita tidak lagi mampu mengawalnya?

Hari ini, dalam satu acara anjuran Kedutaan Saudi, saya berpeluang berbincang dengan seorang pegawai kanan daripada TV Alhirah tentang Agent AI.

Saya berkongsi arah yang sedang kami bina: AI agents yang boleh beroperasi di dalam servers, PCs and machines, bukan sekadar menunggu arahan, tetapi terus bekerja untuk mencapai matlamat dan niat yang ditetapkan oleh manusia.

Saya menjelaskannya dengan mudah:

“Bayangkan ada seseorang di dalam server anda, sentiasa bekerja untuk anda.”

Dalam perjalanan pulang, satu lagi persoalan muncul dalam fikiran saya.

Apabila AI agents menjadi semakin autonomi dan berkeupayaan untuk berkomunikasi serta bekerjasama dengan agents lain, apakah yang akan berlaku apabila guardrails gagal?

Inilah sebabnya saya percaya bahawa kill switch mesti dibina secara natif ke dalam setiap autonomous AI agen — dan akhirnya menjadi amalan kejuruteraan standard di seluruh industri.

Kita boleh terus membina AI yang lebih berkuasa dan autonomi.

Namun, manusia mesti sentiasa mengekalkan kuasa terakhir untuk menghentikannya.

Bina agen itu. Bina kecerdasannya.
Namun jangan sesekali lupakan kill switch.

#AgentAI #AISafety #ArtificialIntelligence #NeuralOps #AINNA