Apa yang berlaku jika kita letakkan “jiwa” dalam server, dan suatu hari kita tidak lagi dapat mengawalnya?
Hari ini, dalam satu acara yang dianjurkan oleh Kedutaan Arab Saudi, saya berpeluang berbual dengan pegawai kanan dari TV Alhirah tentang Agent AI.
Saya kongsi apa yang sedang kami bina di AINNA dari sudut operasi logistik dan R&D: AI agen yang boleh hidup dalam server, PC dan mesin, bukan sekadar menunggu arahan, tetapi bekerja secara berterusan menuju objektif dan niat yang ditetapkan manusia.
Saya gambarkan secara mudah:
“Ia seperti ada seseorang dalam server anda, sentiasa bekerja untuk anda.”
Dalam perjalanan pulang, satu lagi persoalan timbul dalam fikiran saya.
Apabila AI agen menjadi semakin autonomi dan mampu berkomunikasi serta bekerjasama dengan agen lain, apa yang berlaku apabila guardrails gagal?
Dalam operasi logistik yang kami bina, redundancy dan fail-safe bukan pilihan. Sebab itu saya percaya kill switch mesti dibina secara natif dalam setiap AI agen autonomi — dan akhirnya menjadi amalan kejuruteraan standard merentas industri.
Kita boleh terus membina AI yang lebih berkemampuan dan autonomi.
Tetapi manusia mesti sentiasa memegang autoriti akhir untuk menghentikannya.
Bina agen. Bina kecerdasan.
Tetapi jangan sesekali lupa kill switch.
#AgentAI #AISafety #ArtificialIntelligence #NeuralOps #AINNA
