Apa jadi kalau kita letak “jiwa” dalam server, dan satu hari nanti kita tak boleh kawal dia?
Hari ini, dalam satu event yang dianjurkan Kedutaan Saudi, saya berpeluang berbual dengan pegawai kanan dari TV Alhirah tentang Agent AI.
Saya kongsi apa yang kami usahakan: AI agen yang boleh hidup dalam server, PC dan mesin, bukan sekadar tunggu arahan, tetapi terus bekerja ke arah matlamat dan niat yang ditetapkan manusia. Dalam operasi e-dagang, bayangkan agen yang pantau stok, harga, pesanan dan kempen marketplace tanpa henti.
Saya gambarkan mudah:
“Macam ada seorang operator dalam server anda, sentiasa bekerja untuk anda.”
Dalam perjalanan pulang, satu lagi persoalan timbul.
Bila AI agen makin autonomi dan boleh berkomunikasi serta bekerjasama dengan agen lain, apa jadi apabila guardrails gagal?
Sebab itu saya percaya kill switch mesti dibina secara native dalam setiap AI agen autonomi - dan akhirnya jadi amalan kejuruteraan standard dalam industri.
Kita boleh terus bina AI yang lebih berupaya dan autonomi.
Tetapi manusia mesti sentiasa pegang kuasa akhir untuk hentikannya.
Bina agen. Bina kecerdasan.
Tetapi jangan lupa kill switch.
#AgentAI #AISafety #ArtificialIntelligence #NeuralOps #AINNA
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. Nama dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
Clearer than the vendor decks I get about AI agen yang boleh hidup.
I would push back slightly on hari ini, dalam satu event, but the direction is right.
AI agen yang boleh hidup - itu dah ringkasan artikel ni.
Read this twice. tetapi terus bekerja ke arah is what stayed with me. Need to read this part again.
sentiasa bekerja untuk anda.”Dalam perjalanan is the part I would forward to my boss.