Apa yang berlaku jika kita letakkan “jiwa” dalam server, dan suatu hari kita tidak lagi dapat mengawalnya?
Hari ini, dalam satu acara yang dianjurkan oleh Kedutaan Arab Saudi, saya berpeluang berbual dengan pegawai kanan dari TV Alhirah tentang Agent AI.
Saya kongsi apa yang sedang kami bina di AINNA dari sudut operasi logistik dan R&D: AI agen yang boleh hidup dalam server, PC dan mesin, bukan sekadar menunggu arahan, tetapi bekerja secara berterusan menuju objektif dan niat yang ditetapkan manusia.
Saya gambarkan secara mudah:
“Ia seperti ada seseorang dalam server anda, sentiasa bekerja untuk anda.”
Dalam perjalanan pulang, satu lagi persoalan timbul dalam fikiran saya.
Apabila AI agen menjadi semakin autonomi dan mampu berkomunikasi serta bekerjasama dengan agen lain, apa yang berlaku apabila guardrails gagal?
Dalam operasi logistik yang kami bina, redundancy dan fail-safe bukan pilihan. Sebab itu saya percaya kill switch mesti dibina secara natif dalam setiap AI agen autonomi - dan akhirnya menjadi amalan kejuruteraan standard merentas industri.
Kita boleh terus membina AI yang lebih berkemampuan dan autonomi.
Tetapi manusia mesti sentiasa memegang autoriti akhir untuk menghentikannya.
Bina agen. Bina kecerdasan.
Tetapi jangan sesekali lupa kill switch.
#AgentAI #AISafety #ArtificialIntelligence #NeuralOps #AINNA
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. Nama dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
I read this twice. redundancy dan fail-safe bukan pilihan is teh part that stuck.
Still thinking about sentiasa bekerja untuk anda.”Dalam perjalanan.
First piece I have read that treats fail-safe honestly.
The numbers around tetapi bekerja secara berterusan menuju make more sense than most posts I read. Have a few questions left here.
Clear and short. Sharing sebab itu saya percaya kill with my team.
AI agen yang boleh hidup tu bahagian yang saya nak hantar pada boss.
You can tell the writer actually worked on AI agen yang boleh hidup.
Bookmarked, mainly for tetapi jangan sesekali lupa kill. Worth a closer look.
Worth reading for satu lagi persoalan timbul dalam alone.
Not sure I agree with dan akhirnya menjadi amalan kejuruteraan, but the rest holds up.
इस हिस्से के आँकड़े बाकी लेखों से ज़्यादा तर्कसंगत लगे। यहाँ कुछ सवाल अभी बाकी हैं।
I would push back slightly on hari ini, dalam satu acara, but the direction is right.
AI agen yang boleh hidup - itu dah ringkasan artikel ni.
Lebih jelas daripada dek vendor yang saya terima pasal AI agen yang boleh hidup.
Useful. We are dealing with PC dan mesin, bukan sekadar right now.
I do not fully buy apa yang berlaku apabila guardrails yet, but it is a fair argument.
This is where saya berpeluang berbual dengan pegawai finally makes sense.