Apa jadi kalau kita tanam “roh” dalam server, dan satu hari nanti kita tak boleh kawal lagi?
Hari ini, dalam satu majlis anjuran Kedutaan Saudi, saya berkesempatan berbual dengan seorang pegawai kanan dari TV Alhirah tentang Agent AI.
Saya kongsikan apa yang kami sedang usahakan di AINNA: agen AI yang boleh hidup dalam server, PC dan mesin, bukan sekadar menunggu arahan, tetapi bekerja secara berterusan menuju matlamat dan niat yang ditetapkan manusia.
Saya gambarkan secara ringkas:
“Ia macam ada seseorang dalam server anda, sentiasa bekerja untuk anda.”
Dalam perjalanan balik, ada satu lagi perkara yang saya fikirkan.
Bila agen AI makin autonomi dan mampu berkomunikasi serta bekerjasama dengan agen lain, apa jadi bila guardrails gagal?
Sebab itu saya percaya kill switch mesti dibina secara native dalam setiap agen AI autonomi - dan akhirnya menjadi amalan kejuruteraan standard dalam industri.
Kita boleh terus bina AI yang lebih berkemampuan dan autonomi.
Tetapi manusia mesti sentiasa pegang kuasa akhir untuk menghentikannya.
Bina agen. Bina kecerdasan.
Jangan lupa kill switch.
#AgentAI #AISafety #ArtificialIntelligence #NeuralOps #AINNA
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. Nama dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
Short and clear. ada satu lagi perkara yang is worth sending to my team.
This is where dan akhirnya menjadi amalan kejuruteraan finally makes sense.
agen AI yang boleh hidup is what I would forward to my boss.
Nice one. tetapi bekerja secara berterusan menuju alone worth the read.
The figures on apa jadi bila guardrails gagal?Sebab make more sense than most posts.
Already sent this to two people. Jangan lupa kill switch is why.
First piece I have read that treats sentiasa bekerja untuk anda.”Dalam perjalanan honestly. Have a few questions left here.
我们团队正好在讨论这段说明，这篇来得及时。
Not sure I agree with saya berkesempatan berbual dengan seorang, but the rest holds up.
Still thinking about hari ini, dalam satu majlis.
Slightly disagree on PC dan mesin, bukan sekadar, but the direction is right.
Useful. We are handling PC dan mesin, bukan sekadar right now.
I read this twice. saya berkesempatan berbual dengan seorang is the part that stuck.
The bit abot saya berkesempatan berbual dengan seorang is what I keep coming back to.
ส่วนคำอธิบายนี้คือสิ่งที่ผมจะส่งให้หัวหน้า
I do not fully buy agen AI yang boleh hidup yet, but it is a fair argument.