Bila Manusia Salah Faham Dasar, AI Akan Jalankan Keputusan yang Tepat Tapi Salah✎ Edit

Setiap kali saya melihat jualan klien jatuh mendadak atau listing kena tindakan di dashboard, kita selalu nampak komen macam, "Ini yang berlaku bila marketplace hapuskan denda lewat hantar." Padahal yang dihapuskan bukan denda lewat hantar sepenuhnya, tapi denda wajib. Perbezaan tu tak kecil. Ia mengubah keseluruhan makna perbincangan. Denda masih wujud untuk kes-kes tertentu, cuma platform kini ada ruang menilai konteks penuh - stok, cuaca, jarak, sejarah penjual - sebelum mengenakan tindakan.

Ini bukan membela penjual yang cuai. Ini pasal memastikan keputusan operasi marketplace tak dikurangkan kepada peraturan tetap tanpa mempertimbangkan fakta, niat, keadaan, bukti, dan kesesuaian. Dalam operasi harian, satu perkataan macam "wajib" boleh mengubah kuasa pasukan ops untuk bertindak balas. Prinsip yang sama terpakai terus pada AI. Kalau pemahaman kita tentang sesuatu perkara tak jelas, tak lengkap, atau dipengaruhi emosi, output daripada ejen AI juga akan mencerminkan kelemahan tu.

Ejen AI tak akan secara ajaib hasilkan kejelasan daripada kekeliruan. Ia beroperasi berdasarkan arahan, konteks, parameter, dan pagar kawalan yang kita sediakan. Kalau kita takrif masalah dengan salah, ejen tu boleh laksana penyelesaian salah dengan sempurna - contohnya auto-pricing yang potong harga bawah kos, atau auto-approval return yang luluskan refund tanpa syarat. Lagi bahaya, sebab keputusan salah yang dibuat secara manual memang berisiko, tapi keputusan salah yang diautomasi oleh AI boleh merebak pantas dari satu SKU ke seluruh katalog dalam beberapa minit.

Sebab tu pemahaman manusia mesti datang sebelum automasi. Sebelum kita hidupkan auto-pricing, auto-approval return, klasifikasi pesanan, atau peramalan stok, kita kena jelas dulu apa yang sebenarnya kita maksudkan: margin minimum, threshold stok, alasan refund yang dibenar, dan SLA platform. Kejelasan bukan sekadar komunikasi elok. Kejelasan tu tadbir urus. Kejelasan tu kawalan risiko. Kejelasan tu bezanya antara ejen AI yang membantu jualan dan ejen AI yang cipta masalah baru pada kelajuan mesin.

Sama ada dasar awam, undang-undang, atau kecerdasan buatan, pengajarannya sama. Jangan automasikan apa yang kita tak faham. Jangan biar emosi ganti definisi. Dan jangan harap ejen AI buat keputusan betul bila arahan manusia di belakangnya dah tak jelas.