Menggunakan LLM Kerana Hype Saja Tidak Memberi Nilai Sebenar - Ia Membazir Tenaga dan Kos Operasi

Penggunaan LLM hanya kerana hype tidak memberi manfaat kepada dunia operasi mahupun perniagaan.
Sebenarnya, pendekatan itu boleh bercanggah dengan matlamat ESG, membazir tenaga, meningkatkan kos operasi yang tidak perlu, dan hampir tidak memberi nilai sebenar kepada pengguna akhir.

Isunya bukan pada AI.

Isunya terletak pada cara kita merekabentuk, mengintegrasikan, dan mengendalikan sistem AI.

Terdapat jurang besar antara menggunakan AI untuk publisiti dan menggunakan AI dengan cara yang betul.
Penggunaan AI untuk hype bermaksud memasang model besar pada setiap tugas kecil, walaupun tugas itu tidak memerlukan kuasa pengkomputeran sebesar itu. Dari luar, ia kelihatan canggih; tetapi di belakang tabir, ia tidak cekap, mahal, dan membazir sumber infrastruktur.

Penggunaan AI yang betul bermaksud membina sistem yang betul untuk kerja yang betul.

Dari sudut operasi logistik, saya melihat ejen AI lebih sebagai jurubina sistem berbanding pembantu biasa.

Sebagai jurubina, ejen AI sepatutnya memasang 'mesin' yang sesuai untuk setiap kerja harian. Dalam gudang, kita tidak menggunakan forklift berat untuk memindahkan satu kotak kecil; kita gunakan troli atau AGV ringan. Forklif atau crane hanya perlu apabila beban berat memerlukannya. Begitu juga dengan model bahasa - tugas mudah seperti menyemak status SKU atau menjawab soalan Soalan Lazim boleh menggunakan model ringan, manakala analisis kompleks seperti perancangan laluan penghantaran atau ramalan permintaan baru memerlukan model besar.

Tetapi jika kita memaksa satu LLM besar untuk menjalankan setiap tugas, dari query paling ringan hingga analisis paling berat, penggunaan tenaga dan kos infrastruktur akan kekal tinggi sepanjang masa.
Itu bukan automasi pintar.

Itu hanya overprovisioning yang diberi nama moden.

Masa depan AI dalam logistik dan operasi tidak sepatutnya tertumpu pada model terbesar untuk segala-galanya.
Ia sepatutnya membina sistem yang cekap, di mana setiap tugas mendapat tahap kecerdasan yang sesuai, kuasa komputasi yang optimum, dan nilai perniagaan yang boleh diukur.

AI sepatutnya mengurangkan pembaziran, bukan menambahnya.

Di situlah inovasi sebenar bermula.