Kita Tak Perlukan AI Paling Besar. Kita Perlukan Infrastruktur AI yang Pintar.✎ Edit

Kita Tak Perlukan AI Paling Besar. Kita Perlukan Infrastruktur AI yang Pintar.

Hari ini, asas utama pertama kami sudah kukuh: sistem Detached yang matang dan beroperasi di atas arkitektur berasaskan LAMP. Prinsip kami mudah - bukan setiap tugasan memerlukan LLM. Pengesahan, peraturan perniagaan, penyesuaian rekod, kawalan aliran kerja, logik berulang dan banyak keputusan operasi boleh diselesaikan di luar model.

Dalam tempoh enam bulan terakhir, walaupun platform keseluruhan masih dalam pembangunan separa, kami sudah membina kira-kira 250 sistem Detached. Jumlah kos pembangunan masih kurang daripada USD200, termasuk percubaan, pendekatan gagal, ujian berulang dan banyak kesilapan yang kami lalui. Bagi kami, ini bukti bahawa sistem perniagaan yang berguna tidak semestinya memerlukan pembiayaan besar.

Lapisan kedua yang sedang kami bangunkan ialah agen AI yang diubah suai dengan keupayaan Smart Routing. Daripada menghantar setiap tugas secara automatik ke model paling besar yang ada, sistem ini direka untuk sentiasa mengenal pasti LLM paling kecil dan paling murah yang masih boleh menyelesaikan setiap tugas dengan yakin.

Logiknya mudah: tugas mudah → model kecil, tugas sukar → model lebih kuat, tiada keperluan kepintaran → Sistem Berasingan. Objektifnya bukan sekadar mengurangkan penggunaan token, tetapi menjadikan infrastruktur AI mampan dari segi ekonomi dengan menggunakan kepintaran hanya apabila ia benar-benar diperlukan.

Lapisan ketiga pula ialah model LLM khusus milik kami sendiri, direka khas untuk bekerjasama dengan sistem Detached kami. Kami sedang menjalankan eksperimen dengan 7 model LLM open source sebagai asas usaha ini. Hugging Face akan menjadi sebahagian daripada ekosistem teknologi kami, menyokong akses kepada ekosistem model open source, set data, alat latihan dan infrastruktur.

Tetapi ketiga-tiga perkembangan ini sebenarnya bertujuan kepada sesuatu yang lebih besar. Saya mahu pembangunan sistem itu sendiri mudah diakses oleh pemilik PKS biasa, terutamanya mereka yang tidak ada bajet besar, GPU, pasukan IT atau sumber teknikal.

Suatu hari nanti, sekadar makcik yang menjual pisang goreng di tepi jalan pun boleh menjadi pembangun sistem untuk perniagaannya sendiri. Dia hanya perlu berkata, “Uruskan stok saya, kira untung harian, pantau kos bahan, ingat pelanggan tetap dan beritahu bila saya perlu beli pisang lagi,” dan agen tersebut akan membantu menyusun sistem di sebaliknya.

Arah kami jelas: Sistem Berasingan → Smart Routing → LLM Paling Sesuai dan Termurah → LLM Khusus Milik Sendiri → Pembangunan Sistem Berbantu AI untuk Semua. Kos minimum ialah objektif terdekat. Percuma ialah impian. Kami tidak cuba membina AI paling besar; kami cuba menjadikan AI dan pembangunan sistem cukup kecil, cukup mampu milik dan cukup mudah sehinggakan PKS paling kecil pun boleh membina dengannya.

#AINNA #NeuralOps #HuggingFace #OpenSourceAI #LLM #AIInfrastruktur #SmartRouting #DetachedSystem #PKS #SystemDevelopment #Automasi