Kita Tidak Perlukan AI Lebih Besar. Kita Perlukan Infrastruktur AI Lebih Pintar.✎ Edit

Kita Tidak Perlukan AI Lebih Besar. Kita Perlukan Infrastruktur AI Lebih Pintar.

Hari ini, asas utama pertama kami sudah matang: Sistem Berasingan yang beroperasi atas arkitektur berasaskan LAMP. Prinsip kami mudah - bukan setiap tugasan memerlukan LLM. Pengesahan, peraturan perniagaan, penyelarasan, kawalan aliran kerja, logik berulang dan banyak keputusan operasi boleh ditangani di luar model.

Dalam tempoh enam bulan lepas, walaupun keseluruhan platform masih separa siap, kami sudah membina kira-kira 250 Sistem Berasingan. Jumlah kos pembangunan kurang daripada USD200, termasuk eksperimen, pendekatan gagal, ujian berulang dan banyak kesilapan sepanjang proses. Bagi saya, ini bukti bahawa sistem perniagaan yang berguna tidak semestinya memerlukan pembiayaan besar.

Lapisan kedua yang sedang dibangunkan ialah agen AI yang diubah suai dengan keupayaan Smart Routing. Berbanding menghantar setiap tugasan secara automatik ke model terbesar yang ada, sistem ini direka untuk sentiasa mengenal pasti LLM terkecil dan berkos terendah yang mampu menyelesaikan setiap tugasan dengan boleh harap.

Logiknya mudah: tugasan mudah → model kecil, tugasan sukar → model lebih kuat, tiada keperluan kepintaran → Sistem Berasingan. Objektifnya bukan sekadar mengurangkan penggunaan token, tetapi menjadikan infrastruktur AI mampan dari segi ekonomi dengan menggunakan kepintaran hanya di mana kepintaran benar-benar diperlukan.

Lapisan ketiga ialah model LLM khusus milik kami, direka khas untuk bekerjasama dengan Sistem Berasingan kami. Kami sedang mengeksperimen 7 model LLM open source sebagai asas untuk kerja ini. Hugging Face akan menjadi sebahagian daripada ekosistem teknologi kami, menyokong akses kepada ekosistem model open source, dataset, alat latihan dan infrastruktur.

Tetapi tiga pembangunan ini akhirnya bertujuan kepada sesuatu yang lebih besar. Kami mahu menjadikan pembangunan sistem itu sendiri boleh diakses oleh pemilik PKS biasa, terutamanya perniagaan yang tidak mempunyai pembiayaan tanpa had, kapasiti GPU, pasukan IT atau sumber teknikal.

Suatu hari nanti, walaupun seorang makcik yang menjual pisang goreng di tepi jalan pun sepatutnya dapat menjadi pembangun sistem untuk perniagaannya sendiri. Dia hanya perlu berkata, “Urus stok saya, kira keuntungan harian saya, pantau kos bahan, ingat pelanggan tetap saya dan beritahu saya bila saya perlu beli lebih banyak pisang,” dan agen itu sepatutnya membantu menyusun sistem di sebaliknya.

Arah kami jelas: Sistem Berasingan → Smart Routing → LLM Terendah yang Sesuai → LLM Khusus Milik Sendiri → Pembangunan Sistem Bantuan AI untuk Semua. Kos minimum ialah objektif segera. Percuma adalah impian. Kami tidak cuba membina AI terbesar; kami cuba menjadikan AI dan pembangunan sistem cukup kecil, cukup mampu milik dan cukup mudah sehingga PKS terkecil pun boleh membina dengannya.

#AINNA #NeuralOps #HuggingFace #OpenSourceAI #LLM #AIInfrastruktur #SmartRouting #DetachedSystem #PKS #SystemDevelopment #Automasi