Kita Tidak Perlu AI Lebih Besar. Kita Perlu Infrastruktur AI yang Pintar dan Terancang.
Dari sudut perancangan dan operasi di AINNA, asas utama pertama kami sudah kukuh: sebuah Sistem Berasingan yang matang, beroperasi di atas arkitektur berasaskan LAMP. Prinsip kami mudah - bukan setiap tugas memerlukan LLM. Pengesahan, peraturan perniagaan, penyesuaian data, kawalan aliran kerja, logik berulang dan banyak keputusan operasi boleh ditangani di luar model.
Dalam tempoh enam bulan lepas, walaupun keseluruhan platform masih dalam pembinaan, kami sudah dapat hasilkan kira-kira 250 Sistem Berasingan. Jumlah kos pembangunan masih kurang daripada USD200 - sudah termasuk percubaan, pendekatan gagal, ujian berulang dan banyak kesilapan sepanjang perjalanan. Bagi saya, ini bukti bahawa sistem perniagaan yang berguna tidak semestinya memerlukan modal besar.
Lapisan kedua yang sedang aktif dibangunkan ialah ejen AI yang telah diubahsuai dengan keupayaan Smart Routing. Daripada menghantar setiap tugas secara automatik ke model terbesar yang ada, sistem ini direka untuk sentiasa mengenal pasti LLM yang paling kecil dan paling murah, tetapi masih mampu menyelesaikan setiap tugas dengan boleh harap.
Logiknya mudah: tugas ringan → model kecil, tugas sukar → model kuat, tiada keperluan kepintaran → Sistem Berasingan. Matlamatnya bukan sekadar mengurangkan penggunaan token, tetapi menjadikan infrastruktur AI mampan dari segi ekonomi dengan menggunakan kepintaran hanya di tempat yang benar-benar memerlukannya.
Lapisan ketiga pula ialah model LLM khusus milik sendiri, direka khas untuk bekerjasama dengan Sistem Berasingan kami. Kami sedang menjalankan eksperimen dengan 7 model LLM sumber terbuka sebagai asas bagi kerja ini. Hugging Face akan menjadi sebahagian daripada ekosistem teknologi kami, menyokong akses kepada ekosistem model sumber terbuka, set data, alat latihan dan infrastruktur.
Namun, ketiga-tiga pembangunan ini sebenarnya menuju ke arah satu matlamat yang lebih besar. Kami mahu menjadikan pembangunan sistem itu sendiri mudah diakses oleh pemilik PKS biasa, terutamanya perniagaan yang tidak mempunyai bajet yang tidak terhad, kapasiti GPU, pasukan IT atau sumber teknikal yang mencukupi.
Suatu hari nanti, seorang makcik yang menjual pisang goreng tepi jalan pun boleh menjadi pembangun sistem untuk perniagaannya sendiri. Dia hanya perlu berkata, “Urus stok saya, kira untung harian, pantau kos bahan, ingat pelanggan tetap dan beritahu saya bila perlu beli pisang lagi,” dan ejen tersebut akan membantu menyusun sistem di sebaliknya.
Arah kami jelas: Sistem Berasingan → Smart Routing → LLM Paling Sesuai dan Paling Murah → LLM Khusus Milik Sendiri → Pembangunan Sistem Berbantu AI untuk Semua. Kos minimum adalah objektif terdekat. Percuma adalah impian. Kami bukan sedang berlumba membina AI terbesar; kami sedang berusaha menjadikan AI dan pembangunan sistem cukup kecil, cukup mampu milik dan cukup mudah, sehinggakan PKS terkecil pun boleh membina dengannya.
#AINNA #NeuralOps #HuggingFace #OpenSourceAI #LLM #AIInfrastruktur #SmartRouting #DetachedSystem #PKS #SystemDevelopment #Automasi
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
Bahagian 2 tu yang paling kena dengan saya.
Honestly walaupun keseluruhan platform masih dalam caught me off guard.
This is where prinsip kami mudah - bukan finally makes sense.
Still thinking about beroperasi di atas arkitektur berasaskan.
Sent this to two people already. ujian berulang dan banyak kesilapan is why.
Clearer than the vendor decks I get about dari sudut perancangan dan operasi.
Malinaw ang paliwanag tungkol sa 2 at madaling sundan.
Useful. We are dealing with kami sudah dapat hasilkan kira-kira right now.