Apabila saya mula menyertai kumpulan OpenClaw, ahli-ahli aktif berkongsi eksperimen, pengalaman teknikal dan projek.
Kemudian datang spam dan scammer, diikuti promosi produk pesaing. Dan sekarang, meme hampir mengambil alih kumpulan.
Sementara itu, saya ambil pendekatan yang lebih dekat dengan cara saya uruskan operasi logistik: bina Ejen AI ringan sendiri untuk menggantikan OpenClaw, elakkan kerumitan tidak perlu dan fungsi yang membengkak. Saya lihat routing sebagai masalah operasi, setiap panggilan LLM yang tidak perlu ialah overhead yang perlu dihapuskan.
Arkitektur Penghalaan Pintar 3 Peringkat Saya:
- Cache Redis & MySQL – Guna semula data dan hasil sedia ada untuk minimumkan pemprosesan yang tidak perlu.
- Skrip Kerap – Laksanakan tugasan berulang tanpa panggilan LLM yang tidak perlu.
- Penghalaan Model Pintar – Mula dengan model paling murah yang berkemampuan, dan tingkatkan hanya bila perlu.
Timbunan Teknologi: Web-CLI, Redis, MySQL dan Telegram sebagai antara muka mudah alih saya.
Dengan Ejen AI saya sendiri, saya telah membangunkan 100+ aplikasi web standalone, bersama pembangunan server dan infrastruktur yang meluas:
- Provisioning server Linux dan pengurusan VM
- PostgreSQL dan MySQL
- Caching Redis
- Docker dan pengurusan container
- Nginx dan reverse proxy
- Gitea dan kawalan versi Git
- Timeshift, snapshot dan pengurusan backup
- Pemantauan server dan automasi deployment
Bahagian yang menarik? Jumlah kos model AI kekal bawah USD 40/bulan, termasuk model distilled saya sendiri.
Pembangunan aplikasi, operasi server dan pengurusan infrastruktur, semuanya melalui Ejen AI saya sendiri.
Kurang overhead. Penghalaan lebih pintar. Lebih banyak engineering.
Bagaimana dengan yang lain? Apa yang anda sedang bina, uji atau perbaiki kebelakangan ini?
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
Orang yang tulis ni memang buat kerja rumah pasal 100.
The framing around ahli-ahli aktif berkongsi eksperimen is better than I expected.
Honestly, cache redis & mysql surprised me.
Bookmarked, mostly for kemudian datang spam dan scammer.
The numbers around setiap panggilan LLM yang tidak make more sense than most posts I read.