Dengan memindahkan aliran kerja AI matang ke sistem terpisah berasaskan Laravel, NeuralOps mengurangkan lagi penggunaan inferens AI.
Berdasarkan arkitektur semasa kami, penggunaan token telah menurun daripada kira-kira 32 bilion token pada bulan pertama kepada kira-kira 3–5 bilion token sebulan, mewakili anggaran pengurangan penggunaan token sebanyak 84–91%.
Apabila lebih banyak aliran kerja berulang dan berstruktur dialihkan ke sistem terpisah berasaskan Laravel, pergantungan terhadap inferens LLM terus berkurangan. Pada masa ini, kira-kira 99% tugas berulang yang matang boleh beroperasi tanpa menggunakan token AI, dengan AI kebanyakannya dikhaskan untuk pengecualian, kekaburan, data tidak berstruktur, penaakulan, dan penyeliaan sistem.
Prinsipnya mudah:
Gunakan AI untuk memahami, mereka dan memperbaiki proses.
Gunakan sistem berdeterministik untuk melaksanakan proses secara berulang.
Inilah cara NeuralOps bergerak daripada automasi yang sangat bergantung kepada AI ke arah arkitektur diperintah AI, dilaksanakan sistem yang lebih cekap.
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
ما زلت أفكر في 32.
Useful. We are dealing with dan penyeliaan sistem right now.
I read this twice. mewakili anggaran pengurangan penggunaan token is the part that stuck.
menurun daripada kira-kira 32 - that is the whole thing in one line.
Honestly mereka dan memperbaiki proses caught me off guard.
You can tell the writer actually worked on neuralOps mengurangkan lagi penggunaan.