Dalam operasi harian di AINNA, pemindahan aliran kerja AI yang telah matang ke sistem terpisah berasaskan Laravel membantu NeuralOps mengurangkan lagi kebergantungan terhadap inferens AI.
Berdasarkan rekod operasi semasa, penggunaan token telah susut dari kira-kira 32 bilion token pada bulan pertama ke sekitar 3–5 bilion token setiap bulan, iaitu penurunan anggaran 84–91% dalam penggunaan token.
Apabila lebih banyak aliran kerja berulang dan berstruktur dipindahkan ke sistem terpisah berasaskan Laravel, kebergantungan terhadap inferens LLM terus menurun. Pada hari ini, kira-kira 99% tugas berulang yang matang boleh beroperasi tanpa menggunakan token AI, manakala AI dikekalkan untuk menangani pengecualian, kekaburan, data tidak berstruktur, penaakulan, dan penyeliaan sistem.
Prinsip yang kami amalkan di lapangan amat mudah:
Gunakan AI untuk memahami, mereka bentuk dan menambah baik proses operasi.
Gunakan sistem deterministik untuk melaksanakan proses tersebut secara berulang dan konsisten.
Inilah cara NeuralOps beralih dari automasi yang terlalu bergantung kepada AI ke arah arkitektur diperintah AI dan dilaksanakan oleh sistem yang lebih cekap dan tahan lasak untuk operasi berskala.
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
เซฟไว้ก่อน เพราะ32
Still thinking about prinsip yang kami amalkan di.
Ang 32 ang ipapadala ko sa boss ko.
This is where dalam operasi harian di AINNA finally makes sense.