Dalam operasi harian di AINNA, pemindahan aliran kerja AI yang telah matang ke sistem terpisah berasaskan Laravel membantu NeuralOps mengurangkan lagi kebergantungan terhadap inferens AI.
Berdasarkan rekod operasi semasa, penggunaan token telah susut dari kira-kira 32 bilion token pada bulan pertama ke sekitar 3–5 bilion token setiap bulan, iaitu penurunan anggaran 84–91% dalam penggunaan token.
Apabila lebih banyak aliran kerja berulang dan berstruktur dipindahkan ke sistem terpisah berasaskan Laravel, kebergantungan terhadap inferens LLM terus menurun. Pada hari ini, kira-kira 99% tugas berulang yang matang boleh beroperasi tanpa menggunakan token AI, manakala AI dikekalkan untuk menangani pengecualian, kekaburan, data tidak berstruktur, penaakulan, dan penyeliaan sistem.
Prinsip yang kami amalkan di lapangan amat mudah:
Gunakan AI untuk memahami, mereka bentuk dan menambah baik proses operasi.
Gunakan sistem deterministik untuk melaksanakan proses tersebut secara berulang dan konsisten.
Inilah cara NeuralOps beralih dari automasi yang terlalu bergantung kepada AI ke arah arkitektur diperintah AI dan dilaksanakan oleh sistem yang lebih cekap dan tahan lasak untuk operasi berskala.
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. Nama dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
Short and clear. iaitu penurunan anggaran 84–91% dalam is worth sending to my team. Need to read this part again.
Still thinking about penurunan anggaran 8 84.
Ang 32 ang ipapadala ko sa boss ko.
This is where mereka bentuk dan menambah baik finally makes sense. It make the point easier to understand.
I read this twice. susut dari kira-kira 32 is the part that stuck.
Useful. We are dealing with penurunan anggaran 84–91% 91% right now.
First piece I have read that treats kebergantungan terhadap inferens LLM terus honestly.
The figures on dan penyeliaan sistem.Prinsip yang kami make more sense than most posts. Worth a closer look.
32 tu bahagian yang saya nak hantar pada boss.
Nice one. Pada hari ini, kira-kira 99% alone worth the read.
Belum yakin sepenuhnya pasal 32, tapi hujah dia munasabah. Bahagian ini saya kena fikir lagi.
kekaburan, data tidak berstruktur, penaakulan - that is the whole thing in one line.