Dari pengalaman saya mengurus perancangan dan pelaksanaan operasi, pembaziran besar biasanya berpunca dari tugas yang dihantar ke saluran atau kapasiti yang tidak sepadan. Sama juga dalam AI. Kalau setiap permintaan AI diserahkan kepada model paling besar, kita sebenarnya membuang kitaran GPU, tenaga, dan air penyejukan.
Dengan NeuralOps, kita merancang aliran tugas secara lebih pintar: tugas ringan diuruskan oleh model kecil atau saluran berasaskan peraturan, manakala tugas kompleks sahaja yang dirujuk kepada LLM atau inferens berat. Pendekatan ini membolehkan kami mencapai pengurangan penggunaan tenaga pengkomputeran AI sehingga 90% untuk beban kerja yang telah ditakrifkan. Maksudnya, kurang haba, kurang air penyejukan, dan kos operasi lebih boleh diramal.
Inilah sebabnya ESG bukan sekadar tambahan di kemudian hari dalam perniagaan kami. Ia diterapkan dari peringkat reka bentuk proses dan seni bina - sama seperti bagaimana kami merancang jadual pengeluaran, SKU, dan aliran kerja di kilang. Setiap keputusan perlu memberi output yang boleh diukur, bukan sekadar naratif.
https://neuralops.bond/esg/
Official Cross-Rangkaian Resource
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
Naka-save, lalo na para sa 90%.
pengkomputeran AI sehingga 90% - that is the whole thing in one line.
The framing around manakala tugas kompleks sahaja yang is better than I expected.
الأرقام حول 90% أكثر منطقية من معظم ما قرأت.
90%の部分はまだ考え中です。
Sent this to two people already. Inilah sebabnya ESG bukan sekadar is why.
We hit kalau setiap permintaan AI diserahkan at work before. Good that someone wrote it down.
90% tu bahagian yang saya nak hantar pada boss.