Dari sudut pembinaan sistem operasi logistik, OpenAI terus menurunkan kos kecerdasan peringkat hadapan, manakala model seperti DeepSeek semakin cekap untuk bebanan pembangunan dan kerja-kerja agentic.
Dalam pembangunan sistem kami di AINNA, kami menggunakan OpenAI sebagai model pengajar untuk distilasi.
Objektifnya bukan untuk menghantar setiap tugas operasi ke model paling maju secara kekal.
Kami gunakan model berkeupayaan tinggi di mana kecerdasannya menghasilkan nilai paling tinggi:
Training. Penaakulan. Evaluation. Distillation.
Kemudian kami alihkan bebanan kerja berulang dan berkhusus ke model yang lebih cekap, model tempatan, sistem berkhusus, dan proses deterministik.
Satu perkara yang saya perhatikan semasa pembinaan sistem adalah perbezaan dalam tingkah laku token.
Sesetengah model boleh menggunakan jumlah konteks yang sangat besar semasa tugas pembangunan dan agentic yang panjang.
Dengan DeepSeek, terutamanya untuk bebanan pembangunan, kami berjaya menjalankan tugas besar tanpa sentiasa mencapai had token.
Ini membawa kepada satu soalan penting:
Model AI terbaik tidak semestinya model yang perlu digunakan untuk setiap tugas.
Satu seni bina yang lebih baik mungkin kelihatan seperti ini:
Model OpenAI peringkat hadapan → Pengajar / Distilasi
LLM / SLM cekap → Kecerdasan berkhusus
Sistem terpisah → Bebanan kerja deterministik berulang
Pengalihan pintar → Memilih lapisan yang sesuai untuk setiap tugas
Inilah di mana ekonomi AI menjadi menarik.
Apabila kecerdasan peringkat hadapan menjadi lebih murah, kita boleh menggunakannya untuk mencipta dan menambah baik kecerdasan kecil dan berkhusus, berbanding membayar kos model hadapan untuk setiap operasi.
Bagi perusahaan PKS, ini boleh mengubah ekonomi penggunaan AI secara asas.
Keunggulan daya saing tidak akan datang sekadar daripada akses ke model terbesar.
Ia akan datang daripada pengetahuan:
model mana yang hendak digunakan, bila hendak menggunakannya, apa yang perlu didistilasi, dan apa yang tidak sepatutnya menggunakan LLM langsung.
Itulah arah pembinaan sistem kami di AINNA NeuralOps.
#ArtificialIntelligence #AIInfrastruktur #OpenAI #DeepSeek #ModelDistillation #AgenticAI #LLM #SLM #AIAgents #PKS #NeuralOps
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
أتفق بشأن هذا الجزء والاتجاه واضح.
The direction on manakala model seperti deepseek semakin is exactly right.
Clearer than the vendor decks I get about satu perkara yang saya perhatikan.
Useful. We are handling kemudian kami alihkan bebanan kerja right now.