OpenAI terus menurunkan kos kecerdasan lanjutan, manakala model seperti DeepSeek semakin cekap untuk kerja-kerja pembangunan (coding) dan beban kerja agentik.
Dalam pembangunan solusi kami di AINNA, kami menggunakan OpenAI sebagai model pengajar untuk proses distillation.
Matlamatnya bukan untuk menghantar setiap tugas operasi kepada model paling canggih setiap masa.
Kami menggunakan model yang lebih kuat apabila kecerdasannya menghasilkan nilai paling tinggi:
Latihan. Penaakulan. Penilaian. Distillation.
Kemudian, kami alihkan kerja-kerja berulang dan khusus kepada model yang lebih cekap, model tempatan, sistem khusus, dan proses deterministik.
Satu perkara yang saya perhatikan semasa membantu pelanggan dan pasukan pembangunan sistem ialah perbezaan dalam kelakuan token.
Sesetengah model boleh menggunakan jumlah konteks yang sangat besar semasa tugas coding dan agentik yang panjang.
Dengan DeepSeek, terutamanya untuk beban kerja pembangunan, kami berjaya menjalankan tugas-tugas besar tanpa sentiasa mencapai had token.
Ini membawa kepada satu soalan penting:
Model AI terbaik belum tentu model yang harus anda gunakan untuk setiap tugas.
Satu seni bina yang lebih baik mungkin kelihatan seperti ini:
Model OpenAI Lanjutan → Model Pengajar / Distillation
LLM / SLM Efisien → Kecerdasan Khusus
Sistem Berasingan → Kerja-kerja Deterministik Berulang
Penghalaan Pintar → Memutuskan lapisan mana yang patut mengendalikan setiap tugas
Di sinilah ekonomi AI menjadi menarik.
Apabila kecerdasan terdepan menjadi lebih murah, kita boleh menggunakannya untuk mencipta dan memperbaiki kecerdasan khusus yang lebih kecil, berbanding membayar kos model terdepan secara berterusan untuk setiap operasi.
Bagi PKS, ini boleh mengubah ekonomi penggunaan AI secara asasnya.
Kelebihan daya saing bukan datang daripada akses kepada model terbesar sahaja.
Ia datang daripada mengetahui:
model mana yang hendak digunakan, bila menggunakannya, apa yang perlu melalui proses distillation, dan apa yang tidak sepatutnya menggunakan LLM langsung.
Itulah arah yang sedang kami bangunkan di AINNA NeuralOps.
#ArtificialIntelligence #AIInfrastructure #OpenAI #DeepSeek #ModelDistillation #AgenticAI #LLM #SLM #AIAgents #PKS #NeuralOps
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. Nama dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
manakala model seperti deepseek semakin - sums the whole thing up. Need to read this part again.
Useful. We are handling model tempatan, sistem khusus, dan right now.
I would push back slightly on model AI terbaik belum tentu, but the direction is right.
I read this twice. kami berjaya menjalankan tugas-tugas besar is the part that stuck.
The framing around satu perkara yang saya perhatikan is better than I expected.
ตัวเลขเรื่องคำอธิบายนี้สมเหตุสมผลกว่าบทความอื่นที่อ่านมา
This is where matlamatnya bukan untuk menghantar setiap finally makes sense.
Short and clear. Dalam pembangunan solusi kami di is worth sending to my team. It make the point easier to understand.
Sent this to two people already. kami menggunakan openai sebagai model is why.
الجزء المتعلق بـ هذا الجزء جعلني أفكر مطولًا.
Honestly, satu seni bina yang lebih surprised me.
Whoever wrote this actually did the work on model openai lanjutan.
First piece that handles ini membawa kepada satu soalan honestly.
The part on kemudian, kami alihkan kerja-kerja berulang is the bit I keep re-reading.
Masih fikir tentang dalam pembangunan solusi kami di. Patut ditelusuri lagi.