Sebagai seorang yang sentiasa berhubung dengan pemilik perniagaan, saya sering ditanya soalan ini: “Adakah pelaburan dalam AI masih berbaloi apabila kos dan had penggunaan sentiasa berubah?” Baru-baru ini, kami di AINNA perhatikan satu tanda yang memberi jawapan positif - pembekal LLM mula menaikkan had maksimum token bagi setiap sesi.
Pasukan teknikal kami baru-baru ini menghabiskan beberapa jam memperkukuh enjin parsing untuk Sistem Berasingan. Dahulu, tugas kompleks seperti ini akan menghabiskan baki sesi dalam beberapa minit sahaja. Kini, walaupun selepas berjam-jam beroperasi, masih banyak ruang token yang tinggal.
Perubahan ini lebih besar daripada sekadar speks teknikal. Ia menandakan pembekal LLM tidak lagi bersaing semata-mata melalui kecerdasan model. Mereka kini bersaing melalui tetingkap konteks yang lebih panjang, had penggunaan yang lebih tinggi, kos yang lebih rendah, tindak balas yang lebih pantas, dan akses yang lebih baik untuk pengguna.
Bagi saya, ini mengingatkan saya akan perang harga di kalangan penjual dalam talian.
Ada penjual yang terus memotong harga walaupun margin sudah nipis. Tujuannya bukan semestinya untung segera. Kadangkala, strateginya adalah untuk menarik lebih ramai pelanggan, merampas bahagian pasaran, dan melemahkan pesaing yang tidak mampu mengekalkan pangkalan pelanggan yang kukuh.
Pembekal LLP mungkin kini berada dalam fasa yang sama. Mereka menawarkan lebih banyak token, sesi lebih lama, dan nilai lebih baik - semuanya untuk mengunci pengguna ke dalam platform mereka sebelum pesaing sempat membina kesetiaan pelanggan yang lebih kuat.
Bagi perniagaan, ini adalah berita baik dalam jangka pendek. Anda boleh membina lebih banyak, menguji lebih banyak, dan menyiapkan projek yang lebih besar pada kos yang lebih rendah. Tugas yang dahulu memerlukan beberapa sesi, arahan berulang, dan pembinaan semula konteks berulang kali, kini boleh diselesaikan dalam satu aliran kerja yang lebih panjang.
Tetapi perang harga jarang bertahan selamanya. Apabila pesaing yang lemah pupus dan pengguna bergantung kepada segelintir pembekal sahaja, harga, had, dan syarat akses mungkin berubah semula.
Bagi perniagaan, pengajarannya mudah: manfaatkan persaingan ini, tetapi jangan bergantung sepenuhnya kepada satu pembekal sahaja. Gunakan Smart Routing, Sistem Berasingan, pemprosesan tempatan, dan beberapa pembekal LLM di mana mungkin.
Pemenang sebenar bukanlah syarikat yang menggunakan LLM paling berkuasa. Pemenangnya adalah syarikat yang boleh menukar pembekal, mengawal data sendiri, dan terus beroperasi apabila pasaran berubah.
#ArtificialIntelligence #LLM #AICompetition #DetachedSystem #SmartRouting #Distillation #Automasi #PerniagaanStrategy #NeuralOps #AINNA
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. Email diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
सेव कर लिया, ख़ासकर इस हिस्से की वजह से।
Still thinking about dan akses yang lebih baik.
saya sering ditanya soalan ini tu bahagian yang saya nak hantar pada boss.
The section on sebagai seorang yang sentiasa berhubung is the strongest part for me.
First piece I have read that treats saya sering ditanya soalan ini honestly.