Beberapa pembekal LLM nampaknya sedang meningkatkan had token maksimum untuk setiap sesi.
Semalam, saya menghabiskan beberapa jam menyusun semula dan memperkemaskan enjin parsing untuk 独立系统. Biasanya, tugas kompleks macam ini akan menghabiskan had sesi dalam beberapa minit sahaja. Tetapi walaupun selepas berjam-jam kerja, baki token masih banyak lagi.
Dari sudut perancangan pengeluaran, ini memberi isyarat yang lebih besar. Syarikat LLM tidak lagi bersaing semata-mata melalui kecerdasan model. Mereka kini bersaing melalui tetingkap konteks yang lebih panjang, had penggunaan yang lebih tinggi, kos yang lebih rendah, tindak balas yang lebih pantas dan akses yang lebih baik untuk pengguna.
Keadaan ini mengingatkan saya akan perang harga dalam kalangan penjual dalam talian.
Sesetengah penjual terus menurunkan harga walaupun margin mereka sudah semakin nipis. Niatnya tidak semestinya untuk memperoleh untung segera. Kadangkala, strateginya adalah untuk menarik lebih ramai pelanggan, merampas pangsa pasaran dan melemahkan pesaing yang tidak mampu bertahan tanpa pangkalan pelanggan yang kukuh.
Pembekal LLM mungkin kini memasuki fasa yang sama. Mereka menawarkan lebih banyak token, sesi yang lebih panjang dan nilai yang lebih baik untuk mengunci pengguna ke platform mereka sebelum pesaing sempat membina kesetiaan pelanggan yang lebih kukuh.
Bagi pengguna, ini menguntungkan dalam jangka pendek. Kita boleh membina lebih banyak, menguji lebih banyak dan menyiapkan projek yang lebih besar pada kos yang lebih rendah. Tugas yang dahulu memerlukan beberapa sesi, arahan berulang dan pembinaan semula konteks yang berterusan kini boleh diselesaikan dalam satu aliran kerja yang lebih panjang.
Tetapi perang harga jarang bertahan selamanya. Apabila pesaing yang lemah hilang dan pengguna bergantung kepada segelintir pembekal sahaja, harga, had dan syarat akses mungkin berubah semula.
Bagi perniagaan, pengajarannya mudah: manfaatkan persaingan, tetapi jangan bergantung sepenuhnya kepada satu pembekal. Gunakan 智能路由, 分离式系统, pemprosesan setempat dan beberapa pembekal LLM di mana-mana yang mungkin. Ini sama seperti strategi pengurusan rantaian bekalan yang tidak membenarkan satu kilang atau satu pembekal menghentikan pengeluaran.
Pemenang sebenar bukanlah syarikat yang menggunakan LLM paling berkuasa. Ia adalah syarikat yang boleh menukar pembekal, mengawal data sendiri dan terus beroperasi apabila pasaran berubah. Dalam perancangan pengeluaran, ketahanan operasi sentiasa mengatasi spesifikasi di atas kertas.
#Artificial智能 #LLM #AI竞争 #分离式系统 #SmartRouting #蒸馏 #自动化 #商业战略 #NeuralOps #AINNA
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
总结部分让mereka kini bersaing melalui tetingkap的重点更加清楚。
如果可以继续说明beberapa pembekal LLM nampaknya sedang的真实案例，我会想继续阅读。
同意作者对niatnya tidak semestinya untuk memperoleh的判断，方向很清楚。
我喜欢文章对syarikat LLM tidak lagi bersaing保持务实的态度。
关于这篇文章这部分写得很扎实，整体也站得住。
这段关于这个主题的说明帮我把之前的问题连起来了。