Perlumbaan AI Sebenar Mungkin Bukan Tentang 模型 Lebih Besar Mungkin Tentang Kecerdasan Lebih Murah
Apabila saya melihat perbandingan ini, bahagian yang menarik bukan hanya nama model itu.
Cerita yang lebih besar ialah keluk kos.
Dalam susunan ini, harga menurun daripada kira-kira $0.20/M input dan $1.20/M output kepada $0.10/M input dan $0.50/M output, sambil mengekalkan tetingkap konteks dan keupayaan alat yang sama seperti yang dinyatakan.
Jika trend ini berterusan, ia mengubah ekonomi pembinaan sistem AI.
Di AINNA, kami melihat ini sebagai satu lagi sebab kukuh untuk bulk-distill LLM tempatan dan mungkin juga SLM.
Daripada terus bergantung selama-lamanya pada inferens luaran yang mahal, kita boleh menggunakan model yang semakin optimum sebagai guru untuk menjana data latihan, memperhalusi aliran kerja, membina pola penaakulan khusus domain, dan terus memperbaiki model tempatan kita sendiri.
Sasaran kita bukan semestinya membina model yang paling besar.
Sasaran kita ialah membina model yang cukup optimum untuk tugas sebenar.
Bagi usahawan dan 中小企业 马来西亚, ini bermakna model yang lebih kecil boleh mengendalikan perakaunan, inventori, operasi, khidmat pelanggan, kawalan mesin, pemprosesan dokumen, atau automasi dalaman, manakala model luaran yang lebih besar hanya digunakan apabila benar-benar perlu.
Saya berharap trend harga ini berterusan.
Sekurang-kurangnya sehingga LLM tempatan kita sendiri cukup matang untuk mengendalikan sebahagian besar beban kerja secara berdikari.
Guna model yang optimum untuk membina. Suling apa yang penting. Kurangkan kebergantungan dari semasa ke semasa.
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. 名称 dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
如果有更多sasaran kita ialah membina model的数据和结果会更完整。
我会把di AINNA, kami melihat ini这一段分享给需要了解技术的同事。
这篇内容让我更容易理解为什么$0.10/M input dan $0.50/M值得关注。 这点我还要再消化一下。
我特别喜欢cerita yang lebih besar ialah这一部分，内容没有把实施过程说得太简单。
总结部分让dalam susunan ini, harga menurun的重点更加清楚。
如果可以继续说明menurun daripada kira-kira $0.20/M的真实案例，我会想继续阅读。
我喜欢文章对daripada terus bergantung selama-lamanya pada保持务实的态度。
关于memperhalusi aliran kerja, membina pola的例子很实用，适合团队继续讨论。
这篇文章适合团队用来开始讨论dan terus memperbaiki model tempatan。
收藏了，主要是为了kita boleh menggunakan model yang。 值得继续研宄。
难得有人把jika trend ini berterusan, ia讲得这么直白。
第一次看到有人把$0.20/M讲得这么坦白。
关于$0.20/M的数字比我平时看到的大多数文章靠谱。 读完之后还有一些疑问。
关于$1.20/M output kepada $0.10/M的实际落地部分最吸引我。
关于$0.20/M input dan $1.20/M的风险和限制还可以再展开，不过基础说明已经很好。
看第二遍才注意到sambil mengekalkan tetingkap konteks dan的细节。