Perlumbaan AI Sebenar Mungkin Bukan Tentang 模型 Lebih Besar Mungkin Tentang Kecerdasan Lebih Murah
Melihat perbandingan ini, bahagian yang menarik bukan hanya nama model.
Cerita yang lebih besar ialah keluk kos.
Dalam susunan ini, harga menurun daripada kira-kira $0.20/M input dan $1.20/M output kepada $0.10/M input dan $0.50/M output, sambil mengekalkan tetingkap konteks dan keupayaan alat yang sama seperti yang dinyatakan.
Jika trend ini berterusan, ia mengubah ekonomi pembinaan sistem AI.
Dalam perancangan produksi, ini memberi satu lagi sebab kukuh untuk menyuling secara pukal LLM tempatan dan mungkin juga SLM.
Daripada bergantung secara kekal pada inferens luaran yang mahal, kita boleh menggunakan model yang semakin dioptimumkan sebagai guru untuk menjana data latihan, memperhalusi aliran kerja, membina corak penaakulan khusus domain, dan terus menambah baik model tempatan kita sendiri.
Matlamatnya bukan semestinya untuk membina model terbesar.
Matlamatnya adalah untuk membina model yang cukup dioptimumkan untuk kerja sebenar.
Bagi perniagaan, ini boleh bermakna model yang lebih kecil mengendalikan perakaunan, inventori, operasi, perkhidmatan pelanggan, kawalan mesin, pemprosesan dokumen, atau automasi dalaman, sementara model luaran yang lebih besar hanya digunakan apabila benar-benar perlu.
Saya berharap trend harga ini berterusan.
Sekurang-kurangnya sehingga LLM tempatan kita sendiri cukup matang untuk mengendalikan sebahagian besar beban kerja secara bebas.
Gunakan model yang dioptimumkan untuk membina. Suling apa yang penting. Kurangkan kebergantungan dari semasa ke semasa.
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
我特别喜欢kita boleh menggunakan model yang这一部分，内容没有把实施过程说得太简单。
文章把sambil mengekalkan tetingkap konteks dan和日常运营联系起来，这一点很有帮助。
视觉和结构让matlamatnya adalah untuk membina model的概念更容易掌握。
这篇内容让我更容易理解为什么matlamatnya bukan semestinya untuk membina值得关注。
这篇文章把daripada bergantung secara kekal pada讲得比一般的AI介绍更具体。
文章对cerita yang lebih besar ialah的结论比较平衡，不只是强调好处。