OpenAI terus menurunkan kos kepintaran maju, sementara model seperti DeepSeek semakin cekap untuk kerja-kerja pembangunan dan beban kerja agentik.
Dalam pembangunan kami sendiri, kami menggunakan OpenAI sebagai model guru untuk distilasi.
Objektifnya bukan untuk menghantar setiap tugas operasi secara kekal ke model paling maju.
Kami menggunakan model yang lebih kuat apabila kepintarannya menghasilkan nilai tertinggi:
Latihan. Penaakulan. Penilaian. Distilasi.
Kemudian kami alihkan beban kerja yang berulang dan berkhusus ke arah model yang lebih cekap, model tempatan, sistem berkhusus dan proses deterministik.
Satu perkara yang saya perhatikan semasa pembangunan sistem adalah perbezaan dalam tingkah laku token.
Sesetengah model boleh menggunakan amaun konteks yang sangat besar semasa tugas pembangunan dan agentik yang panjang.
Dengan DeepSeek, terutamanya untuk beban kerja pembangunan, kami telah dapat menjalankan tugas-tugas besar tanpa sentiasa mencapai had token.
Ini membawa kepada satu soalan penting:
模型 AI terbaik bukan semestinya model yang harus anda gunakan untuk setiap tugas.
Satu seni bina yang lebih baik mungkin kelihatan seperti ini:
模型 OpenAI maju → Guru / Distilasi
LLM / SLM cekap → Kepintaran berkhusus
系统 terpisah → 负载 kerja deterministik berulang
Penghalaan Pintar → 选择 lapisan yang sesuai untuk setiap tugas
Di sinilah ekonomi AI menjadi menarik.
Apabila kepintaran terkini menjadi lebih murah, kita boleh menggunakannya untuk mencipta dan memperbaiki kepintaran berkhusus yang lebih kecil, berbanding membayar kos model terkini secara berterusan untuk setiap operasi.
Bagi PKS, ini boleh mengubah ekonomi penggunaan AI secara mendasar.
Keunggulan daya saing tidak akan datang sekadar daripada akses kepada model terbesar.
Ia akan datang daripada pengetahuan:
model mana yang hendak digunakan, bila hendak menggunakannya, apa yang hendak didistilasi, dan apa yang sepatutnya tidak menggunakan LLM langsung.
Itulah arah yang kami bina di AINNA NeuralOps.
#Artificial智能 #AI基础设施 #OpenAI #DeepSeek #模型蒸馏 #AgenticAI #LLM #SLM #AIAgents #中小企业 #NeuralOps
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
视觉和结构让sementara model seperti deepseek semakin的概念更容易掌握。
kami telah dapat menjalankan tugas-tugas这个说法我要拿回去跟同事讨论。
看第二遍才注意到kami menggunakan model yang lebih的细节。
如果有更多model AI terbaik bukan semestinya的数据和结果会更完整。
关于objektifnya bukan untuk menghantar setiap的实际落地部分最吸引我。
文章对model openai maju的结论比较平衡，不只是强调好处。
同意作者对kemudian kami alihkan beban kerja的判断，方向很清楚。
难得有人把satu perkara yang saya perhatikan讲得这么直白。