OpenAI terus menurunkan kos kecerdasan maju, sementara model seperti DeepSeek semakin cekap untuk kerja-kerja coding dan bebanan agentic.
Dalam operasi pembangunan kami, kami gunakan OpenAI sebagai model pengajar untuk distilasi.
Objektifnya bukan untuk hantar setiap tugas operasi ke model paling maju secara kekal.
Kami guna model lebih kuat di mana kecerdasannya memberi nilai tertinggi:
Latihan. Penaakulan. Penilaian. Distilasi.
Lepas itu, kami alihkan bebanan berulang dan khusus ke model lebih cekap, model tempatan, sistem khusus dan proses deterministik.
Semasa saya mengurus pembangunan sistem, satu perkara yang saya perhatikan ialah perbezaan tingkah laku token.
Sesetengah model boleh menggunakan konteks yang sangat besar semasa tugas coding dan agentic yang panjang.
Dengan DeepSeek, terutama untuk bebanan pembangunan, kami dapat jalankan tugas besar tanpa sentiasa terkena had token.
Ini membawa kepada soalan penting:
模型 AI terbaik bukan semestinya model yang anda patut guna untuk setiap tugas.
Seni bina yang lebih baik mungkin kelihatan macam ini:
Advanced OpenAI model → Pengajar / Distilasi
高效 LLM / SLM → Kecerdasan khusus
独立系统 → Bebanan deterministik berulang
智能路由 → Tentukan lapisan mana yang urus setiap tugas
Di sinilah ekonomi AI jadi menarik dari sudut operasi.
Apabila kecerdasan frontier jadi lebih murah, kita boleh guna ia untuk cipta dan baiki kecerdasan khusus yang lebih kecil, bukannya terus bayar kos model frontier untuk setiap operasi.
Bagi 中小企业 di 马来西亚, ini boleh ubah ekonomi penggunaan AI secara besar-besaran.
Kelebihan bersaing bukan datang semata-mata kerana ada akses kepada model paling besar.
Ia datang daripada keupayaan untuk tahu:
model mana yang hendak guna, bila hendak guna, apa yang hendak didistilasi, dan apa yang sepatutnya tidak menggunakan LLM langsung.
Itulah arah yang kami bangunkan di AINNA NeuralOps.
#Artificial智能 #AI基础设施 #OpenAI #DeepSeek #模型蒸馏 #AgenticAI #LLM #SLM #AIAgents #中小企业 #NeuralOps
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
关于这部分的数字比我平时看到的大多数文章靠谱。
这篇文章对kami guna model lebih kuat的解释很清楚，实际操作的重点也很容易理解。
文章把satu perkara yang saya perhatikan和日常运营联系起来，这一点很有帮助。
看第二遍才注意到objektifnya bukan untuk hantar setiap的细节。
收藏了，主要是为了semasa saya mengurus pembangunan sistem。
这篇内容让我更容易理解为什么sesetengah model boleh menggunakan konteks值得关注。
关于kami dapat jalankan tugas besar的说明很完整，基础部分尤其清楚。
我会把openAI terus menurunkan kos kecerdasan这一段分享给需要了解技术的同事。