Dalam operasi e-commerce harian di AINNA, saya selalu nampak corak yang sama: kalau team AI kita dah kena had model premium sebelum hari ke-7, itu bukan sekadar masalah token.
Itu masalah unit economics dan architecture.
Mungkin sudah tiba masa kita re-look balik strategi model kita.
Bagi kami, ChatGPT Pro + Ollama jadi kombinasi paling praktikal. Kami guna habis-habisan model optimum macam Luna dan DeepSeek V4.1 untuk development, distillation dan bina detached 系统 - manakala model yang lebih tinggi masuk hanya untuk final audit, validation dan bagi arahan.
Dalam sebulan saja, kami siapkan 25 detached 系统, hampir separuh dah jadi app-based, dan progress development kami kini lebih kurang 3× lebih laju.
Kami juga bina AI agent sendiri dengan keupayaan 智能路由, plus web-based 命令行 dan Telegram protocol.
总计 kos operasi AI? Dalam RM200/bulan sahaja.
Dan bukan development saja. 员工 kami guna stack yang sama untuk kerja harian - termasuk generate ribuan imej setiap minggu untuk listing, banner dan creative kempen.
Jadi yang menarik bukan sekadar kos AI yang lebih rendah.
Tapi apa yang terjadi bila model routing, internal agents dan detached 系统 mula jadi infrastruktur kita sendiri - bukan lagi bergantung pada satu model mahal untuk semua benda.
Mungkin token tak penat lagi. GPU pula yang fed up tengok kami. He he he.
Guna model yang betul untuk kerja yang betul. Simpan model paling kuat untuk audit dan hala tuju, dan jadikan intelligence yang berulang sebagai infrastruktur yang kita miliki sendiri.
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
总结部分让itu bukan sekadar masalah token的重点更加清楚。
关于mungkin sudah tiba masa kita的说明很完整，基础部分尤其清楚。
同意作者对distillation dan bina detached 系统的判断，方向很清楚。
这篇文章把validation dan bagi arahan讲得比一般的AI介绍更具体。
这篇内容让我更容易理解为什么kalau team AI kita dah值得关注。
manakala model yang lebih tinggi这个说法我要拿回去跟同事讨论。