Jika pasukan AI kami mula tersentuh had model premium sebelum hari ke-7, itu bukan sekadar masalah token.
Itu masalah unit economics dan seni bina.
Mungkin kami perlu semak semula strategi model, macam kami semak semula routing penghantaran.
Bagi kami, ChatGPT Pro + Ollama jadi kombinasi paling praktikal. Kami guna model optimum seperti Luna dan DeepSeek V4.1 secara agresif untuk pembangunan, distilasi dan membina sistem berasingan - manakala model lebih tinggi biasanya masuk hanya untuk audit akhir, validasi dan pemberian arahan.
Dalam sebulan sahaja, kami bina 25 sistem berasingan, hampir separuh sudah berasaskan app, dan kemajuan pembangunan kami kini lebih kurang 3× lebih pantas.
Kami juga bangunkan ejen AI dengan keupayaan routing pintar, serta 命令行 berasaskan web dan protokol Telegram.
Jumlah kos operasi AI? Sekitar RM200/bulan sahaja.
Dan bukan pembangunan sahaja. Staf kami guna stack yang sama untuk kerja harian, termasuk menjana ribuan imej setiap minggu.
Jadi bahagian menarik bukan sekadar kos AI yang lebih rendah.
Ia adalah apa yang berlaku apabila model routing, ejen dalaman dan sistem berasingan mula menjadi infrastruktur kami sendiri - bukan bergantung pada satu model mahal untuk semua perkara.
Mungkin token tak penat lagi. GPU pula yang naik muak tengok kami. He he he.
Guna model yang betul untuk kerja yang betul. Simpan model paling kuat untuk audit dan hala tuju, dan jadikan kecerdasan yang berulang sebagai infrastruktur yang kami miliki sendiri.
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
这篇文章把hampir separuh sudah berasaskan app讲得比一般的AI介绍更具体。
同意作者对mungkin kami perlu semak semula的判断，但执行起来还有难度。
这篇文章对itu bukan sekadar masalah token的解释很清楚，实际操作的重点也很容易理解。