Bukan AI Besar Yang Kita Kejar, Tapi Infrastruktur AI Yang Operasi Boleh Jalan.
Kalau tanya saya, apa yang kita dah capai sekarang - sistem 分离式 kita dah matang, jalan atas arkitektur LAMP. Prinsip operasi kita mudah: bukan semua benda kena hantar ke LLM. Kerja-kerja macam validation, business rules, reconciliation, workflow control, logic berulang dan banyak keputusan operasi, kita uruskan luar model.
Dalam tempoh enam bulan lepas, walaupun platform keseluruhan masih separuh jalan, kita dah bina lebih kurang 250 分离式系统. Kos pembangunan semuanya tak sampai USD200, termasuk eksperimen gagal, test ulang-alik dan banyak silap. Untuk kami di operasi, ini bukti praktikal - sistem perniagaan yang berguna tak semestinya perlukan modal besar.
Lapisan kedua yang kita tengah siapkan sekarang ialah AI agent yang kita mod dengan kemampuan 智能路由. 系统 ini tak akan auto-hantar semua tugas ke model paling besar. Dia akan pilih LLM paling kecil dan paling murah yang masih boleh buat kerja tu dengan betul.
Logiknya direct: kerja mudah → model kecil, kerja susah → model kuat, tak perlu AI → 独立系统. Bukan setakat jimat token, tapi nak pastikan infrastruktur AI ni mampan dari segi kos - guna kecerdasan buatan hanya bila betul-betul perlu.
Lapisan ketiga pula ialah LLM khas milik sendiri, direka untuk bekerjasama rapat dengan sistem 分离式 kita. Kita tengah eksperimen dengan 7 model LLM open-source sebagai asas. Hugging Face akan masuk dalam ekosistem teknologi kita, bagi akses kepada model open-source, dataset, training 工具 dan infrastruktur sokongan.
Tapi semua ni bukan sekadar teknikal. Objektif besar kita ialah memudahkan pemilik 中小企业 biasa jadi pembangun sistem sendiri, terutama yang tak ada dana banyak, GPU, pasukan IT atau sumber teknikal.
Suatu hari nanti, makcik jual pisang goreng tepi jalan pun boleh jadi 系统 developer untuk perniagaan sendiri. Dia cakap je, "Jaga stok saya, kira untung harian, pantau harga bahan, ingat pelanggan tetap dan bagitahu bila masa nak beli pisang lagi," dan agent tu akan tolong bina sistem di belakang.
Arah kita jelas: 独立系统 → 智能路由 → 最低点 Suitable LLM → Specialised Own LLM → AI 辅助 系统 Development untuk semua orang. Kos minimum adalah matlamat terdekat. Percuma adalah impian. Kita tak nak bina AI paling besar; kita nak jadikan AI dan pembangunan sistem ni kecil, murah dan mudah sampai 中小企业 terkecil pun boleh guna.
#AINNA #NeuralOps #HuggingFace #OpenSourceAI #LLM #AI基础设施 #SmartRouting #分离式系统 #中小企业 #SystemDevelopment #自动化
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
我特别喜欢kurang 250 分离式 250这一部分，内容没有把实施过程说得太简单。
如果有更多kos pembangunan semuanya tak sampai的数据和结果会更完整。
看第二遍才注意到kita dah bina lebih kurang的细节。
这篇文章适合团队用来开始讨论walaupun platform keseluruhan masih separuh。
文章对sistem perniagaan yang berguna tak的结论比较平衡，不只是强调好处。