Bukan AI Besar Yang Kita Kejar, Tapi Infrastruktur AI Yang Operasi Boleh Jalan.
Kalau tanya saya, apa yang kita dah capai sekarang - sistem 分离式 kita dah matang, jalan atas arkitektur LAMP. Prinsip operasi kita mudah: bukan semua benda kena hantar ke LLM. Kerja-kerja macam validation, business rules, reconciliation, workflow control, logic berulang dan banyak keputusan operasi, kita uruskan luar model.
Dalam tempoh enam bulan lepas, walaupun platform keseluruhan masih separuh jalan, kita dah bina lebih kurang 250 分离式系统. Kos pembangunan semuanya tak sampai USD200, termasuk eksperimen gagal, test ulang-alik dan banyak silap. Untuk kami di operasi, ini bukti praktikal - sistem perniagaan yang berguna tak semestinya perlukan modal besar.
Lapisan kedua yang kita tengah siapkan sekarang ialah AI agent yang kita mod dengan kemampuan 智能路由. 系统 ini tak akan auto-hantar semua tugas ke model paling besar. Dia akan pilih LLM paling kecil dan paling murah yang masih boleh buat kerja tu dengan betul.
Logiknya direct: kerja mudah → model kecil, kerja susah → model kuat, tak perlu AI → 独立系统. Bukan setakat jimat token, tapi nak pastikan infrastruktur AI ni mampan dari segi kos - guna kecerdasan buatan hanya bila betul-betul perlu.
Lapisan ketiga pula ialah LLM khas milik sendiri, direka untuk bekerjasama rapat dengan sistem 分离式 kita. Kita tengah eksperimen dengan 7 model LLM open-source sebagai asas. Hugging Face akan masuk dalam ekosistem teknologi kita, bagi akses kepada model open-source, dataset, training 工具 dan infrastruktur sokongan.
Tapi semua ni bukan sekadar teknikal. Objektif besar kita ialah memudahkan pemilik SME biasa jadi pembangun sistem sendiri, terutama yang tak ada dana banyak, GPU, pasukan IT atau sumber teknikal.
Suatu hari nanti, makcik jual pisang goreng tepi jalan pun boleh jadi 系统 developer untuk perniagaan sendiri. Dia cakap je, "Jaga stok saya, kira untung harian, pantau harga bahan, ingat pelanggan tetap dan bagitahu bila masa nak beli pisang lagi," dan agent tu akan tolong bina sistem di belakang.
Arah kita jelas: 独立系统 → 智能路由 → 最低点 Suitable LLM → Specialised Own LLM → AI 辅助 系统 Development untuk semua orang. Kos minimum adalah matlamat terdekat. Percuma adalah impian. Kita tak nak bina AI paling besar; kita nak jadikan AI dan pembangunan sistem ni kecil, murah dan mudah sampai SME terkecil pun boleh guna.
#AINNA #NeuralOps #HuggingFace #OpenSourceAI #LLM #AIInfrastructure #SmartRouting #DetachedSystem #SME #SystemDevelopment #自动化
