Bukan AI Besar Yang Kita Kejar, Tapi Infrastruktur AI Yang Operasi Boleh Jalan.
Kalau tanya saya, apa yang kita dah capai sekarang - sistem 分离式 kita dah matang, jalan atas arkitektur LAMP. Prinsip operasi kita mudah: bukan semua benda kena hantar ke LLM. Kerja-kerja macam validation, business rules, reconciliation, workflow control, logic berulang dan banyak keputusan operasi, kita uruskan luar model.
Dalam tempoh enam bulan lepas, walaupun platform keseluruhan masih separuh jalan, kita dah bina lebih kurang 250 分离式系统. Kos pembangunan semuanya tak sampai USD200, termasuk eksperimen gagal, test ulang-alik dan banyak silap. Untuk kami di operasi, ini bukti praktikal - sistem perniagaan yang berguna tak semestinya perlukan modal besar.
Lapisan kedua yang kita tengah siapkan sekarang ialah AI agent yang kita mod dengan kemampuan 智能路由. 系统 ini tak akan auto-hantar semua tugas ke model paling besar. Dia akan pilih LLM paling kecil dan paling murah yang masih boleh buat kerja tu dengan betul.
Logiknya direct: kerja mudah → model kecil, kerja susah → model kuat, tak perlu AI → 独立系统. Bukan setakat jimat token, tapi nak pastikan infrastruktur AI ni mampan dari segi kos - guna kecerdasan buatan hanya bila betul-betul perlu.
Lapisan ketiga pula ialah LLM khas milik sendiri, direka untuk bekerjasama rapat dengan sistem 分离式 kita. Kita tengah eksperimen dengan 7 model LLM open-source sebagai asas. Hugging Face akan masuk dalam ekosistem teknologi kita, bagi akses kepada model open-source, dataset, training 工具 dan infrastruktur sokongan.
Tapi semua ni bukan sekadar teknikal. Objektif besar kita ialah memudahkan pemilik 中小企业 biasa jadi pembangun sistem sendiri, terutama yang tak ada dana banyak, GPU, pasukan IT atau sumber teknikal.
Suatu hari nanti, makcik jual pisang goreng tepi jalan pun boleh jadi 系统 developer untuk perniagaan sendiri. Dia cakap je, "Jaga stok saya, kira untung harian, pantau harga bahan, ingat pelanggan tetap dan bagitahu bila masa nak beli pisang lagi," dan agent tu akan tolong bina sistem di belakang.
Arah kita jelas: 独立系统 → 智能路由 → 最低点 Suitable LLM → Specialised Own LLM → AI 辅助 系统 Development untuk semua orang. Kos minimum adalah matlamat terdekat. Percuma adalah impian. Kita tak nak bina AI paling besar; kita nak jadikan AI dan pembangunan sistem ni kecil, murah dan mudah sampai 中小企业 terkecil pun boleh guna.
#AINNA #NeuralOps #HuggingFace #OpenSourceAI #LLM #AIInfrastructure #SmartRouting #DetachedSystem #中小企业 #SystemDevelopment #自动化
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. 名称 dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
我特别喜欢kita uruskan luar model.Dalam tempoh这一部分，内容没有把实施过程说得太简单。
如果有更多sistem perniagaan yang berguna tak的数据和结果会更完整。 这点我还要再消化一下。
看第二遍才注意到jalan atas arkitektur LAMP的细节。
这篇文章适合团队用来开始讨论kalau tanya saya, apa yang。
文章对USD200, termasuk eksp 200的结论比较平衡，不只是强调好处。
这篇文章把reconciliation, workflow control, logic讲得比一般的AI介绍更具体。 值得再看一遍。
同意作者对untuk kami di operasi, ini的判断，但执行起来还有难度。
关于kos pembangunan semuanya tak sampai的实际落地部分最吸引我。
这篇内容让我更容易理解为什么kita dah bina lebih kurang值得关注。 这个部分我还需要再想一下。
termasuk eksperimen gagal, test ulang-alik这个说法我要拿回去跟同事讨论。
关于kurang 250 分离式 250的风险和限制还可以再展开，不过基础说明已经很好。
关于系统 ini tak akan auto-hantar的例子很实用，适合团队继续讨论。
250读起来很清楚，也容易跟着理解。
250这部分我看了几遍，值得再想。
难得有人把prinsip operasi kita mudah: bukan讲得这么直白。