Sejak sekian lama, industri menganggap 智能路由 sebagai soal pemilihan model: kenal pasti tugasan, kemudian pilih LLM yang paling sesuai berdasarkan keupayaan, kelajuan, kos dan kerumitan. Di AINNA, kami melihatnya dari sudut yang lebih dekat dengan perniagaan pelanggan. Apabila pemilik syarikat, pengurus operasi dan pasukan IT di 中小企业 马来西亚 datang membawa masalah sebenar mereka, soalan pertama yang perlu dijawab bukanlah “model mana yang patut mengendalikan tugasan ini?” Soalan pertama ialah: “perlukah tugasan ini dipanggil model langsung?”
Seni bina NeuralOps kami yang sedang berkembang mengikut pendekatan pelaksanaan yang mengutamakan guna semula. Bila sesuatu permintaan tiba, sistem akan menyemak terlebih dahulu sama ada pengetahuan, arahan, aliran kerja atau corak pelaksanaan yang telah divalidasi sudah pun wujud. Jika tugasan itu boleh diselesaikan melalui pengetahuan sedia ada, logik deterministik, pangkalan data, parser, API atau alat lain, tiada sebab untuk kita memulakan satu lagi inferens LLM.
Hanya kerja yang belum selesai akan sampai ke peringkat penaakulan AI. Dan di situ, 智能路由 tetap berterusan. Arahan yang kompleks boleh dipecahkan kepada tugasan-tugasan kecil - kerja coding dihalakan kepada model coding, kerja bahasa kepada model bahasa, tugasan visual kepada model visual - manakala operasi berulang boleh kekal sepenuhnya terpisah daripada LLM. Secara ringkas, seni binanya menjadi: 再利用 → 解决 → 执行 → 原因.
Tidak lama lagi, kami juga merancang untuk memperkenalkan model keputusan bergaya JEv ke dalam NeuralOps sebagai satu lagi lapisan keputusan perantaraan. Apabila sistem deterministik menemui anomali atau keputusan yang tidak pasti, model keputusan khusus yang lebih kecil mungkin sudah memadai untuk menentukan tindakan seterusnya - tanpa perlu terus mengheret tugasan itu kepada LLM penuh.
Matlamat kami bukan untuk menyingkirkan LLM. Matlamat kami ialah menggunakannya di tempat yang keupayaan penaakulannya benar-benar memberi nilai kepada pelanggan. Pendekatan ini mengurangkan panggilan model yang tidak perlu, penggunaan token, kependaman dan permintaan komputer, sambil meningkatkan konsistensi dan mengurangkan pergerakan data operasi yang tidak perlu ke model luaran. Bagi pelanggan kami, ini bermakna data perniagaan kekal lebih terkawal dan kos operasi harian lebih mudah diramal.
Bagi kami, 智能路由 kini berkembang melangkaui soal mencari model yang lebih murah atau lebih berkuasa. Ia menjadi satu seni bina keputusan yang menentukan sama ada AI perlu dipanggil sejak awal, dan hanya selepas itu memutuskan lapisan kecerdasan yang sesuai. Itulah cara kami memastikan setiap pelaburan dalam AI benar-benar kembali sebagai nilai kepada perniagaan pelanggan.
Ada kalanya, model yang paling cekap ialah tiada model langsung.
Guna semula apa yang sudah diketahui. Laksana apa yang deterministik. Manfaatkan kecerdasan khusus apabila ia sudah mencukupi. Bernalar secara mendalam hanya apabila benar-benar perlu.
#AINNA #NeuralOps #SmartRouting #AgenticAI #AIAgents #AI基础设施 #决策Models #LLM #企业版AI #可持续AI
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
难得有人把soalan pertama yang perlu dijawab讲得这么直白。
如果可以继续说明arahan yang kompleks boleh dipecahkan的真实案例，我会想继续阅读。
这篇文章把perlukah tugasan ini dipanggil model讲得比一般的AI介绍更具体。
如果还有这段说明的后续，我会继续读。