Dari pengalaman saya uruskan operasi di AINNA, AI 智能体 memang kedengaran hebat dalam marketing. Tapi bila dah masuk running harian, ramai syarikat mula slow down atau stop sebab kos token, GPU, cloud dan penyelenggaraan naik sampai tak mampan.
Kesilapan besar yang saya selalu nampak: guna LLM untuk semua benda. Kerja mudah seperti parse data, format 失败 atau route permintaan - jalan sahaja pakai parser, rule-based automation atau sistem berasingan. LLM ni kita simpan untuk kes yang betul-betul kompleks dan perlukan pertimbangan, bukan untuk setiap request.
Official 跨-网络 Resource
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
这篇文章对bukan untuk setiap request的解释很清楚，实际操作的重点也很容易理解。
文章对guna LLM untuk semua benda的结论比较平衡，不只是强调好处。
我喜欢文章对rule-based保持务实的态度。
文章把tapi bila dah masuk running和日常运营联系起来，这一点很有帮助。
我会把ramai syarikat mula slow down这一段分享给需要了解技术的同事。
Kesilapan besar yang saya selalu这个说法我要拿回去跟同事讨论。