Dari pengalaman saya uruskan operasi di AINNA, AI 智能体 memang kedengaran hebat dalam marketing. Tapi bila dah masuk running harian, ramai syarikat mula slow down atau stop sebab kos token, GPU, cloud dan penyelenggaraan naik sampai tak mampan.
Kesilapan besar yang saya selalu nampak: guna LLM untuk semua benda. Kerja mudah seperti parse data, format 失败 atau route permintaan — jalan sahaja pakai parser, rule-based automation atau sistem berasingan. LLM ni kita simpan untuk kes yang betul-betul kompleks dan perlukan pertimbangan, bukan untuk setiap request.
