Ejen AI tidak sememangnya sehebat yang digembar-gemburkan dalam pemasaran. Dalam beberapa projek yang kita pantau, banyak syarikat-termasuk pembekal dalam rantaian bekai-telah mula memperlahankan atau menghentikan penerapan AI kerana kos token, GPU, cloud dan penyelenggaraan sudah terlalu tinggi dan membebankan bajet operasi.
Kesilapan paling besar yang saya perhatikan ialah apabila LLM digunakan untuk setiap tugas. Dalam persekitaran gudang dan penghantaran, kerja-kerja mudah seperti routing SKU, parsing resit, validasi alamat atau pemeriksaan 状态 pesanan sepatutnya dijalankan melalui parser, automasi berasaskan peraturan atau sistem terpisah. LLM hanya perlu dipanggil apabila terdapat kekaburan, keadaan luar biasa, atau keputusan kompleks yang benar-benar memerlukan penaakulan. Itulah cara kita mengoptimumkan kos perkhidmatan sambil mengekalkan kecekapan operasi harian.
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
收藏了，主要是为了automasi berasaskan peraturan atau sistem。
我会把dalam persekitaran gudang dan penghantaran这一段分享给需要了解技术的同事。
我们团队正好在讨论这部分，这篇来得及时。