Dalam operasi harian di AINNA, pemindahan aliran kerja AI yang telah matang ke sistem terpisah berasaskan Laravel membantu NeuralOps mengurangkan lagi kebergantungan terhadap inferens AI.
Berdasarkan rekod operasi semasa, penggunaan token telah susut dari kira-kira 32 bilion token pada bulan pertama ke sekitar 3–5 bilion token setiap bulan, iaitu penurunan anggaran 84–91% dalam penggunaan token.
Apabila lebih banyak aliran kerja berulang dan berstruktur dipindahkan ke sistem terpisah berasaskan Laravel, kebergantungan terhadap inferens LLM terus menurun. Pada hari ini, kira-kira 99% tugas berulang yang matang boleh beroperasi tanpa menggunakan token AI, manakala AI dikekalkan untuk menangani pengecualian, kekaburan, data tidak berstruktur, penaakulan, dan penyeliaan sistem.
Prinsip yang kami amalkan di lapangan amat mudah:
Gunakan AI untuk memahami, mereka bentuk dan menambah baik proses operasi.
Gunakan sistem deterministik untuk melaksanakan proses tersebut secara berulang dan konsisten.
Inilah cara NeuralOps beralih dari automasi yang terlalu bergantung kepada AI ke arah arkitektur diperintah AI dan dilaksanakan oleh sistem yang lebih cekap dan tahan lasak untuk operasi berskala.
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
我会把iaitu penurunan anggaran 84–91% dalam这一段分享给需要了解技术的同事。
视觉和结构让prinsip yang kami amalkan di的概念更容易掌握。
如果有更多apabila lebih banyak aliran kerja的数据和结果会更完整。
收藏了，主要是为了dalam operasi harian di AINNA。