Dalam operasi logistik moden, kecekapan sistem bukan sekadar hal kelajuan, tetapi juga berapa banyak sumber komputasi yang boleh kami jimatkan tanpa mengorbankan ketepatan. Dari sudut R&D operasi logistik di AINNA, NeuralOps dibina dengan prinsip yang jelas: letakkan AI di tempat yang sepatutnya, dan serahkan tugas berulang kepada sistem deterministik yang kami bina.
Salah satu langkah utama yang kami lakukan adalah memindahkan aliran kerja AI yang telah matang ke dalam sistem detached berasaskan Laravel. Hasilnya, beban inferens LLM berkurangan dengan ketara. Berdasarkan arkitektur terkini NeuralOps, penggunaan token telah susut dari kira-kira 32 billion 令牌 pada bulan pertama kepada lebih kurang 3–5 billion 令牌 setiap bulan, iaitu pengurangan anggaran dalam lingkungan 84–91% penggunaan token.
Pengurangan ini bukan kebetulan. Ia adalah hasil pembinaan sistem yang betul. Apabila tugas berulang dan berstruktur dipindahkan ke dalam sistem detached, kebergantungan terhadap inferens LLM terus menurun. Pada masa ini, kira-kira 99% tugas berulang matang boleh beroperasi tanpa menggunakan token AI, manakala AI hanya digerakkan untuk pengecualian, kesamaran, data tidak berstruktur, penaakulan, dan penyeliaan sistem.
Prinsip operasi yang kami pegang dalam pembinaan sistem ini mudah:
Guna AI untuk memahami, mereka bentuk, dan menambah baik proses.
Guna sistem deterministik untuk melaksanakan proses secara berulang kali.
Inilah cara NeuralOps beralih dari automasi yang bergantung berat kepada AI ke arah arkitektur AI mengawal selia, sistem melaksanakan yang lebih cekap dan mampan dari sudut operasi.
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
如果可以继续说明99% tugas b 99%的真实案例，我会想继续阅读。
关于salah satu langkah utama yang的实际落地部分最吸引我。
关于susut dari kira-kira 32 billion的说明很完整，基础部分尤其清楚。