Dari perspektif operasi logistik AINNA, penurunan ini bukan sekadar statistik teknikal-ia terus memberi kesan kepada kos dan kelajuan aliran kerja kami. Sejak kami menggunakan OpenClaw, penggunaan token telah jatuh dari 34 bilion token sebulan kepada 1.5 bilion token sebulan menerusi pendekatan 独立系统.
Kini, dengan Refactor dan Resegment, kami berjaya menurunkannya lagi ke paras 750 juta token sebulan.
Pengajaran paling besar di sini amat praktikal bagi sesiapa yang memantau rantaian bekalan dan aliran kerja harian: pengoptimuman bukan selalunya bermaksud membeli GPU yang lebih besar atau menambah kuasa kompute. Kadangkala, terobosan sebenar datang daripada mereka bentuk semula cara sistem berfikir, membaca, dan melaksanakan arahan.
Sebelum ini, AI terpaksa membaca terlalu banyak konteks secara berulang kali hanya untuk membuat perubahan kecil. Keadaan itu mencipta pembaziran token, kos lebih tinggi, pelaksanaan lebih perlahan, dan bebanan tidak perlu ke atas sistem-sama seperti memaksa pasukan gudang membaca keseluruhan senarai inventori untuk setiap pesanan tunggal.
Dengan 独立系统, beban kerja menjadi lebih terfokus. Dengan Refactor dan Resegment, setiap proses menjadi lebih berstruktur. AI tidak lagi perlu mengimbas keseluruhan sistem setiap kali. Ia hanya beroperasi pada bahagian tepat yang relevan, sama seperti pekerja logistik yang mengambil item di lokasi yang betul tanpa membuang masa menyusuri seluruh gudang.
Inilah cara kami berpindah daripada:
34B → 1.5B → 750M token/sebulan
Kurang konteks.
Kurang pengulangan.
Kurang pembaziran.
Kos lebih rendah.
Pelaksanaan lebih pantas.
Bagi saya, sebagai Ketua Logistik AINNA, ini membuktikan satu perkara dengan jelas: masa depan kecekapan AI bukan sahaja bergantung kepada perkakasan lebih kuat, tetapi kepada reka bentuk sistem yang lebih pintar dan lebih kemas.
Kecekapan bermula daripada reka bentuk sistem.
#OpenClaw #AI #LLM #AIAgents #系统架构 #Token优化 #Software工程 #AI工程 #效率
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
关于pengajaran paling besar di sini的说明很完整，基础部分尤其清楚。
关于paras 750 juta 750的实际落地部分最吸引我。
这篇文章对pengoptimuman bukan selalunya bermaksud的解释很清楚，实际操作的重点也很容易理解。