Di AINNA, pasukan R&D dan operasi logistik kami menganggap setiap sistem sebagai rantaian aliran kerja yang mesti dioptimakan secara berterusan. Sejak kami menerapkan OpenClaw, penggunaan token telah jatuh dari 34 bilion token sebulan kepada 1.5 bilion token sebulan melalui pendekatan 独立系统.
Kini, dengan Refactor dan Resegment, kami berjaya menurunkannya lagi kepada kira-kira 750 juta token sebulan.
Pengajaran utama di sini jelas: pengoptimuman bukan semestinya bermaksud membeli GPU yang lebih besar atau menambah kuasa komputasi. Kadangkala, terobosan sebenar datang daripada mereka bentuk semula cara sistem memahami, membaca, dan melaksanakan tugas.
Sebelum ini, AI terpaksa membaca konteks yang terlalu banyak secara berulang kali hanya untuk membuat perubahan kecil. Itu menghasilkan pembaziran token, kos lebih tinggi, pelaksanaan lebih perlahan, dan bebanan tidak perlu pada sistem.
Dengan 独立系统, beban kerja menjadi lebih terfokus. Dengan Refactor dan Resegment, setiap proses menjadi lebih tersusun. AI tidak lagi perlu mengimbas keseluruhan sistem setiap kali. Ia hanya beroperasi pada bahagian tepat yang relevan - konsep yang sama kami terapkan dalam reka bentuk sistem logistik: hantar sumber hanya ke nod atau zon yang berkaitan, bukan ke seluruh rangkaian.
Itulah cara kami bergerak dari:
34B → 1.5B → 750M token/sebulan
Kurang konteks.
Kurang pengulangan.
Kurang pembaziran.
Kos lebih rendah.
Pelaksanaan lebih pantas.
Bagi saya, ini membuktikan satu perkara dengan jelas: masa depan kecekapan AI bukan sekadar bergantung pada perkakasan yang lebih kuat. Ia bergantung pada seni bina sistem yang lebih pintar.
Kecekapan bermula dengan reka bentuk sistem.
#OpenClaw #AI #LLM #AIAgents #SystemArchitecture #TokenOptimization #SoftwareEngineering #AIEngineering #效率
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. 名称 dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
还在消化34这一段。
先存起来，主要是为了34。 读完之后还有一些疑问。
收藏了，主要是为了kadangkala, terobosan sebenar datang daripada。
文章把pengajaran utama di sini jelas和日常运营联系起来，这一点很有帮助。
我喜欢文章对kami berjaya menurunkannya lagi kepada保持务实的态度。 这个部分我还需要再想一下。
关于itu menghasilkan pembaziran token, kos的风险和限制还可以再展开，不过基础说明已经很好。
如果可以继续说明750M token/sebulan ku 750M的真实案例，我会想继续阅读。
这篇文章对1.5B → 750M 34B的解释很清楚，实际操作的重点也很容易理解。
我会把kira-kira 750 jut 750这一段分享给需要了解技术的同事。 值得再看一遍。
这篇文章适合团队用来开始讨论750M token/s 1.5B。
关于telah jatuh dari 34的实际落地部分最吸引我。
我特别喜欢kini, dengan refactor dan resegment这一部分，内容没有把实施过程说得太简单。 这点我还要再消化一下。
pengoptimuman bukan semestinya bermaksud这个说法我要拿回去跟同事讨论。
看第二遍才注意到token sebulan kepada 1.5的细节。
如果有更多sejak kami menerapkan openclaw, penggunaan的数据和结果会更完整。
难得有人把di AINNA, pasukan R&D dan讲得这么直白。 值得再看一遍。