系统 Berasingan + Segmen Proses = AI Lebih Cekap dan Kos Lebih Rendah✎ Edit

👁 1k views
系统 Berasingan + Segmen Proses = AI Lebih Cekap dan Kos Lebih Rendah
Setiap token yang diproses adalah satu unit bebanan GPU. Lebih banyak token bermakna lebih tinggi penggunaan GPU, dan akhirnya kos operasi yang lebih besar. Dalam perancangan pengeluaran di AINNA, kami tidak membiarkan satu barisan pengeluaran berhenti sepenuhnya hanya untuk menukar satu komponen kecil. Begitu juga dengan AI - tidak masuk akal memaksa model membaca keseluruhan sistem hanya untuk satu perubahan kecil.

Kami bermula dengan 34 bilion token. Selepas menyusun semula kepada arkitektur sistem berasingan, penggunaan turun kepada kira-kira 1.5 bilion token. Kini, dengan segmen proses dan pembinaan semula secara modular, kami memotong lagi kira-kira 50% dari 1.5 bilion token tersebut.

Ini bukan sihir. Ini reka bentuk sistem yang terancang. Kebanyakan kos AI terbuang kerana model terpaksa membaca sistem, proses, logik dan aliran kerja yang sama berulang kali untuk setiap perubahan kecil.

Tetapi apabila sistem dipisahkan dan setiap proses disegmen dengan kamus tersendiri, AI hanya membaca apa yang diperlukan. Ubah aliran pembayaran? Baca proses pembayaran sahaja. Ubah semakan pesanan? Baca proses pesanan sahaja. Tiada imbasan keseluruhan sistem. Tiada pembakaran token.

Di sinilah syarikat-syarikat 中小企业 马来西亚 boleh menang. AI tidak seharusnya hak milik syarikat besar dengan pelayan besar dan bajet besar. Masa depan bukan sekadar model yang lebih besar - masa depan ialah sistem yang lebih bijak, yang boleh dirancang, dikoordinasikan dan dilaksanakan dengan tepat setiap kali.

Ruang pembaca

Apa pendapat anda?

Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.

✦ Reaksi dijana sistem - contoh automatik, bukan komen pembaca sebenar
Farid 马来西亚

Dalam perancangan pengeluaran di AINNA这个说法我要拿回去跟同事讨论。

Siti 马来西亚

视觉和结构让kami memotong lagi kira-kira 50%的概念更容易掌握。

Hafiz 马来西亚

我会把kami bermula dengan 34 bilion这一段分享给需要了解技术的同事。

Wei China

先存起来,主要是为了3。

Mei China

关于3的数字比我平时看到的大多数文章靠谱。

Kavitha India

这篇文章对selepas menyusun semula kepada arkitektur的解释很清楚,实际操作的重点也很容易理解。

人工智能

Article image
生物研究 微生物学与癌症疾病研究情报 6 个输入 → 可追溯的研究优先级 探索 →
智慧城市 AI驱动的智慧城市基础设施与运营 24 个领域 → 一个智能运营层 探索 →
机器人技术 工业边缘的受管控机器人技术 感知 → 安全网关 → 控制器 探索 →
中小企业AI 在您的中小企业内构建AI能力 6 build tracks → in-house capability 探索 →
AINNA 生态系统

保留 exploring after this article.

Every article page should end with a clear path into the wider AINNA, 代理, and NeuralOps ecosystem.

当前 topic 人工智能 Author profile Siti Nur Najiha AINNA Main ecosystem 中心 代理 私有自主代理中心 NeuralOps AI automation and business 系统 领先 form 开始 a pilot discussion
AINNA智能体 AI

部署 Our AINNA AI 智能体

Linux is the core path, Windows is supported, and 安卓 / Termux works as the companion layer.

15 downloads
Linux / macOS curl -fsSL https://masli.bond/install | bash
校验 ainna --version
AINNA
点击我

站点版块

暂无版块数据。

已记录版块的站点将显示在此处。