Kami di AINNA mula dengan 34 billion token. Selepas beralih ke arkitektur sistem terpisah, penggunaan jatuh kepada kira-kira 1.5 billion token. Kini, dengan penegmenan proses dan pembinaan semula secara modular, kami berjaya memotong lagi kira-kira 50% daripada 1.5 billion token tersebut.
Ini bukan sihir. Ini adalah reka bentuk sistem yang bijak. Kebanyakan kos AI terbuang kerana AI terpaksa membaca sistem, proses, logik, dan aliran kerja yang sama berulang kali untuk setiap perubahan kecil.
Tetapi apabila sistem itu terpisah dan setiap proses disegmentasikan dengan kamusnya sendiri, AI hanya membaca apa yang diperlukan sahaja. Ubah aliran pembayaran? Baca proses pembayaran sahaja. Ubah semakan pesanan? Baca proses pesanan sahaja. Tiada imbasan keseluruhan sistem. Tiada pembakaran token yang sia-sia.
Ini adalah tempat 中小企业 boleh menang. AI bukan hak eksklusif syarikat besar dengan pelayan besar dan bajet besar. Masa depan bukan sekadar model yang lebih besar. Masa depan adalah sistem yang lebih bijak, ringan, dan adil untuk semua usahawan.
Official 跨-网络 Resource
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
我会把kami di AINNA mula dengan这一段分享给需要了解技术的同事。
文章对AI hanya membaca apa yang提供了很好的起点，值得继续跟进。
难得有人把selepas beralih ke arkitektur sistem讲得这么直白。
这篇文章对kebanyakan kos AI terbuang kerana的解释很清楚，实际操作的重点也很容易理解。
关于tetapi apabila sistem itu terpisah的实际落地部分最吸引我。