Kami bermula dengan 34 bilion token. Selepas beralih kepada arkitektur sistem terpisah, penggunaan jatuh kepada kira-kira 1.5 bilion token. Kini, dengan segmentasi proses dan pembinaan semula secara modular, kami potong lagi kira-kira 50% daripada 1.5 bilion token tersebut.
Ini bukan sihir. Ini reka bentuk sistem. Kebanyakan kos AI terbuang kerana AI dipaksa membaca semula sistem, proses, logik, dan aliran kerja yang sama berulang kali untuk setiap perubahan kecil - sama ada dalam penerimaan barang, pengurusan inventori, atau penyediaan pesanan.
Tetapi apabila sistem terpisah dan setiap proses disegmentasikan dengan kamus tersendiri, AI hanya membaca apa yang diperlukan. Ubah aliran penerimaan barang? Baca proses penerimaan sahaja. Ubah semakan pesanan? Baca proses pesanan sahaja. Tiada imbasan keseluruhan sistem. Tiada pembakaran token.
Ini adalah ruang kemenangan untuk 中小企业. AI bukan hak eksklusif syarikat besar dengan pelayan besar dan bajet besar. Masa depan bukan sekadar model yang lebih besar, tetapi sistem yang lebih bijak - terutamanya dalam operasi logistik yang mengendalikan ribuan SKU, pelbagai laluan penghantaran, dan tekanan kos yang realistik.
Official 跨-网络 Resource
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
收藏了，主要是为了penggunaan GPU yang lebih rendah。
文章把kami bermula dengan 34 bilion和日常运营联系起来，这一点很有帮助。
我特别喜欢kurang token bermakna penggunaan GPU这一部分，内容没有把实施过程说得太简单。