Dari pengalaman mengurus operasi logistik di AINNA, kami berjaya kurangkan penggunaan token sehingga 90% dengan memastikan AI tidak melakukan kerja yang perisian atau sistem operasi biasa sudah boleh tangani dengan lebih baik. Ia mungkin tidak kelihatan canggih, tetapi memasukkan LLM atau ejen ke dalam setiap aliran kerja operasi bukan inovasi. Kadangkala, ia sekadar seni bina yang mahal.
Ambil contoh proses pesanan harian. Kami tidak perlu AI untuk menyemak sama ada pesanan baharu masuk, mengenal pasti pelanggan, memadankan SKU, menyusun data berstruktur, mengemas kini inventori, atau mencetuskan proses seterusnya seperti pemungutan dan pembungkusan. Peraturan, parser, skrip, dan automasi deterministik boleh melakukan semua itu lebih pantas dan dengan kos pengiraan yang jauh lebih rendah.
Pendekatan 'cantik' ialah menghantar semua data ke LLM. Baca. Kelaskan. Ringkaskan. Analisis. Ulang. Ia kelihatan hebat di papan pemuka, tetapi setiap token yang tidak perlu bermakna lebih banyak pengiraan GPU, lebih banyak elektrik, lebih banyak penyejukan, dan akhirnya jejak karbon yang lebih besar diukur dalam tan CO₂e - sesuatu yang kami di logistik perlu pantau secara teliti.
Prinsip kami mudah: perisian menangani kerja deterministik; AI menangani kepintaran. Gunakan AI untuk penaakulan, kekaburan, pentafsiran, dan keputusan operasi seperti ramalan permintaan atau pengurusan pengecualian pengiriman. Jangan bazirkan kitar GPU untuk tugas yang beberapa baris kod boleh jalankan dengan boleh dipercayai.
Jadi, masa depan operasi yang mana kita mahukan? AI 'cantik' yang membazirkan pengiraan, atau seni bina bijak yang mengurangkan token, kos, elektrik, keperluan penyejukan, dan pelepasan karbon? Kami memilih seni bina yang kurang glamor - kerana masa depan AI dalam logistik bukan sahaja perlu lebih berkuasa, tetapi juga jauh lebih cekap.
#AI #AI基础设施 #NeuralOps #GreenAI #可持续AI #ESG #自动化 #企业版AI #碳减排量
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
难得有人把tetapi memasukkan LLM atau ejen讲得这么直白。
我喜欢文章对pendekatan 'cantik' ialah menghantar semua保持务实的态度。
这篇文章对kami tidak perlu AI untuk的解释很清楚，实际操作的重点也很容易理解。
关于ambil contoh proses pesanan harian的例子很实用，适合团队继续讨论。
penggunaan token sehingga 90%这个说法我要拿回去跟同事讨论。