Sebagai pasukan perancangan pengeluaran dan operasi di AINNA, kami memotong penggunaan token sehingga 90% dengan memastikan AI tidak melakukan kerja yang perisian biasa sudah boleh uruskan dengan lebih baik. Ia mungkin tidak nampak menarik, tetapi memasukkan LLM atau ejen ke dalam setiap alur kerja bukan inovasi. Kadangkala, ia sekadar seni bina yang mahal.
Ambil contoh sesuatu yang sering kita uruskan di operasi: e-mel. Anda tidak perlukan AI untuk menyemak sama ada e-mel baharu sudah tiba, mengenal pasti pengirim, memadankan kata kunci, menyusun data berstruktur, mengemas kini pangkalan data, atau memicu proses seterusnya. Peraturan, penghurai, skrip, dan automasi deterministik boleh jalankan kerja itu lebih pantas dan menggunakan compute yang jauh lebih sedikit.
Pendekatan yang nampak glamour ialah menghantar segala-galanya kepada LLM. Baca. Klasifikasikan. Ringkaskan. Analisis. Ulang. Ia kelihatan impresif pada papan pemuka, tetapi setiap token yang tidak perlu bermaksud lebih banyak pengiraan GPU, lebih banyak elektrik, lebih banyak penyejukan, dan akhirnya jejak karbon yang lebih besar diukur dalam tan CO₂e.
Prinsip kami mudah: perisian mengendalikan kerja deterministik; AI mengendalikan kecerdasan. Gunakan AI untuk penaakulan, kesamaran, tafsiran, dan pembuatan keputusan. Jangan buang kitaran GPU untuk tugas yang beberapa baris kod boleh jalankan secara boleh dipercayai.
Jadi, masa depan mana yang kita mahukan? AI yang glamour tetapi membazirkan compute, atau seni bina pintar yang mengurangkan token, kos, elektrik, permintaan penyejukan, dan pelepasan karbon? Kami pilih seni bina yang kurang glamour - kerana masa depan AI bukan sahaja harus lebih berkuasa. Ia juga harus jauh lebih cekap.
#AI #AI基础设施 #NeuralOps #GreenAI #可持续AI #ESG #自动化 #企业版AI #碳减排量
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
关于pendekatan yang nampak glamour ialah的实际落地部分最吸引我。
同意作者对ia mungkin tidak nampak menarik的判断，方向很清楚。
如果还有90%的后续，我会继续读。
90%这部分我看了几遍，值得再想。
这篇文章适合团队用来开始讨论sebagai pasukan perancangan pengeluaran dan。
文章把atau memicu proses seterusnya和日常运营联系起来，这一点很有帮助。