Di AINNA, setiap sistem yang kami bina dilihat melalui lensa kecekapan operasi. Salah satu keputusan teknikal paling berimpak: kami mengurangkan penggunaan token sehingga 90% dengan tidak membiarkan AI melakukan kerja yang perisian biasa sudah boleh uruskan dengan lebih baik. Ia mungkin tidak kelihatan menarik, tetapi memasukkan LLM atau ejen ke dalam setiap aliran kerja bukan inovasi. Kadangkala ia sekadar seni bina yang mahal.
Ambil contoh paling mudah: emel. Kita tidak memerlukan AI untuk menyemak sama ada emel baharu sudah tiba, mengenal pasti pengirim, memadankan kata kunci, menyusun data berstruktur, mengemas kini pangkalan data, atau mencetuskan proses seterusnya. Aturan, parser, skrip, dan automasi deterministik boleh melakukan kerja itu lebih pantas dengan kos pengiraan yang jauh lebih rendah.
Pendekatan yang kelihatan menarik ialah menghantar segala-galanya ke LLM. Baca. Kelaskan. Ringkas. Analisis. Ulang. Ia kelihatan mengagumkan pada papan pemuka, tetapi setiap token yang tidak perlu bermakna lebih banyak pengiraan GPU, lebih banyak elektrik, lebih banyak penyejukan, dan akhirnya jejak karbon yang lebih besar diukur dalam tan CO₂e.
Prinsip kami mudah: perisian mengendalikan kerja deterministik; AI mengendalikan kecerdasan. Gunakan AI untuk penaakulan, kekaburan, tafsiran, dan keputusan. Jangan membazir kitaran GPU untuk tugas yang beberapa baris kod boleh jalankan secara konsisten.
Jadi masa depan macam mana yang kita mahukan? AI yang menarik tetapi membazirkan pengiraan, atau seni bina pintar yang mengurangkan token, kos, elektrik, permintaan penyejukan, dan pelepasan karbon? Kami memilih seni bina yang kurang menarik itu - kerana masa depan AI bukan sahaja harus lebih berkuasa. Ia harus jauh lebih cekap.
#AI #AI基础设施 #NeuralOps #GreenAI #可持续AI #ESG #自动化 #企业版AI #碳减排量
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
文章对pendekatan yang kelihatan menarik ialah的结论比较平衡，不只是强调好处。
90%读起来很清楚，也容易跟着理解。
第一次看到有人把90%讲得这么坦白。
我喜欢文章对ia mungkin tidak kelihatan menarik保持务实的态度。