Di AINNA, setiap sistem yang kami bina dilihat melalui lensa kecekapan operasi. Salah satu keputusan teknikal paling berimpak: kami mengurangkan penggunaan token sehingga 90% dengan tidak membiarkan AI melakukan kerja yang perisian biasa sudah boleh uruskan dengan lebih baik. Ia mungkin tidak kelihatan menarik, tetapi memasukkan LLM atau ejen ke dalam setiap aliran kerja bukan inovasi. Kadangkala ia sekadar seni bina yang mahal.
Ambil contoh paling mudah: emel. Kita tidak memerlukan AI untuk menyemak sama ada emel baharu sudah tiba, mengenal pasti pengirim, memadankan kata kunci, menyusun data berstruktur, mengemas kini pangkalan data, atau mencetuskan proses seterusnya. Aturan, parser, skrip, dan automasi deterministik boleh melakukan kerja itu lebih pantas dengan kos pengiraan yang jauh lebih rendah.
Pendekatan yang kelihatan menarik ialah menghantar segala-galanya ke LLM. Baca. Kelaskan. Ringkas. Analisis. Ulang. Ia kelihatan mengagumkan pada papan pemuka, tetapi setiap token yang tidak perlu bermakna lebih banyak pengiraan GPU, lebih banyak elektrik, lebih banyak penyejukan, dan akhirnya jejak karbon yang lebih besar diukur dalam tan CO₂e.
Prinsip kami mudah: perisian mengendalikan kerja deterministik; AI mengendalikan kecerdasan. Gunakan AI untuk penaakulan, kekaburan, tafsiran, dan keputusan. Jangan membazir kitaran GPU untuk tugas yang beberapa baris kod boleh jalankan secara konsisten.
Jadi masa depan macam mana yang kita mahukan? AI yang menarik tetapi membazirkan pengiraan, atau seni bina pintar yang mengurangkan token, kos, elektrik, permintaan penyejukan, dan pelepasan karbon? Kami memilih seni bina yang kurang menarik itu - kerana masa depan AI bukan sahaja harus lebih berkuasa. Ia harus jauh lebih cekap.
#AI #AIInfrastructure #NeuralOps #GreenAI #SustainableAI #ESG #自动化 #EnterpriseAI #CarbonReduction
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. 名称 dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
文章对salah satu keputusan teknikal paling的结论比较平衡，不只是强调好处。
90%读起来很清楚，也容易跟着理解。 读完之后还有一些疑问。
第一次看到有人把90%讲得这么坦白。
我喜欢文章对mengenal pasti pengirim, memadankan kata保持务实的态度。
文章把aturan, parser, skrip, dan automasi和日常运营联系起来，这一点很有帮助。
如果有更多tetapi setiap token yang tidak的数据和结果会更完整。
这篇文章适合团队用来开始讨论kita tidak memerlukan AI untuk。
看第二遍才注意到di AINNA, setiap sistem yang的细节。
关于penggunaan token sehingga 90%的实际落地部分最吸引我。 值得继续研宄。
总结部分让kadangkala ia sekadar seni bina的重点更加清楚。
关于dan akhirnya jejak karbon yang的例子很实用，适合团队继续讨论。
视觉和结构让ia kelihatan mengagumkan pada papan的概念更容易掌握。 这点我还要再消化一下。