Kita boleh potong penggunaan token sehingga 90% apabila kita berhenti meminta AI melakukan tugas yang perisian biasa sudah uruskan dengan lebih baik. Ia mungkin tidak kelihatan menarik, tetapi memaksakan LLM atau ejen ke dalam setiap aliran kerja bukanlah inovasi. Kadangkala, ia hanyalah seni bina yang mahal.
Ambil contoh sesuatu seringkas e-mel. Kita tidak memerlukan AI untuk memeriksa sama ada e-mel baharu sudah tiba, mengenal pasti pengirim, memadankan kata kunci, menyusun data berstruktur, mengemas kini pangkalan data, atau mencetuskan proses seterusnya. Peraturan, penghurai, skrip, dan automasi berketentuan boleh melakukan tugas itu dengan lebih pantas dan hanya memerlukan sebahagian kecil daripada pengiraan.
Pendekatan yang nampak menarik ialah menghantar segala-galanya ke LLM. Bacanya. Kelaskannya. 摘要nya. Analisiskannya. Ulangi. Ia kelihatan mengagumkan pada papan pemuka, tetapi setiap token yang tidak perlu bermaksud lebih banyak pengiraan GPU, lebih banyak tenaga elektrik, lebih banyak penyejukan, dan akhirnya jejak karbon yang lebih besar diukur dalam tan CO₂e.
Prinsip kami di AINNA mudah: perisian mengendalikan kerja berketentuan; AI mengendalikan kecerdasan. Gunakan AI untuk penaakulan, keraguan, tafsiran, dan keputusan. Jangan membazirkan kitaran GPU untuk tugas yang beberapa baris kod boleh jalankan dengan yakin.
Jadi, masa depan manakah yang kita mahu bina bersama? AI yang menarik tetapi membazirkan pengiraan, atau seni bina pintar yang mengurangkan token, kos, tenaga elektrik, keperluan penyejukan, dan pelepasan karbon? Kita memilih seni bina yang kurang menarik itu - kerana masa depan AI bukan sahaja harus lebih berkuasa, tetapi juga harus jauh lebih cekap.
#AI #AI基础设施 #NeuralOps #GreenAI #可持续AI #ESG #自动化 #企业版AI #碳减排量
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
这篇文章把pendekatan yang nampak menarik ialah讲得比一般的AI介绍更具体。
关于kita tidak memerlukan AI untuk的例子很实用，适合团队继续讨论。
文章对kita boleh potong penggunaan token的结论比较平衡，不只是强调好处。
我特别喜欢tetapi memaksakan LLM atau ejen这一部分，内容没有把实施过程说得太简单。