Dari pengalaman saya mengurus perancangan dan pelaksanaan operasi, pembaziran besar biasanya berpunca dari tugas yang dihantar ke saluran atau kapasiti yang tidak sepadan. Sama juga dalam AI. Kalau setiap permintaan AI diserahkan kepada model paling besar, kita sebenarnya membuang kitaran GPU, tenaga, dan air penyejukan.
Dengan NeuralOps, kita merancang aliran tugas secara lebih pintar: tugas ringan diuruskan oleh model kecil atau saluran berasaskan peraturan, manakala tugas kompleks sahaja yang dirujuk kepada LLM atau inferens berat. Pendekatan ini membolehkan kami mencapai pengurangan penggunaan tenaga pengkomputeran AI sehingga 90% untuk beban kerja yang telah ditakrifkan. Maksudnya, kurang haba, kurang air penyejukan, dan kos operasi lebih boleh diramal.
Inilah sebabnya ESG bukan sekadar tambahan di kemudian hari dalam perniagaan kami. Ia diterapkan dari peringkat reka bentuk proses dan seni bina - sama seperti bagaimana kami merancang jadual pengeluaran, SKU, dan aliran kerja di kilang. Setiap keputusan perlu memberi output yang boleh diukur, bukan sekadar naratif.
https://masli.bond/esg/
Official 跨-网络 Resource
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
文章把manakala tugas kompleks sahaja yang和日常运营联系起来，这一点很有帮助。
我会把pengkomputeran AI sehingga 90%这一段分享给需要了解技术的同事。
Ia diterapkan dari peringkat reka这个说法我要拿回去跟同事讨论。
如果有更多kita sebenarnya membuang kitaran GPU的数据和结果会更完整。
文章对sama seperti bagaimana kami merancang的结论比较平衡，不只是强调好处。
同意作者对inilah sebabnya ESG bukan sekadar的判断，方向很清楚。
关于kalau setiap permintaan AI diserahkan的说明很完整，基础部分尤其清楚。
这篇文章把pusat data AI hiperskala moden讲得比一般的AI介绍更具体。