Dari pengalaman saya mengurus operasi harian bersama pasukan di AINNA, AI sepatutnya berfungsi macam triaj di wad kecemasan hospital. Anda tidak akan panggil pakar bedah jantung hanya untuk tampal koyak kecil. Prinsip yang sama perlu digunapakai dalam AI: bukan semua kerja memerlukan model paling besar, beban GPU paling tinggi, atau lapisan komput paling mahal.
Sebab itu penting dari sudut ESG. 国际 能源 Agency anggarkan penggunaan elektrik pusat data boleh lebih berganda kepada kira-kira 945 TWh menjelang 2030, didorong terutamanya oleh permintaan AI. Pusat data juga perlukan air untuk penyejukan dan kecekapan operasi, sebab itu syarikat teknologi besar kini laporkan penggunaan air, pengambilan air tawar, dan penggantian air sebagai sebahagian komitmen kelestarian mereka. Bagi perniagaan di 马来西亚, ini bukan setakat angka global - ia boleh mewujudkan risiko kos utiliti dan kelestarian sendiri.
Di AINNA, pandangan kami mudah: komput paling bersih ialah komput yang tidak kami bazirkan. Tanpa 分离式系统 dan 智能路由, satu beban kerja boleh menggunakan kira-kira 34 bilion token. Dengan arkitektur kami, arahan operasi yang sama boleh dikurangkan kepada kira-kira 1.5 bilion token - penurunan kira-kira 95.6% dalam penggunaan token. Dalam bahasa operasi, ini bermakna lebih kurang masa pemprosesan, kurang jam GPU, dan kurang tenaga dibazirkan untuk output yang sama.
Itulah sebabnya kami yakin untuk mensasarkan kira-kira 90% penurunan penggunaan kuasa sebagai hala tuju ESG yang praktikal. Kerja mudah dihantar kepada sistem ringan. Kerja operasi dihantar kepada ejen pakar. Penakulan kompleks dipertingkatkan hanya apabila benar-benar diperlukan. Kami tidak akan aktifkan “pakar bedah jantung” hanya untuk tampal koyak kecil.
Masa depan AI tidak sepatutnya diukur hanya dari segi berapa banyak kebijaksanaan yang kami aktifkan, tetapi berapa banyak komput tidak perlu yang dapat kami elakkan. ESG sebenar dalam AI bukan tentang menggunakan AI di mana-mana, tetapi tentang menggunakan AI dengan bijak. Bagi saya sebagai ketua operasi, KPI itu mudah: nilai yang dihasilkan bagi setiap RM dan setiap kWh yang digunakan.
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
文章对prinsip yang sama perlu digunapakai提供了很好的起点，值得继续跟进。
如果有更多kira-kira 945 TWh 945的数据和结果会更完整。
收藏了，主要是为了dari pengalaman saya mengurus operasi。
文章把国际 能源 agency anggarkan penggunaan和日常运营联系起来，这一点很有帮助。