Dalam operasi logistik, kita melakukan triaj setiap hari. Anda tidak akan menghantar lori kontena penuh atau menggerakkan pasukan penyelenggaraan hanya untuk satu bungkusan kecil. Prinsip yang sama harus dipakai kepada AI. Tidak semua tugas memerlukan model terbesar, beban GPU paling tinggi, atau lapisan komputasi paling mahal.
Perkara ini penting kerana AI tidak terlepas daripada perspektif ESG. Agensi Tenaga Antarabangsa menjangkakan penggunaan elektrik pusat data boleh lebih berganda kepada sekitar 945 TWh menjelang 2030, didorong secara ketara oleh permintaan AI. Pusat data juga memerlukan air untuk penyejukan dan kecekapan operasi, sebab itu syarikat teknologi besar kini melaporkan penggunaan air, pengambilan air tawar, dan pemulihan air sebagai sebahagian komitmen kemampanan mereka.
Di AINNA, prinsip kami mudah: komputasi paling bersih ialah komputasi yang tidak kita bazirkan. Tanpa 分离式系统 dan 智能路由, satu bebanan kerja boleh menggunakan sekitar 34 bilion token. Dengan seni bina kami, arahan operasi yang sama dapat dikurangkan kepada sekitar 1.5 bilion token - penurunan kira-kira 95.6% dalam penggunaan token.
Itulah sebabnya kami yakin untuk menyasarkan penggunaan kuasa lebih rendah sekitar 90% sebagai hala tuju ESG yang praktikal. Tugas mudah dihantar ke sistem ringan. Tugas operasi dihantar ke ejen pakar. Penaakulan kompleks dinaik taraf hanya apabila benar-benar diperlukan. Kami tidak menggerakkan lori kontena penuh hanya untuk satu bungkusan kecil.
Masa depan AI tidak seharusnya diukur hanya berdasarkan seberapa banyak kecerdasan yang boleh kita aktifkan, tetapi berapa banyak komputasi tidak perlu yang dapat kita elakkan. ESG sebenar dalam AI bukan menggunakan AI di mana-mana. Ia adalah menggunakan AI secara bijak.
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
收藏了，主要是为了945 TWh menjelang 2030。
我会把prinsip yang sama harus dipakai这一段分享给需要了解技术的同事。
看第二遍才注意到sebab itu syarikat teknologi besar的细节。
我喜欢文章对berganda kepada sekitar 945保持务实的态度。
这篇文章对agensi tenaga antarabangsa menjangkakan的解释很清楚，实际操作的重点也很容易理解。
关于didorong secara ketara oleh permintaan的例子很实用，适合团队继续讨论。