Saya melihat AI dari sudut perancangan pengeluaran dan operasi - ia sepatutnya berfungsi seperti sistem triaj di lantai kilang. Anda tidak akan menggerakkan mesin besar atau jurutera pakar hanya untuk memasang pelekat kecil. Prinsip yang sama harus dipakai kepada AI. Tidak setiap tugas memerlukan model terbesar, beban GPU tertinggi, atau lapisan kompute termahal.
Ini penting kerana AI tidak bebas daripada impak ESG. 国际 能源 Agency menjangkakan penggunaan elektrik pusat data boleh lebih dua kali ganda kepada kira-kira 945 TWh menjelang 2030, didorong kuat oleh permintaan AI. Pusat data juga memerlukan air untuk penyejukan dan kecekapan operasi, sebab itu syarikat teknologi besar kini melaporkan penggunaan air, pengambilan air tawar, dan pemulihan air sebagai sebahagian komitmen kemampanan.
Di AINNA, prinsip pasukan Perancangan Pengeluaran dan Operasi kami mudah: kompute paling bersih ialah kompute yang tidak kita bazirkan. Tanpa 分离式系统 dan 智能路由, satu beban kerja boleh menggunakan sekitar 34 bilion token. Dengan arkitektur kami, arahan operasi yang sama boleh dikurangkan kepada kira-kira 1.5 bilion token - pengurangan kira-kira 95.6% dalam penggunaan token.
Sebab itulah kami yakin menyasarkan kira-kira 90% penggunaan kuasa lebih rendah sebagai hala tuju ESG yang praktikal. Tugas mudah dihantar ke sistem ringan. Tugas operasi dihantar ke ejen pakar. Penaakulan kompleks diangkat hanya apabila benar-benar diperlukan. Kami tidak mengaktifkan “jurutera pakar” untuk tampalan kecil.
Masa depan AI tidak seharusnya diukur hanya dengan seberapa banyak kecerdasan yang boleh kita aktifkan, tetapi dengan seberapa banyak kompute yang tidak perlu dapat kita elakkan. ESG sebenar dalam AI bukanlah menggunakan AI di mana-mana. Ia mengenai menggunakan AI dengan bijak.



Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
Prinsip yang sama harus dipakai这个说法我要拿回去跟同事讨论。
这篇文章适合团队用来开始讨论saya melihat AI dari sudut。
看第二遍才注意到kuasa lebih re 90%的细节。
我特别喜欢pusat data juga memerlukan air这一部分,内容没有把实施过程说得太简单。
关于tidak setiap tugas memerlukan model的例子很实用,适合团队继续讨论。
难得有人把ia sepatutnya berfungsi seperti sistem讲得这么直白。
文章把didorong kuat oleh permintaan AI和日常运营联系起来,这一点很有帮助。
收藏了,主要是为了anda tidak akan menggerakkan mesin。