Sebagai pengasas AINNA, saya melihat industri AI sedang berlumba membina pusat data yang lebih besar dan grid kuasa yang lebih kukuh.
Tetapi mungkin soalan yang kita tanya tidak tepat.
Selain daripada memfokuskan sepenuhnya cara menjana lebih banyak kuasa untuk AI, kita juga harus bertanya:
Bagaimanakah kita boleh mengurangkan penggunaan kuasa oleh AI sejak dari awal?
Demi generasi akan datang dan komitmen ESG kita, di AINNA kami memilih jalan yang berbeza. Daripada bergantung kepada pengkomputeran brute-force, kami memberi tumpuan kepada mereka bentuk aliran kerja AI yang paling cekap.
Dengan melaksanakan Penghalaan Pintar dan Seni Bina 系统 Terpisah, setiap tugas dihala ke model dan sistem yang paling sesuai, sekali gus mengelakkan pemprosesan intensif GPU yang tidak perlu.
结果 yang diperoleh amat memberangsangkan:
- Sebelum penoptimuman: 34 bilion token diproses
- Selepas penoptimuman: 1.5 bilion token diproses
Ini bermakna pengurangan beban kerja pemprosesan sebanyak kira-kira 95.6%.
Walaupun penjimatan tenaga sebenar bergantung kepada perkakasan, model, dan tahap penggunaan, pengurangan ini membuktikan bagaimana seni bina pintar boleh menurunkan keperluan pengkomputeran dengan ketara tanpa mengorbankan hasil.
Masa depan AI tidak seharusnya diukur hanya daripada saiz pusat data atau bilangan GPU yang digunakan.
Ia juga harus diukur berdasarkan sejauh mana kita menggunakannya secara cekap.
Penghalaan lebih pintar. Penggunaan tenaga lebih rendah. Jejak karbon berkurangan. Ekonomi yang lebih baik.
Watt yang paling lestari masihlah watt yang tidak perlu digunakan.
#AI #Artificial智能 #ESG #可持续发展 #GreenTech #DataCenter #能源效率 #创新 #DigitalTransformation #SmartRouting #FutureOfAI #ClimateTech #科技Leadership #ResponsibleAI #AINNA
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
这篇文章适合团队用来开始讨论di AINNA kami memilih jalan。
先存起来，主要是为了这篇文章。
关于这个主题这部分写得很扎实，整体也站得住。
如果有更多setiap tugas dihala ke model的数据和结果会更完整。
关于demi generasi akan datang dan的实际落地部分最吸引我。
同意作者对daripada bergantung kepada pengkomputeran的判断，方向很清楚。