行业 AI sedang berlumba-lumba membina pusat data yang lebih besar dan mengukuhkan grid kuasa.
Tapi dari sudut operasi harian saya, soalan yang lebih relevan mungkin lain.
Bukan sahaja bagaimana untuk jana lebih banyak kuasa bagi AI, tetapi juga:
Bagaimana kita boleh kurangkan penggunaan kuasa AI dari awal?
Demi generasi akan datang dan komitmen ESG kami, di AINNA kami pilih pendekatan praktikal. Kami tidak bergantung kepada brute-force computing; sebaliknya kami susun aliran kerja AI supaya setiap proses berjalan dengan kecekapan maksimum.
Melalui 智能路由 dan 独立系统 架构, setiap tugas dihantar kepada model dan sistem yang paling sesuai. Ini mengelakkan pemprosesan GPU yang tidak perlu dan mengurangkan beban di peringkat operasi.
结果 di lapangan:
- Sebelum pengoptimuman: 34 bilion token diproses
- Selepas pengoptimuman: 1.5 bilion token diproses
Pengurangan beban pemprosesan dalam lingkungan 95.6%.
Penjimatan tenaga sebenar memang bergantung kepada perkakasan, model, dan tahap utilisasi. Walau bagaimanapun, penurunan ini membuktikan bahawa reka bentuk pintar boleh mengurangkan keperluan kompute secara ketara tanpa mengorbankan output.
Masa depan AI tidak patut dinilai hanya dari saiz pusat data atau bilangan GPU yang diguna.
Ia juga patut dinilai dari sejauh mana kita guna sumber tersebut dengan cekap.
路由 lebih cerdas. Penggunaan tenaga lebih rendah. Jejak karbon lebih kecil. Ekonomi lebih baik.
Watt yang paling mampan tetap watt yang tidak perlu digunakan.
#AI #Artificial智能 #ESG #可持续发展 #GreenTech #DataCenter #能源效率 #创新 #DigitalTransformation #SmartRouting #FutureOfAI #ClimateTech #科技Leadership #ResponsibleAI #AINNA
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
这篇文章适合团队用来开始讨论ini mengelakkan pemprosesan GPU yang。
Melalui 智能路由 dan 独立系统 架构这个说法我要拿回去跟同事讨论。
这篇文章把setiap tugas dihantar kepada model讲得比一般的AI介绍更具体。
这篇内容让我更容易理解为什么demi generasi akan datang dan值得关注。