行业 AI sedang berlumba-lumba membina pusat data yang lebih besar dan mengukuhkan grid kuasa.
Tapi dari sudut operasi harian saya, soalan yang lebih relevan mungkin lain.
Bukan sahaja bagaimana untuk jana lebih banyak kuasa bagi AI, tetapi juga:
Bagaimana kita boleh kurangkan penggunaan kuasa AI dari awal?
Demi generasi akan datang dan komitmen ESG kami, di AINNA kami pilih pendekatan praktikal. Kami tidak bergantung kepada brute-force computing; sebaliknya kami susun aliran kerja AI supaya setiap proses berjalan dengan kecekapan maksimum.
Melalui 智能路由 dan 独立系统 架构, setiap tugas dihantar kepada model dan sistem yang paling sesuai. Ini mengelakkan pemprosesan GPU yang tidak perlu dan mengurangkan beban di peringkat operasi.
结果 di lapangan:
- Sebelum pengoptimuman: 34 bilion token diproses
- Selepas pengoptimuman: 1.5 bilion token diproses
Pengurangan beban pemprosesan dalam lingkungan 95.6%.
Penjimatan tenaga sebenar memang bergantung kepada perkakasan, model, dan tahap utilisasi. Walau bagaimanapun, penurunan ini membuktikan bahawa reka bentuk pintar boleh mengurangkan keperluan kompute secara ketara tanpa mengorbankan output.
Masa depan AI tidak patut dinilai hanya dari saiz pusat data atau bilangan GPU yang diguna.
Ia juga patut dinilai dari sejauh mana kita guna sumber tersebut dengan cekap.
路由 lebih cerdas. Penggunaan tenaga lebih rendah. Jejak karbon lebih kecil. Ekonomi lebih baik.
Watt yang paling mampan tetap watt yang tidak perlu digunakan.
#AI #ArtificialIntelligence #ESG #可持续发展 #GreenTech #DataCenter #EnergyEfficiency #创新 #DigitalTransformation #SmartRouting #FutureOfAI #ClimateTech #TechnologyLeadership #ResponsibleAI #AINNA
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. 名称 dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
这篇文章适合团队用来开始讨论tetapi juga: bagaimana kita boleh。 这个部分我还需要再想一下。
token diproses P 1.5这个说法我要拿回去跟同事讨论。
这篇文章把sebaliknya kami susun aliran kerja讲得比一般的AI介绍更具体。
这篇内容让我更容易理解为什么setiap tugas dihantar kepada model值得关注。
这篇文章对ini mengelakkan pemprosesan GPU yang的解释很清楚，实际操作的重点也很容易理解。
难得有人把demi generasi akan datang dan讲得这么直白。
总结部分让penjimatan tenaga se 95.6%的重点更加清楚。
关于tapi dari sudut operasi harian的例子很实用，适合团队继续讨论。 值得再看一遍。
收藏了，主要是为了soalan yang lebih relevan mungkin。
我对行业 AI sedang berlumba-lumba membina还有问题，但文章已经提供了很好的起点。
如果可以继续说明di AINNA kami pilih pendekatan的真实案例，我会想继续阅读。 这个部分我还需要再想一下。
视觉和结构让结果 di lapangan: sebelum pengoptimuman的概念更容易掌握。