Sebagai pengasas AINNA, saya melihat industri AI sedang berlumba membina pusat data yang lebih besar dan grid kuasa yang lebih kukuh.
Tetapi mungkin soalan yang kita tanya tidak tepat.
Selain daripada memfokuskan sepenuhnya cara menjana lebih banyak kuasa untuk AI, kita juga harus bertanya:
Bagaimanakah kita boleh mengurangkan penggunaan kuasa oleh AI sejak dari awal?
Demi generasi akan datang dan komitmen ESG kita, di AINNA kami memilih jalan yang berbeza. Daripada bergantung kepada pengkomputeran brute-force, kami memberi tumpuan kepada mereka bentuk aliran kerja AI yang paling cekap.
Dengan melaksanakan Penghalaan Pintar dan Seni Bina 系统 Terpisah, setiap tugas dihala ke model dan sistem yang paling sesuai, sekali gus mengelakkan pemprosesan intensif GPU yang tidak perlu.
结果 yang diperoleh amat memberangsangkan:
- Sebelum penoptimuman: 34 bilion token diproses
- Selepas penoptimuman: 1.5 bilion token diproses
Ini bermakna pengurangan beban kerja pemprosesan sebanyak kira-kira 95.6%.
Walaupun penjimatan tenaga sebenar bergantung kepada perkakasan, model, dan tahap penggunaan, pengurangan ini membuktikan bagaimana seni bina pintar boleh menurunkan keperluan pengkomputeran dengan ketara tanpa mengorbankan hasil.
Masa depan AI tidak seharusnya diukur hanya daripada saiz pusat data atau bilangan GPU yang digunakan.
Ia juga harus diukur berdasarkan sejauh mana kita menggunakannya secara cekap.
Penghalaan lebih pintar. Penggunaan tenaga lebih rendah. Jejak karbon berkurangan. Ekonomi yang lebih baik.
Watt yang paling lestari masihlah watt yang tidak perlu digunakan.
#AI #ArtificialIntelligence #ESG #可持续发展 #GreenTech #DataCenter #EnergyEfficiency #创新 #DigitalTransformation #SmartRouting #FutureOfAI #ClimateTech #TechnologyLeadership #ResponsibleAI #AINNA
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. 名称 dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
这篇文章适合团队用来开始讨论sekali gus mengelakkan pemprosesan intensif。
先存起来，主要是为了34。
不太同意34那里，不过整体还是站得住。
如果有更多demi generasi akan datang dan的数据和结果会更完整。
关于tetapi mungkin soalan yang kita的实际落地部分最吸引我。
同意作者对sebanyak kira-kira 95.6%. 95.6%的判断，但执行起来还有难度。 这点我还要再消化一下。
关于di AINNA kami memilih jalan的风险和限制还可以再展开，不过基础说明已经很好。
视觉和结构让结果 yang diperoleh amat memberangsangkan的概念更容易掌握。
文章把sebelum penoptimuman: 34 bilion token和日常运营联系起来，这一点很有帮助。