Pusat data lebih besar dan grid kuasa lebih kukuh - tapi perancangan proses AI yang cekap lagi penting✎ Edit

行业 AI sedang berlumba membina pusat data yang lebih besar dan grid kuasa yang lebih kukuh.

Tapi dari sudut perancangan pengeluaran dan operasi, persoalan yang sebenarnya perlu ditanya mungkin lain.

Selain memikirkan cara menghasilkan lebih banyak kuasa untuk AI, kita juga perlu bertanya:

Bagaimana kita boleh merancang AI supaya menggunakan lebih sedikit kuasa dari awal?

Demi generasi akan datang dan komitmen ESG kami, pasukan perancangan pengeluaran dan operasi di AINNA memilih pendekatan berbeza. Seperti dalam pengurusan loji, kami tidak mahu menambah mesin atau kapasiti grid jika proses sedia ada boleh diperkemas. Jadi, kami fokus merancang aliran kerja AI supaya setiap tugas mengambil laluan paling cekap.

Melalui implementasi 智能路由 dan 独立系统 架构, setiap tugas dihala ke model dan sistem yang paling sesuai, mengelakkan pemprosesan intensif GPU yang tidak perlu.

结果 yang diperoleh sangat ketara:

• Sebelum pengoptimuman: 34 bilion token diproses
• Selepas pengoptimuman: 1.5 bilion token diproses

Ini bermakna pengurangan kira-kira 95.6% dalam beban kerja pemprosesan.

Walaupun penjimatan tenaga sebenar bergantung kepada perkakasan, model, dan tahap penggunaan, pengurangan ini membuktikan bagaimana seni bina pintar boleh menurunkan keperluan komputasi secara besar-besaran tanpa menjejaskan output.

Masa depan AI tidak seharusnya diukur hanya dari saiz pusat data atau bilangan GPU yang digunakan.

Ia juga harus diukur dari sejauh mana kita merancang dan menggunakan aset tersebut secara cekap.

Penghalaan lebih pintar. Penggunaan tenaga lebih rendah. Jejak karbon berkurangan. Ekonomi lebih baik.

Watt yang paling lestari masihlah watt yang tidak perlu digunakan.

#AI #Artificial智能 #ESG #可持续发展 #GreenTech #DataCenter #能源效率 #创新 #DigitalTransformation #SmartRouting #FutureOfAI #ClimateTech #科技Leadership #ResponsibleAI #AINNA