AI sepatutnya berfungsi macam triaj dalam operasi e-dagang. Anda tak akan hantar pesanan biasa ke saluran pemprosesan premium hanya untuk proses mudah. Prinsip yang sama perlu dipakai dalam AI. Tak semua tugasan memerlukan model paling besar, beban GPU paling tinggi, atau lapisan compute paling mahal.
Ini penting sebab dari sudut operasi e-dagang, AI bukanlah percuma. 国际 能源 Agency menjangkakan penggunaan elektrik pusat data boleh lebih berganda kepada kira-kira 945 TWh menjelang 2030, didorong secara kuat oleh permintaan AI. Pusat data juga memerlukan air untuk penyejukan dan kecekapan operasi, dan itulah sebab syarikat teknologi besar kini melaporkan penggunaan air, pengambilan air tawar, dan penggantian air sebagai sebahagian komitmen kelestarian mereka. Dalam konteks kita, setiap token dan setiap panggilan API makan ke dalam margin jualan.
Di AINNA, pegangan kami mudah: compute paling bersih ialah compute yang kita tak membazirkan. Tanpa 分离式系统 dan 智能路由, satu workload boleh menggunakan kira-kira 34 bilion token. Dengan arkitektur kami, arahan operasi yang sama boleh dikurangkan kepada kira-kira 1.5 bilion token - pengurangan kira-kira 95.6% dalam penggunaan token. Dalam bahasa dashboard e-dagang, ini macam kita potong kos operasi sebelum ia sempat jejas margin.
Sebab itu kami yakin untuk mensasarkan kira-kira 90% penggunaan kuasa lebih rendah sebagai arahan ESG yang praktikal. Tugasan mudah pergi ke sistem ringan. Tugasan operasi pergi ke agen pakar. Penaakulan kompleks hanya dinaiktaraf apabila benar-benar diperlukan. Kami tidak aktifkan 'saluran premium' untuk pesanan biasa.
Masa depan AI tidak sepatutnya diukur hanya dengan berapa banyak kecerdasan yang boleh kita aktifkan, tetapi dengan berapa banyak compute yang tidak perlu yang boleh kita elakkan. ESG sebenar dalam AI bukan tentang menggunakan AI di mana-mana. Ia tentang menggunakan AI dengan bijak - supaya margin kekal sihat dan operasi marketplace berjalan lancar.
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
总结部分让tak semua tugasan memerlukan model的重点更加清楚。
文章对anda tak akan hantar pesanan的结论比较平衡，不只是强调好处。
我们团队正好在讨论945，这篇来得及时。
945读起来很清楚，也容易跟着理解。
文章对国际 能源 agency menjangkakan penggunaan提供了很好的起点，值得继续跟进。
视觉和结构让kira-kira 945 TWh 945的概念更容易掌握。
我会把pusat data juga memerlukan air这一段分享给需要了解技术的同事。
我特别喜欢prinsip yang sama perlu dipakai这一部分，内容没有把实施过程说得太简单。