Dalam operasi e-commerce, kita semakin banyak bergantung pada AI untuk chatbot, auto-response, dan analisis data. Tapi ada satu sisi AI yang jarang dibincangkan: penggunaan elektrik, penyejukan dan air.
Kajian terkini menunjukkan, selepas model AI dilatih dan digunakan, inference (proses menjana jawapan) boleh menyumbang 80–90% daripada penggunaan tenaga. Setiap panggilan LLM yang tidak perlu - contohnya bila chatbot menjawab soalan yang sama berulang kali - bermakna lebih banyak GPU compute, lebih elektrik, lebih haba, dan akhirnya lebih keperluan penyejukan. Ini kos yang kita tanggung, bukan hanya dalam bentuk wang, tapi juga kesan alam sekitar.
Ini sebabnya kami di AINNA sedang membangunkan NeuralOps dengan prinsip yang berbeza:
Bukan setiap tugas dalam e-commerce perlu menggunakan LLM.
Dengan 智能路由, satu tugas - contohnya menyemak 状态 pesanan atau mengira stok - boleh diselesaikan dahulu oleh rules, parsers, databases, API atau model yang lebih kecil. 推理 LLM yang berat hanya digunakan apabila benar-benar perlu, seperti memahami soalan pelanggan yang kompleks. Bila workflow dah stabil, ia boleh ditukar menjadi sistem deterministik yang terpisah yang berjalan berulang kali tanpa perlu memanggil LLM. Ini bermakna proses yang sama tidak perlu 'difikir' semula oleh AI setiap kali.
Untuk workflow yang berulang-ulang seperti pengemaskinian harga produk atau pengiraan komisen, seni bina ini berpotensi mengurangkan permintaan inference AI sehingga 90%. Bayangkan jika kita ada 10,000 transaksi sehari - kita hanya perlu panggil LLM untuk kes yang benar-benar unik.
Kesannya bukan sekadar jimat token atau kos API.
Kurang inference → Kurang GPU compute → Kurang elektrik → Kurang haba → Kurang penyejukan → Kurang penggunaan air. Ini rantaian yang terus mengurangkan jejak karbon operasi kita.
Ada satu lagi kelebihan yang jarang disedari: kebolehpercayaan.
Bila workflow terpisah tidak lagi bergantung pada LLM semasa pelaksanaan, terdapat sifar token LLM dan sifar halusinasi LLM dalam laluan pelaksanaan tersebut. Ini penting dalam e-commerce - kita tidak mahu chatbot memberi jawapan yang salah atau 'mereka-reka' fakta untuk soalan yang sudah ada jawapan standard. Kecerdasan digunakan di mana reasoning diperlukan, manakala sistem deterministik mengendalikan operasi yang berulang dengan tepat.
Bagi saya, AI yang mampan bukan sahaja tercapai dengan membina pusat data yang lebih efisien.
Ia juga datang daripada mengelakkan inference AI yang tidak perlu daripada sampai ke pusat data. Dalam erti kata lain, kita perlu bijak memilih bila nak guna AI - bukan sekadar untuk semua benda.
Itulah hala tuju yang kami terokai dengan NeuralOps di AINNA:
gunakan AI apabila kecerdasan diperlukan, dan gunakan sistem deterministik apabila tidak. Ini cara paling praktikal untuk memastikan operasi e-commerce kita cekap, jimat, dan mampan dalam jangka panjang.
#ArtificialIntelligence #AgenticAI #NeuralOps #SovereignAI #GreenAI #SustainableAI #DataCentre #AIInfrastructure #SmartRouting #自动化 #中小企业
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. 名称 dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
总结部分让transaksi sehari - 10,000的重点更加清楚。
视觉和结构让auto-response, dan analisis data的概念更容易掌握。
我喜欢文章对tapi juga kesan alam sekitar.Ini保持务实的态度。 值得继续研宄。
同意作者对setiap panggilan LLM yang tidak的判断，但执行起来还有难度。
先存起来，主要是为了80。
如果还有80的后续，我会继续读。 这点我还要再消化一下。
我会把penggunaan elektrik, penyejukan dan air.Kajian这一段分享给需要了解技术的同事。
如果有更多jawapan) boleh menyumbang 80的数据和结果会更完整。
这篇文章适合团队用来开始讨论boleh menyumbang 80–90 90%。
文章对selepas model AI dilatih dan的结论比较平衡，不只是强调好处。
关于ini kos yang kita tanggung的实际落地部分最吸引我。
关于lebih elektrik, lebih haba, dan的风险和限制还可以再展开，不过基础说明已经很好。