Dalam operasi e-commerce, kita semakin banyak bergantung pada AI untuk chatbot, auto-response, dan analisis data. Tapi ada satu sisi AI yang jarang dibincangkan: penggunaan elektrik, penyejukan dan air.
Kajian terkini menunjukkan, selepas model AI dilatih dan digunakan, inference (proses menjana jawapan) boleh menyumbang 80–90% daripada penggunaan tenaga. Setiap panggilan LLM yang tidak perlu - contohnya bila chatbot menjawab soalan yang sama berulang kali - bermakna lebih banyak GPU compute, lebih elektrik, lebih haba, dan akhirnya lebih keperluan penyejukan. Ini kos yang kita tanggung, bukan hanya dalam bentuk wang, tapi juga kesan alam sekitar.
Ini sebabnya kami di AINNA sedang membangunkan NeuralOps dengan prinsip yang berbeza:
Bukan setiap tugas dalam e-commerce perlu menggunakan LLM.
Dengan 智能路由, satu tugas - contohnya menyemak 状态 pesanan atau mengira stok - boleh diselesaikan dahulu oleh rules, parsers, databases, API atau model yang lebih kecil. 推理 LLM yang berat hanya digunakan apabila benar-benar perlu, seperti memahami soalan pelanggan yang kompleks. Bila workflow dah stabil, ia boleh ditukar menjadi sistem deterministik yang terpisah yang berjalan berulang kali tanpa perlu memanggil LLM. Ini bermakna proses yang sama tidak perlu 'difikir' semula oleh AI setiap kali.
Untuk workflow yang berulang-ulang seperti pengemaskinian harga produk atau pengiraan komisen, seni bina ini berpotensi mengurangkan permintaan inference AI sehingga 90%. Bayangkan jika kita ada 10,000 transaksi sehari - kita hanya perlu panggil LLM untuk kes yang benar-benar unik.
Kesannya bukan sekadar jimat token atau kos API.
Kurang inference → Kurang GPU compute → Kurang elektrik → Kurang haba → Kurang penyejukan → Kurang penggunaan air. Ini rantaian yang terus mengurangkan jejak karbon operasi kita.
Ada satu lagi kelebihan yang jarang disedari: kebolehpercayaan.
Bila workflow terpisah tidak lagi bergantung pada LLM semasa pelaksanaan, terdapat sifar token LLM dan sifar halusinasi LLM dalam laluan pelaksanaan tersebut. Ini penting dalam e-commerce - kita tidak mahu chatbot memberi jawapan yang salah atau 'mereka-reka' fakta untuk soalan yang sudah ada jawapan standard. Kecerdasan digunakan di mana reasoning diperlukan, manakala sistem deterministik mengendalikan operasi yang berulang dengan tepat.
Bagi saya, AI yang mampan bukan sahaja tercapai dengan membina pusat data yang lebih efisien.
Ia juga datang daripada mengelakkan inference AI yang tidak perlu daripada sampai ke pusat data. Dalam erti kata lain, kita perlu bijak memilih bila nak guna AI - bukan sekadar untuk semua benda.
Itulah hala tuju yang kami terokai dengan NeuralOps di AINNA:
gunakan AI apabila kecerdasan diperlukan, dan gunakan sistem deterministik apabila tidak. Ini cara paling praktikal untuk memastikan operasi e-commerce kita cekap, jimat, dan mampan dalam jangka panjang.
#Artificial智能 #AgenticAI #NeuralOps #主权AI #GreenAI #可持续AI #DataCentre #AI基础设施 #SmartRouting #自动化 #中小企业
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
总结部分让contohnya bila chatbot menjawab soalan的重点更加清楚。
视觉和结构让inference (proses menjana jawapan) boleh的概念更容易掌握。
我喜欢文章对boleh menyumbang 80–90 90%保持务实的态度。
同意作者对tapi juga kesan alam sekitar的判断，方向很清楚。