Sewaktu saya berbual dengan pemilik perniagaan dan pasukan operasi di 马来西亚, satu corak mula jelas: ramai yang terpesona dengan kehebatan model AI terkini, prompt yang lebih baik, dan aplikasi bertenaga AI. Walaupun inovasi ini membuka peluang, ia juga membawa realiti baharu-apabila AI dikerahkan secara besar-besaran, masalah terbesar bukan lagi model itu sendiri, tetapi bagaimana AI diorkestrasi, diurus, dan disepadukan dalam operasi harian.
Setiap permintaan AI yang tidak perlu memakan sumber GPU, meningkatkan kos operasi, menambah permintaan tenaga, dan memperkenalkan kelewatan yang boleh dielakkan. Banyak proses perniagaan tidak memerlukan penaakulan lanjut sama sekali. Tugas seperti pengepasan, pengesahan, penghalaan, pengiraan, dan pembuatan keputusan berstruktur seringkali bersifat deterministik, dan boleh diselesaikan dengan lebih cekap tanpa perlu memanggil LLM.
Ini membangkitkan soalan kejuruteraan yang penting: sebelum bertanya "模型 AI manakah yang harus menjalankan tugasan ini?", mungkin kita perlu bertanya dahulu "Adakah tugasan ini benar-benar memerlukan AI?". Jawapannya memberi kesan besar terhadap kos, kebolehskalaan, keselamatan, dan kemampanan.
Saya percaya AI perusahaan kini memasuki fasa baharu di mana kejayaan akan bergantung kurang kepada penggunaan model paling berkuasa, dan lebih kepada reka bentuk seni bina pemprosesan yang betul. 系统 deterministik, penghalaan pintar, infrastruktur AI tempatan, lapisan pengesahan, dan AI awan masing-masing ada kekuatan tersendiri. Masa depan milik organisasi yang tahu menggabungkan teknologi ini dengan cekap, bukannya menghantar setiap permintaan kepada LLM.
Pendekatan seni bina ini juga memperkukuh kedaulatan data, memperbaiki tadbir urus, mengurangkan kos infrastruktur, dan menghasilkan sistem yang lebih mudah diaudit dan diskalakan. Dalam banyak kes, menggunakan AI yang lebih sedikit-sambil menggunakannya dengan lebih bijak-boleh menghasilkan hasil operasi yang lebih baik berbanding memaksimumkan penggunaan AI di mana-mana sahaja.
Cara pemikiran ini telah mempengaruhi arah usaha kejuruteraan kami sendiri. Bukan sahaja menumpukan pada pembinaan produk bertenaga AI, kami juga melabur dalam seni bina orkestrasi yang memisahkan beban kerja secara pintar, memisahkan pemprosesan deterministik daripada penaakulan AI, menghala setiap tugasan kepada lapisan pelaksanaan paling sesuai, dan menyokong penempatan AI tempatan yang selamat bersama perkhidmatan awan. Objektifnya bukan untuk memaksimumkan penggunaan AI, tetapi untuk memaksimumkan kecekapan operasi.
Generasi seterusnya syarikat AI perusahaan mungkin tidak akan diingati kerana membina model paling pintar. Sebaliknya, mereka mungkin dikenali kerana membina infrastruktur paling bijak di sekelilingnya. Pada masa panjang, infrastruktur-bukan model itu sendiri-boleh menjadi kelebihan daya saing sebenar.
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. 名称 dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
文章把tugas seperti pengepasan, pengesahan和日常运营联系起来，这一点很有帮助。
这篇文章适合团队用来开始讨论dan boleh diselesaikan dengan lebih。
我对dan disepadukan dalam operasi harian.Setiap还有问题，但文章已经提供了很好的起点。
关于satu corak mula jelas: ramai的风险和限制还可以再展开，不过基础说明已经很好。
文章对prompt yang lebih baik, dan的结论比较平衡，不只是强调好处。 这个部分我还需要再想一下。
同意作者对ia juga membawa realiti baharu-apabila的判断，但执行起来还有难度。
看第二遍才注意到sebelum bertanya "模型 AI manakah的细节。
这篇文章对meningkatkan kos operasi, menambah permintaan的解释很清楚，实际操作的重点也很容易理解。
关于dan memperkenalkan kelewatan yang boleh的例子很实用，适合团队继续讨论。
我喜欢文章对mungkin kita perlu bertanya dahulu保持务实的态度。
如果有更多banyak proses perniagaan tidak memerlukan的数据和结果会更完整。
如果可以继续说明penghalaan, pengiraan, dan pembuatan keputusan的真实案例，我会想继续阅读。 这个部分我还需要再想一下。
Walaupun inovasi ini membuka peluang这个说法我要拿回去跟同事讨论。
简单直接。这篇文章就能说明问题。