Sewaktu saya berbual dengan pemilik perniagaan dan pasukan operasi di 马来西亚, satu corak mula jelas: ramai yang terpesona dengan kehebatan model AI terkini, prompt yang lebih baik, dan aplikasi bertenaga AI. Walaupun inovasi ini membuka peluang, ia juga membawa realiti baharu-apabila AI dikerahkan secara besar-besaran, masalah terbesar bukan lagi model itu sendiri, tetapi bagaimana AI diorkestrasi, diurus, dan disepadukan dalam operasi harian.
Setiap permintaan AI yang tidak perlu memakan sumber GPU, meningkatkan kos operasi, menambah permintaan tenaga, dan memperkenalkan kelewatan yang boleh dielakkan. Banyak proses perniagaan tidak memerlukan penaakulan lanjut sama sekali. Tugas seperti pengepasan, pengesahan, penghalaan, pengiraan, dan pembuatan keputusan berstruktur seringkali bersifat deterministik, dan boleh diselesaikan dengan lebih cekap tanpa perlu memanggil LLM.
Ini membangkitkan soalan kejuruteraan yang penting: sebelum bertanya "模型 AI manakah yang harus menjalankan tugasan ini?", mungkin kita perlu bertanya dahulu "Adakah tugasan ini benar-benar memerlukan AI?". Jawapannya memberi kesan besar terhadap kos, kebolehskalaan, keselamatan, dan kemampanan.
Saya percaya AI perusahaan kini memasuki fasa baharu di mana kejayaan akan bergantung kurang kepada penggunaan model paling berkuasa, dan lebih kepada reka bentuk seni bina pemprosesan yang betul. 系统 deterministik, penghalaan pintar, infrastruktur AI tempatan, lapisan pengesahan, dan AI awan masing-masing ada kekuatan tersendiri. Masa depan milik organisasi yang tahu menggabungkan teknologi ini dengan cekap, bukannya menghantar setiap permintaan kepada LLM.
Pendekatan seni bina ini juga memperkukuh kedaulatan data, memperbaiki tadbir urus, mengurangkan kos infrastruktur, dan menghasilkan sistem yang lebih mudah diaudit dan diskalakan. Dalam banyak kes, menggunakan AI yang lebih sedikit-sambil menggunakannya dengan lebih bijak-boleh menghasilkan hasil operasi yang lebih baik berbanding memaksimumkan penggunaan AI di mana-mana sahaja.
Cara pemikiran ini telah mempengaruhi arah usaha kejuruteraan kami sendiri. Bukan sahaja menumpukan pada pembinaan produk bertenaga AI, kami juga melabur dalam seni bina orkestrasi yang memisahkan beban kerja secara pintar, memisahkan pemprosesan deterministik daripada penaakulan AI, menghala setiap tugasan kepada lapisan pelaksanaan paling sesuai, dan menyokong penempatan AI tempatan yang selamat bersama perkhidmatan awan. Objektifnya bukan untuk memaksimumkan penggunaan AI, tetapi untuk memaksimumkan kecekapan operasi.
Generasi seterusnya syarikat AI perusahaan mungkin tidak akan diingati kerana membina model paling pintar. Sebaliknya, mereka mungkin dikenali kerana membina infrastruktur paling bijak di sekelilingnya. Pada masa panjang, infrastruktur-bukan model itu sendiri-boleh menjadi kelebihan daya saing sebenar.
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
文章把walaupun inovasi ini membuka peluang和日常运营联系起来，这一点很有帮助。
这篇文章适合团队用来开始讨论ini membangkitkan soalan kejuruteraan yang。
文章对dan disepadukan dalam operasi harian提供了很好的起点，值得继续跟进。
关于ia juga membawa realiti baharu-apabila的说明很完整，基础部分尤其清楚。
文章对sewaktu saya berbual dengan pemilik的结论比较平衡，不只是强调好处。
同意作者对dan boleh diselesaikan dengan lebih的判断，方向很清楚。
看第二遍才注意到setiap permintaan AI yang tidak的细节。
这篇文章对masalah terbesar bukan lagi model的解释很清楚，实际操作的重点也很容易理解。