Dari perspektif operasi logistik dan pembangunan sistem, beberapa tahun kebelakangan ini industri AI terlalu tertumpu pada pembinaan model yang lebih pintar, prompt yang lebih baik, dan aplikasi yang dikuasakan AI. Walaupun ini mempercepatkan inovasi, ia juga melahirkan cabaran operasi baharu. Apabila organisasi menerapkan AI secara besar-besaran, masalah terbesar bukan lagi model itu sendiri, tetapi bagaimana AI diorkestrasikan, ditadbir urus, dan disepadukan ke dalam aliran kerja harian.
Setiap permintaan AI yang tidak perlu akan menggunakan sumber GPU, meningkatkan kos operasi, menjana permintaan tenaga tambahan, dan menyumbang kepada kelewatan yang boleh dielakkan. Banyak proses perniagaan sebenarnya tidak memerlukan penaakulan lanjutan. Tugas seperti penghuraian, pengesahan, penghalaan, pengiraan, dan pembuatan keputusan berstruktur seringkali bersifat deterministik dan dapat diselesaikan dengan lebih cekap tanpa memanggil LLM.
Ini menimbulkan satu soalan kejuruteraan yang penting: sebagai ganti bertanya "模型 AI manakah yang harus menjalankan tugas ini?", mungkin kita harus bertanya dahulu "Adakah tugas ini sebenarnya memerlukan AI?". Jawapannya memberi implikasi besar terhadap kos, skala, keselamatan, dan kemampanan.
Saya berpendapat AI perusahaan sedang memasuki fasa baharu di mana kejayaan akan bergantung bukan semata-mata pada penggunaan model paling berkuasa, tetapi pada reka bentuk seni bina pemprosesan yang tepat. 系统 deterministik, perutean pintar, infrastruktur AI tempatan, lapisan pengesahan, dan AI awan masing-masing mempunyai kekuatan berbeza. Masa depan milik organisasi yang mampu menggabungkan teknologi ini secara cekap, bukannya menghantar setiap permintaan ke LLM.
Pendekatan seni bina ini juga mengukuhkan kedaulatan data, meningkatkan tadbir urus, mengurangkan kos infrastruktur, dan mencipta sistem yang lebih mudah diaudit dan diperkemaskan. Dalam banyak kes, penggunaan AI yang lebih sedikit - sambil menggunakannya dengan lebih bijak - boleh menghasilkan hasil operasi yang lebih baik berbanding memaksimumkan penggunaan AI di mana-mana.
Cara berfikir ini telah mempengaruhi hala tuju usaha kejuruteraan kami di AINNA. Bukannya memfokuskan diri semata-mata pada pembinaan produk yang dikuasakan AI, kami telah melabur dalam seni bina orkestrasi yang menyegmentasikan beban kerja secara pintar, memisahkan pemprosesan deterministik daripada penaakulan AI, menyalurkan setiap tugas ke lapisan pelaksanaan yang paling sesuai, dan menyokong penempatan AI tempatan yang selamat bersebelahan dengan perkhidmatan awan. Objektifnya bukan untuk memaksimumkan penggunaan AI, tetapi untuk memaksimumkan kecekapan operasi.
Generasi seterusnya syarikat AI perusahaan mungkin tidak akan dikenang kerana membina model paling pintar. Sebaliknya, mereka mungkin diiktiraf kerana membina infrastruktur paling pintar di sekelilingnya. Dalam jangka panjang, infrastruktur - bukan model itu sendiri - boleh menjadi kelebihan daya saing sebenar.
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
这篇内容让我更容易理解为什么setiap permintaan AI yang tidak值得关注。
我会把sebagai ganti bertanya "模型 AI这一段分享给需要了解技术的同事。
收藏了，主要是为了banyak proses perniagaan sebenarnya tidak。
视觉和结构让masalah terbesar bukan lagi model的概念更容易掌握。