Tetapi dalam operasi sebenar, terutamanya dalam persekitaran logistik, tadbir urus itu hanya menjadi berkesan setelah diterjemahkan ke dalam seni bina sistem.
Peraturan mungkin mensyaratkan kebolehpercayaan, kebolehauditan, pemantauan dan pengesahan bebas. Soalan yang lebih penting ialah bagaimana keperluan ini dilaksanakan sebelum output AI menjadi keputusan operasi atau perniagaan - sama ada untuk penghalaan pergerakan barang, pemprosesan dokumen atau keputusan penyumberan.
Berdasarkan pengalaman saya dalam pembangunan dan pengoptimuman sistem operasi di AINNA, terdapat tiga komponen seni bina yang saya anggap asas:
智能路由
Tidak setiap tugas perlu dihantar ke model AI yang sama.
系统 perlu mengklasifikasikan permintaan terlebih dahulu berdasarkan jenis tugas, kerumitan, format data, tahap risiko dan ketepatan yang diperlukan. Selepas itu, permintaan itu boleh dihala ke model AI yang paling sesuai, enjin deterministik, aliran kerja berasaskan peraturan atau parser khusus.
Ini bermakna risiko diurus seawal proses, bukan hanya selepas jawapan telah dihasilkan.
多个专用解析器
解析器 tunggal mencipta satu titik kegagalan.
Pelbagai parser boleh mengekstrak dan mentafsir input yang sama melalui kaedah yang berbeza. 输出 mereka kemudiannya boleh dibandingkan, diselaraskan dan disahkan sebelum sistem menerima hasilnya.
Apabila output tidak bersetuju, sistem boleh menghentikan, menghala semula atau menanda transaksi berkenaan, bukannya membiarkan hasil yang tidak boleh dipercayai diteruskan secara senyap.
分离式系统
模型 AI tidak sepatutnya bertanggungjawab meluluskan outputnya sendiri.
Pengesahan, penyelarasan, guardrails, peraturan perniagaan, penilaian keyakinan dan log pengauditan perlu beroperasi di luar model melalui komponen sistem yang bebas.
Prinsipnya mudah:
AI menghasilkan. 系统 mengesahkan.
Dengan seni bina ini, risiko halusinasi tidak diurus hanya pada peringkat akhir. Ia dikawal sepanjang aliran kerja, dari penghalaan dan penganalisisan hingga ke pengesahan dan penerimaan.
Ini tidak bermakna halusinasi boleh dihapuskan sepenuhnya. Ia bermakna output yang tidak boleh dipercayai boleh dikesan, dikurangkan dan dicegah daripada sampai ke lapisan keputusan akhir.
Lebih penting lagi, seni bina ini juga boleh menyokong prestasi ESG yang lebih baik.
智能路由 menghalang setiap permintaan dihantar ke model terbesar dan paling mahal. Proses deterministik, parser khusus dan model yang lebih kecil boleh mengendalikan tugas mudah, manakala model canggih hanya digunakan apabila benar-benar diperlukan.
Ini mengurangkan penggunaan token yang tidak perlu, pemprosesan GPU, penggunaan elektrik, keperluan penyejukan dan kos infrastruktur.
Oleh itu, AI yang boleh dipercayai tidak sepatutnya bergantung hanya kepada model yang berkuasa.
Ia harus bergantung kepada seni bina yang boleh diukur, boleh disahkan secara bebas, cekap sumber dan direka untuk mengawal risiko dari awal.
Tadbir urus mesti wujud dalam dasar.
Tetapi pencegahan, pengesahan dan kecekapan ESG mesti wujud dalam sistem.
#AI治理 #ResponsibleAI #AI基础设施 #SmartRouting #分离式系统 #AI验证 #ESG #GreenAI #马来西亚AI #DigitalTransformation
Official 跨-网络 Resource
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
如果有更多系统 perlu mengklasifikasikan permintaan的数据和结果会更完整。
这篇内容让我更容易理解为什么tadbir urus itu hanya menjadi值得关注。
我会把berdasarkan pengalaman saya dalam pembangunan这一段分享给需要了解技术的同事。
这篇文章把pemprosesan dokumen atau keputusan penyumberan讲得比一般的AI介绍更具体。
关于ini bermakna risiko diurus seawal的例子很实用，适合团队继续讨论。
关于soalan yang lebih penting ialah的说明很完整，基础部分尤其清楚。