编辑文章

Banyak perbincangan tadbir urus AI berhenti di peringkat dasar.

Tapi dari pengalaman kami mengendalikan operasi di AINNA, dasar hanya bernilai jika ia boleh dijalankan dalam sistem sebenar.

Peraturan boleh menuntut kebolehpercayaan, kebolehaudit, pemantauan dan pengesahan bebas. Tetapi soalan yang paling penting untuk kami di lapangan ialah: bagaimana keperluan ini dilaksanakan sebelum output AI menjadi keputusan perniagaan?

Berdasarkan apa yang kami lihat dalam pembangunan dan operasi sistem, tiga komponen arkitektur ini perlu ada:

智能路由
Tugas yang berbeza tidak boleh semuanya dihantar ke model AI yang sama.

系统 perlu mengelaskan permintaan terlebih dahulu — berdasarkan jenis tugas, kompleksiti, format data, tahap risiko dan ketepatan yang diperlukan. Kemudian, ia boleh mengarahkan permintaan ke model AI yang sesuai, enjin deterministik, workflow berasaskan peraturan atau parser khusus.

Ini bermakna risiko dikawal dari awal proses, bukan hanya selepas jawapan sudah dihasilkan.

多个专用解析器

解析器 tunggal mencipta titik kegagalan tunggal.

解析器 yang berbeza boleh mengekstrak dan mentafsir input yang sama melalui kaedah berasingan. 输出 mereka kemudian dibandingkan, diselaraskan dan disahkan sebelum sistem menerima keputusan.

Apabila output tidak bersetuju, sistem boleh berhenti, menghala semula atau menandakan transaksi tersebut — bukannya membiarkan hasil yang tidak boleh dipercayai terus berjalan.
分离式系统

模型 AI tidak seharusnya bertanggungjawab untuk meluluskan outputnya sendiri.
Pengesahan, penyelarasan, guardrails, peraturan perniagaan, penilaian keyakinan dan audit logging perlu beroperasi di luar model, melalui komponen sistem yang bebas.

Prinsipnya mudah:
AI menghasilkan. 系统 mengesahkan.

Dengan arkitektur ini, risiko halusinasi tidak dikawal hanya di peringkat akhir. Ia dikawal sepanjang workflow — dari routing dan parsing sehingga pengesahan dan penerimaan.

Ini tidak bermakna halusinasi boleh dihapuskan sepenuhnya. Ia bermakna output yang tidak boleh dipercayai boleh dikesan, disekat dan dihalang daripada sampai ke lapisan keputusan akhir.

Lebih penting lagi, arkitektur ini juga menyokong prestasi ESG yang lebih baik.
智能路由 menghalang setiap permintaan dihantar ke model terbesar dan termahal. Proses deterministik, parser khusus dan model lebih kecil boleh mengendalikan tugas mudah, manakala model canggih hanya digunakan apabila benar-benar diperlukan.

Ini mengurangkan penggunaan token yang tidak perlu, pemprosesan GPU, penggunaan elektrik, keperluan pendinginan dan kos infrastruktur.

AI yang boleh dipercayai bukan bergantung kepada model yang paling besar atau paling berkuasa sahaja.
Ia bergantung kepada arkitektur yang boleh diukur, boleh disahkan secara bebas, cekap sumber dan direka untuk mengawal risiko dari awal.
Tadbir urus mesti wujud dalam dasar.

Tapi pencegahan, pengesahan dan kecekapan ESG mesti wujud dalam sistem.

#AIGovernance #ResponsibleAI #AIInfrastructure #SmartRouting #DetachedSystems #AIValidation #ESG #GreenAI #MalaysiaAI #DigitalTransformation