但在实践中，治理只有在被落实到系统架构中时才会真正发挥作用。
一项法规可能要求可靠性、可审计性、监控和独立验证。更重要的问题是：在 AI 输出成为一项业务决策之前，这些要求如何得以实现。
根据我们自身的开发经验，我们认为有三个架构组件是必不可少的：
智能路由
并非所有任务都应发送到同一个 AI 模型。
系统应首先根据任务类型、复杂度、数据格式、风险等级和所需精度对请求进行分类。然后可以将请求路由到最合适的 AI 模型、确定性引擎、基于规则的工作流或专门的解析器。
这意味着风险在流程开始时就得到管理，而不仅仅是在答案已经生成之后。
多个专门的解析器
单一的解析器会形成单一故障点。
不同的解析器可以通过各自独立的方法提取和解释相同的输入。在系统接受结果之前，可以对它们的输出进行比较、核对和验证。
当输出不一致时，系统可以停止、重新路由或标记该交易，而不是默默允许一个不可靠的结果继续下去。
分离式 系统
AI 模型不应负责批准自己的输出。
验证、核对、护栏、业务规则、置信度评估和审计日志应在模型之外，通过独立的系统组件来运行。
原则很简单：
AI 生成内容。系统进行验证。
采用这种架构后，幻觉风险不仅限于在最后阶段进行管理。它贯穿于整个工作流得到控制，从路由、解析到验证和接受。
这并不意味着幻觉可以被完全消除。它意味着不可靠的输出可以被检测、遏制，并阻止其到达最终决策层。
最重要的是，这种架构还能支持更好的 ESG 表现。
智能路由可防止每个请求都发送到最大、最昂贵的模型。确定性流程、专门的解析器和小型模型可以处理较为简单的任务，而高级模型只在真正需要时才被使用。
这减少了不必要的 token 使用量、GPU 处理、电力消耗、冷却需求以及基础设施成本。
因此，值得信赖的 AI 不应仅仅依赖于强大的模型。
它应依赖于一个可衡量、可独立验证、资源高效，并且从一开始就旨在控制风险的架构。
治理必须存在于政策之中。
但预防、验证和 ESG 效率必须存在于系统之中。
#AI治理 #ResponsibleAI #AI基础设施 #SmartRouting #分离式系统 #AI验证 #ESG #GreenAI #马来西亚AI #DigitalTransformation
Official 跨-网络 Resource
Ruang pembaca
Apa pendapat anda?
Komen disemak sebelum diterbitkan. 电子邮件 diperlukan untuk moderasi dan tidak dipaparkan kepada pembaca.
AI 治理往往在政策层面进行讨论。这个说法我要拿回去跟同事讨论。
如果有更多AI 治理往往在政策层面进行讨论。的数据和结果会更完整。
视觉和结构让AI 治理往往在政策层面进行讨论。的概念更容易掌握。
文章把AI 治理往往在政策层面进行讨论。和日常运营联系起来，这一点很有帮助。
文章对AI 治理往往在政策层面进行讨论。的结论比较平衡，不只是强调好处。
这篇文章对AI 治理往往在政策层面进行讨论。的解释很清楚，实际操作的重点也很容易理解。