我正在观看《黑客帝国2：重装上阵》（The Matrix Reloaded），尤其是尼奥与先知交谈的那个场景，讲到程序创造程序、程序删除程序，以及程序在规则内运作。那一刻我突然觉得，这段情节与我目前正在现实世界中用 AI 智能体、LLM 和分离式系统（分离式 系统）构建的东西非常契合。
如今，我正在从事分离式系统的工作，其中一些完全由参数控制，一些由普通 AI 模型辅助，还有一些则由高级 LLM 驱动，用于更深层的推理、规划和系统构建任务。有些系统被设计为独立运行，另一些则由一层 AI 引导，帮助解读输入、做出决策并改进工作流程。
我构建得越多，就越意识到：单靠一个 AI 模型并不能让系统变得强大。只有当模型与工具、内存、权限、日志、反馈回路、输入/输出信号以及部署访问能力相连接时，系统才会变得强大。那时，分离式系统才能超越简单地遵循指令，开始支持真正的运营决策。
简单来说：程序创造程序，程序审计程序，程序改进程序，最终，一个模型甚至可能被直接纳入系统本身。当系统部署在诸如 Raspberry Pi 这样的边缘设备上时，这就变得更加有趣--它可以接收现实世界的输入，并触发输出来支持现代机械、传感器、设备或运营装备。
但这也正是治理变得至关重要的地方。真正的风险不在于 AI “获得生命”。真正的风险在于，在缺乏审计、审批门槛、安全限制、回滚、手动覆盖和明确问责制的情况下，给予智能体过多的权限。当 AI 开始触及真实系统时，安全与控制绝不能被视为事后的补救。
对我而言，未来并不是一个巨型 AI 大脑控制一切。更好的架构更像一个组织：执行智能体处理重复性任务，监督智能体审查输出，规划智能体设计工作流程，审计智能体检测错误，执行智能体应用已批准的变更，而治理智能体则控制权限与安全。
我相信 AI 运营将朝着这个方向发展：不再仅仅是聊天机器人，而是结构化的自主系统，具备明确的角色、受控的权限、边缘部署和可衡量的问责机制。真正的问题不再是 AI 能否帮助我们构建系统。真正的问题是，对于一个能够帮助改进、控制甚至创造另一个系统的系统，我们应该安全地赋予它多大的权限。
#AI #AgentAI #自动化 #LLM #EdgeAI #RaspberryPi #DetachedSystem #SystemDevelopment #BusinessAutomation #Ainna #DigitalTransformation
Ruang pembaca
Apa pendapat anda?
Komen baharu dihantar untuk semakan terlebih dahulu. 名称 dan email diperlukan, tetapi email tidak dipaparkan kepada pembaca.
关于我正在观看《黑客帝国2：重装上阵》（The matrix的例子很实用，适合团队继续讨论。 这点我还要再消化一下。
文章对我正在观看《黑客帝国2：重装上阵》（The matrix的结论比较平衡，不只是强调好处。
如果可以继续说明我正在观看《黑客帝国2：重装上阵》（The matrix的真实案例，我会想继续阅读。
难得有人把我正在观看《黑客帝国2：重装上阵》（The matrix讲得这么直白。
看第二遍才注意到我正在观看《黑客帝国2：重装上阵》（The matrix的细节。