客户问题
传统数字孪生擅长复现设备、传感器、动力学和环境,但智能系统的部署风险还来自“谁在决策、依据什么策略、如何协同、受哪些任务约束”。即使物理对象和场景足够逼真,也不能仅凭静态回放判断多个智能体在持续交互中会形成怎样的行为。
部署前验证面临以下问题:
- 策略只能在有限场景中试运行:真实测试受场地、安全、设备、人员和事件条件限制,难以重复高风险或低频任务。
- 协同关系缺少可执行表达:角色分工、通信关系、资源竞争、交接条件和冲突解决通常停留在流程图或文档中。
- 开放环境会响应智能体动作:智能体改变路径、速度或任务分配后,其他参与者和环境也会变化,固定日志回放无法形成闭环。
- 失败原因难以拆分:任务失败可能来自场景理解、角色分配、工具调用、策略选择、协同冲突、物理执行或安全约束。
- 缺少反事实验证:真实运行只能观察一条历史,无法从同一状态系统比较另一种策略、角色配置或协同规则。
- rollout 价值没有沉淀:成功、失败、恢复和分支轨迹保存在不同系统,难以直接转化为评测集、示教数据、偏好数据或策略改进样本。
- 训练与部署接口割裂:仿真中的状态、动作和工具定义与部署系统不同,策略需要重复适配,评测结论也难以继承。
决策仿真平台把物理世界、智能体组织和任务规则统一为可执行的动态数字孪生,在真实部署前运行、观察、比较和改进完整决策闭环。
方案总览
平台是面向无人机、自动驾驶、机器人与具身智能系统的升级版 AI 数字孪生。它不仅描述设备和环境,还描述:
- 智能体及其角色、权限、能力与资源;
- 单体策略、集群策略和角色间协同关系;
- 任务目标、阶段、前置条件、完成条件与停止条件;
- 通信、共享状态、工具调用和事件触发规则;
- 安全约束、业务规则、物理限制与资源限制;
- 环境参与者的行为、响应与交互逻辑。
平台将业务任务、场景资源和约束编译为可执行 Run Spec,在动态数字孪生中初始化世界与智能体,通过集群运行和 simulator-in-the-loop 形成闭环 rollout。评测系统持续读取世界真值、智能体轨迹、工具事件和任务状态;反事实引擎可从任意快照改变策略、角色、事件或约束并生成分支轨迹;数据管线把运行结果整理为评测、示教、偏好、失败和恢复数据,供后训练与部署适配使用。
系统架构
| 层级 | 主要职责 | 核心产物 |
|---|---|---|
| 任务与场景接入层 | 接入自然语言任务、业务规则、地图资产、参考数据、策略与系统接口 | 原始任务、资源与约束 |
| 场景编译层 | 解析角色、对象、关系、事件、阶段、工具、指标与停止条件 | 结构化 Run Spec 与场景包 |
| 动态数字孪生层 | 维护物理世界、传感器、参与者、任务状态和可分支快照 | 可交互世界状态 |
| 智能体运行层 | 承载 Planner、Orchestrator、专业 Agents、策略模型和工具契约 | 角色协同与动作执行 |
| 集群执行层 | 调度仿真实例、资源、事件、重试、恢复和批量运行 | 可追踪闭环 rollout |
| 闭环评测层 | 读取真值与轨迹,检查任务、协同、安全、物理和效率指标 | 评测结果与失败事件 |
| 反事实与轨迹层 | 从快照生成策略、角色、环境和约束分支,整理成功与失败轨迹 | 反事实 rollout 与失败索引 |
| 后训练与部署适配层 | 转换示教、偏好、评测和恢复数据,映射运行时接口 | 后训练数据包与部署适配包 |
共享世界状态贯穿场景编译、智能体运行和评测。它统一保存对象与角色关系、任务阶段、资源占用、工具结果、仿真状态、事件、快照和指标,使多个智能体基于同一世界事实协同,而不是各自维护互相冲突的上下文。
核心能力
1. 场景与任务编译
场景编译器把自然语言、结构化规则和数字资源转化为可执行定义:
- 任务目标、任务阶段、依赖关系和完成条件;
- 智能体角色、能力、权限、工具和资源预算;
- 场景对象、空间关系、初始状态和可交互属性;
- 协同、通信、交接、竞争和冲突解决规则;
- 环境事件、外部参与者行为和触发条件;
- 安全、业务、物理、时间和资源约束;
- 传感器、观测、动作、状态和工具接口;
- 评测指标、真值来源、快照点和停止条件。
编译结果包含场景包、角色清单、工具清单、状态模式、事件图和运行配置。校验器在运行前检查对象引用、角色依赖、接口类型、约束冲突和终止条件,防止含糊任务直接进入集群执行。
2. 智能体角色、策略与协同关系复现
平台将“智能体集群”表示为可执行组织:
- Planner将任务拆分为阶段、子任务和验收条件;
- Orchestrator维护依赖、资源、事件、调度、超时、重试和终止;
- 专业 Agents承担场景理解、资产调用、感知分析、路径规划、工具操作、数据处理和报告等职责;
- 策略智能体以客户算法、模型、规则或混合逻辑参与环境交互;
- 环境智能体表达交通参与者、协作对象、对手、人员或其他动态角色;
- Critics从视觉、物理和安全维度检查中间状态与运行结果。
角色之间通过共享世界状态、事件和工具契约协同。协作关系可以描述任务分派、状态订阅、资源锁定、并行执行、结果合并、失败转移和人工介入点。
3. 动态 AI 数字孪生
动态数字孪生同步维护三类状态:
- 物理状态:设备、对象、环境、传感器、动力学、接触和空间关系;
- 决策状态:角色上下文、策略内部状态、计划、动作、工具结果和置信信息;
- 任务状态:阶段、进度、资源、约束、事件、成功、失败和恢复条件。
智能体动作会改变物理世界和任务状态;环境参与者根据自身策略响应;新的观测再进入下一轮决策。平台在关键事件保存快照,可从同一状态继续运行或生成分支,从而支持交互式闭环和可比较实验。
4. 集群运行与事件调度
执行系统围绕 Run Spec 管理:
- 智能体、仿真实例、模型与工具的初始化;
- 任务依赖、并行阶段、资源占用和优先级;
- 仿真时钟、智能体事件、工具任务和外部消息;
- 超时、重试、替代角色、快照恢复和重新规划;
- 运行日志、工具轨迹、状态变化和终止原因;
- 多组场景、策略、角色和参数组合的批量运行;
- 固定种子、固定快照和版本锁定下的可重复执行。
事件调度把“何时观察、何时决策、何时调用工具、何时推进物理仿真、何时判分”组织在同一时间轴上,避免智能体对陈旧状态做出决策。
5. simulator-in-the-loop 闭环评测
平台让策略和智能体在可响应动作的仿真世界中持续运行。每个决策周期都形成:
观测 → 状态更新 → 任务规划 → 角色执行 → 工具或控制动作 → 世界演化 → Critic 与真值评测 → 下一轮观测
评测覆盖:
- 任务完成、阶段推进、规则遵循和停止条件;
- 角色分工、通信、交接、资源竞争和协同冲突;
- 轨迹、动作、碰撞、接触、动力学和物理约束;
- Visual Critic 对视觉结果、对象关系和场景语义的检查;
- Physics Critic 对穿透、支撑、稳定、运动和交互可行性的检查;
- Safety Critic 对禁区、风险、权限、规则和安全条件的检查;
- 工具调用参数、结果、超时、错误和恢复过程;
- 系统级成功、失败、降级与人工介入事件。
评测结果关联到世界快照、智能体、工具、信号和时间窗口,支撑从最终结果回溯完整决策链。
6. 反事实生成
反事实引擎从同一历史快照创建多个分支,仅改变指定变量:
- 更换单体策略或集群策略;
- 调整角色分工、通信拓扑或工具权限;
- 修改任务顺序、资源限制或安全约束;
- 改变环境参与者意图、反应和协作方式;
- 注入传感器、通信、执行器或工具故障;
- 调整天气、障碍、道路、地形和物理参数;
- 替换 Planner、Orchestrator、Worker 或 Critic 配置。
分支运行共享同一前序历史,使差异集中在被干预变量。平台比较任务结果、关键事件、世界状态、角色轨迹和评测指标,帮助客户判断“如果采用另一种策略或协同规则,结果会怎样”。
7. rollout 回收与失败索引
每次运行形成结构化轨迹:
- 场景、角色、策略、模型、工具和版本清单;
- 观测、世界状态、计划、动作、工具输入输出和仿真反馈;
- Critic 结论、真值指标、约束事件和终止原因;
- 成功、失败、恢复、人工介入和反事实分支标签;
- 关键快照、首次偏离、失败时间窗和相关责任角色。
失败索引按场景因子、任务阶段、角色、策略、工具、故障和根因标签组织。客户可从失败条目直接打开运行轨迹、复现同一快照,并启动邻域或反事实 rollout。
8. 后训练与部署适配
轨迹转换层按模型和训练方法整理数据:
- 从成功 rollout 提取任务示教、工具调用示教和多智能体协作轨迹;
- 将同一快照下的成功与失败分支组织为偏好对;
- 将 Critic 反馈、约束事件和恢复过程组织为过程监督数据;
- 将失败状态、错误动作和修正动作组织为纠错样本;
- 将固定场景与指标组织为评测集和版本回归集;
- 将观测、动作、奖励、终止和环境信息转换为策略训练格式。
部署适配层对齐仿真与真实系统的状态、动作、工具、通信和模型接口。策略版本在进入真实系统前复用固定场景、失败索引和安全规则完成回归,并把部署日志映射回同一任务与轨迹模式。
业务流程
- 定义任务与组织:明确业务目标、智能体角色、策略、协同关系、资源和安全约束。
- 接入世界资源:绑定地图、资产、本体、传感器、环境参与者和物理规则。
- 编译 Run Spec:生成场景包、角色图、事件图、工具契约、指标和停止条件。
- 接入策略与 Agents:配置 Planner、Orchestrator、专业 Agents、客户策略和 Critics。
- 初始化动态孪生:建立物理、决策与任务状态,检查接口和约束。
- 执行闭环 rollout:在 simulator-in-the-loop 中持续观察、决策、执行、演化和判分。
- 定位失败与恢复:从事件、工具、状态和 Critic 记录识别失败环节,并按策略恢复或重新规划。
- 生成反事实分支:从关键快照改变策略、角色、事件或约束,比较不同结果。
- 回收轨迹:形成场景包、运行轨迹、评测报告、失败索引和后训练数据。
- 适配与回归:训练或策略更新后复用固定场景和失败集评测,再映射到部署接口。
典型场景
十几架无人机怎么配合才不出乱子
一家做无人机集群的团队,要让十几架机器分工完成一次巡检:有的负责侦察、有的中继信号、有的作业。这套分工和配合规则在会议室里画得很顺,可真拉出去飞,常常出现两架抢同一块空域、信号中继跟不上、电量提前耗尽——而真机试飞一次成本高、风险大。
我们在仿真里把每架无人机的角色、通信、电量和禁飞区都还原出来,让整支队伍先“演习”一遍;还能换一种分工、换一种通信方式再演一遍,直接对比哪种配合更好。
抢空域、掉信号、电量不够这些问题在真飞之前就演出来,大幅降低试飞的花费和摔机风险;换方案直接在仿真里比,选型更快;反复演练之后,正式任务的成功率也更高。
录像回放测不出的“博弈”
一家做自动驾驶的团队发现:拿录好的路测视频回放,永远测不出“我变道时,旁边那辆车会怎么反应”——因为录像里的车根本不会理会你的新动作。可现实里最危险的,恰恰是这种你来我往的博弈:强行并线、路口抢行。
我们让仿真里的其他车真的会对自车的动作做出反应,专门在并线、路口、施工、鬼探头这些场景里反复跑;还能从同一个时刻分叉,试“如果当时更保守、或更激进,会怎样”。
这种交互式的安全问题在上路之前就能发现,少跑很多危险的路测里程;不同决策策略当场对比,选型更快;把危险场景在仿真里练透,真正上路更安全。
事故只发生一次,怎么复盘
一家做机器人的公司现场出了一次事故:机器人在某个路口撞了。事后大家争论到底是没看见、还是判断错了,可现实里这事只发生过一次,没法倒回去验证“换个策略是不是就不会撞”。
我们把当时的现场、任务和机器人状态还原成仿真,从出事那一刻分叉,试不同的策略、不同的判断,看哪一种能避开事故,并把这个场景固定成以后要反复检验的用例和纠错数据。
事故因此能反复重演、逐个排查,定位原因更快、扯皮更少;一次事故被转化成改进用的数据,同类问题少再犯;改进方案就在同一个出事场景上直接验证,不用赌下次的运气。
交付形式
- 业务任务、角色、策略、协同关系和约束建模规范;
- 场景编译器、Run Spec、角色图、事件图与工具契约;
- 动态 AI 数字孪生环境及本体、传感器、环境参与者配置;
- Planner、Orchestrator、专业 Agent、策略模型和 Critic 接入适配器;
- 集群运行、事件调度、状态快照、恢复与批量执行服务;
- 闭环评测指标、真值规则、安全规则和自动化报告;
- 反事实生成器、场景变体、关键快照与分支 rollout;
- 客户可直接使用的场景包、运行轨迹、评测报告和失败索引;
- 示教、偏好、过程监督、纠错、评测与回归等后训练数据包;
- 仿真—部署状态、动作、工具和通信接口适配;
- 企业内网、私有云或混合环境部署及运维文档。
客户价值
- 在部署前验证决策系统:角色、策略、协同和任务约束可在可控世界中反复运行。
- 把静态数字孪生升级为交互实验场:智能体动作会改变环境,环境响应继续影响后续决策。
- 系统比较不同策略:同一快照生成反事实分支,减少初始条件变化对结论的干扰。
- 定位集群协同问题:任务、角色、工具、世界状态和 Critic 记录形成完整因果链。
- 把失败转化为资产:失败索引直接连接复现、分支生成、回归和纠错数据。
- 连接评测与后训练:rollout 可转换为示教、偏好、过程监督和固定评测数据。
- 降低训练—部署接口差异:状态、动作、工具和通信协议通过适配层保持一致。
- 形成可持续的决策数据闭环:场景、运行、评测、失败、训练和部署反馈围绕同一任务模型流转。
参考文档
- 仿真 Agent 集群如何工作:从任务编排、双 Critic 到决策闭环
- IAWG 世界生成器:场景编译、资产匹配与物理稳定
- SAGE:MCP 编排、Visual/Physics Critics 与 simulator-in-the-loop
- DriveArena: A Closed-loop Generative Simulation Platform for Autonomous Driving
- Real-is-Sim:动态数字孪生贯穿训练、评测与部署闭环的研究。
- RoaD:将仿真 rollout 整理为 demonstrations 并回流策略学习的研究。
- AI 模型后训练:从监督微调到 Agentic RL