基于模型的系统工程中的人机协同 AI 为国防制造提供动力
随着人工智能 （AI） 不断在各行各业取得进展，必须精确、谨慎地处理其在航空航天和国防等关键任务系统中的应用。这种集成的核心是基于模型的系统工程 （MBSE），它是数字工程的关键推动因素。如果经过深思熟虑地结合，MBSE 和 AI 可以改变复杂系统的设计、验证和部署方式。然而，要释放这一价值，需要深入了解 AI 的局限性和风险，并坚定地致力于维护人工监督。
AI 和系统工程的交集导致了两种互补的方法：“AI for Systems Engineering” （AI4SE） 和“Systems Engineering for AI” （SE4AI）。AI4SE 涉及应用大型语言模型 （LLM）（深度学习的一个子集）和/或自然语言处理 （NLP） 等 AI 技术来提高系统工程任务的效率和自动化。相比之下，SE4AI 使用结构化系统工程方法来定义上下文并提高 AI 部署的可解释性和可追溯性。要实现稳健且负责任的数字化转型，必须平衡地关注这两者。
MBSE 是工程工作流程的数字支柱，尤其是航空航天和国防等安全至关重要的领域。它支持创建系统架构模型，以构建和可视化信息，捕获需求、组件、功能和约束之间的相互依赖关系。当 AI 被引入这个框架时，它不应该被视为基础设施支柱，而应被视为应用层增强。AI 必须由明确定义的用例驱动 - 以任务为中心、以数据为依据并符合监管期望。AI 在这一领域的成败完全取决于它以特定的高价值业务目标为基础。
黑盒 AI 与白盒 AI：为什么它对 MBSE 很重要
要充分了解 AI 在 MBSE 中的作用，区分“黑盒”和“白盒”AI 非常重要。黑盒系统，如 LLM（源自神经网络），功能强大但不透明。他们可以提供令人印象深刻的结果，例如识别面部特征或解释非结构化文本，但无法解释他们是如何得出这些结论的。在可解释性、可追溯性和法律责任至关重要的情况下，这种缺乏透明度是一个问题。有许多尝试研究来提高黑盒 AI 中的这种可解释性和可追溯性因素。
白盒 AI 包括专家系统或基于规则的引擎，提供完整的可解释性。这些系统长期以来一直用于许多任务关键型系统，例如银行、航空航天和其他必须证明和复制决策的行业。然而，白盒 AI 的适应性往往较差，新手更难解释，并且可能不如黑盒系统准确（取决于提供给系统的知识）。
关键的权衡是在准确性和可解释性之间。“没有灵丹妙药”，意味着没有一个 AI 模型适合所有问题。每个应用程序都必须在清楚地了解风险和预期结果的情况下进行评估。
在任务关键型环境中，这些担忧被放大了。AI 故障的后果可能是灾难性的，包括生命损失。这就是数据质量和模型结构如此关键的原因。使用不完整、不平衡或合成数据训练的 AI 系统通常难以做出可靠的预测，尤其是在历史数据可能受限的故障情况下。例如，虽然每年可能发生数百万次航班，但只有一小部分涉及重大故障。这会产生不平衡的训练数据集。如果不解决这个问题，AI 模型可能会恰好在性能最重要的情况下表现不佳。
许多组织也在克服知识差距。一个常见的误解是 LLM 代表了 AI 的全部功能。企业领导者可能认为，简单地部署 LLM 就可以解决复杂的工程问题，而没有认识到潜在的风险或集成挑战。由于需要技术专业知识，情况变得更加复杂：在 MBSE 中成功实施 AI 需要能够在自动化和领域知识之间架起桥梁、构建多代理系统、编写安全服务、管理数据管道以及执行有机合成数据的创建、清理、培训和测试的专业人员。
为什么人机协同对 MBSE 至关重要
解决其中许多挑战的关键解决方案是人机协同方法。人类监督是必要的，以确保 AI 生成的输出相关、可靠且符合道德规范。这在受监管的行业中尤为重要，因为在这些行业中，决策必须可解释且具有辩护性。
人机协同系统允许领域专家在将 AI 输出用于决策过程之前对其进行审查和验证。这增强了质量控制，增强了信任，并有助于确保符合法律和法规标准。
CATIA Magic 将建模者和非建模者连接起来
达索系统的 CATIA Magic 等建模工具在建模者和非建模者之间架起了一座实用的桥梁，通过电子表格同步和规范建模等功能实现高效的数据集成。许多工程师仍然严重依赖电子表格和文档，而不是建模工具。MBSE 平台通过支持自动数据导入和实现规范的协作验证，帮助统一这些工作流程。即使没有 AI，MBSE 自动化工具也可以减少手动工作并简化模型创建。
当应用 AI 时（例如，使用 LLM 从非结构化文档中提取关键信息（例如需求），它可以通过生成人类初稿作为建模的起点来进一步提高生产力。
这种分层方法支持 AI4SE 和 SE4AI 范式。AI 可以帮助将非结构化内容转换为结构化数据，而 MBSE 则提供塑造 AI 代理行为的模型及其关系。这种双向流在混合系统中至关重要，其中黑盒 AI 可以补充白盒约束以增强可解释性。例如，受代理 AI 或 LangChain/LangGraph 架构启发的编排框架可以定义多代理管道，其中代理管理特定的规范类型（例如需求、参数、系统/子系统/组件或功能），并根据 MBSE 中定义的依赖关系模型进行交互。
人类判断是明智决策的基础
背景很重要。将原始数据转化为可作的见解，并最终转化为特定领域的知识，需要对上下文进行理解。DIKW（数据、信息、知识、智慧）层次结构是一个有用的参考。AI 可以帮助将数据构建为信息，但从信息到知识的飞跃需要上下文，而 MBSE 提供了上下文。最后一步，从知识到智慧和合理的决策，仍然牢牢地在人类判断的范围内。机器还无法掌握关键决策所需的道德、战略和背景因素的细微差别。
这引出了一个常见问题：AI 是否加速了 MBSE 的采用？答案是微妙的。AI 可以通过自动化规范提取和改进数据集成，帮助传统的基于文档的组织过渡到系统工程。但它并不能消除对 MBSE 工具或实践的需求。
AI 支持更广泛的系统工程生态系统，而 MBSE 则从这种支持中受益。但是，完全采用仍然需要组织变革、有针对性的培训和足够的技术专业知识。
了解 AI 的局限性是成功的关键
展望未来，通往成功的 AI 增强型 MBSE 的道路取决于域对齐、上下文建模以及对 AI 局限性的透彻理解。人机协同系统将继续发挥核心作用，以及明确定义每个组件在数字工程生态系统中位置的结构化框架。
无论是将 AI 应用于 MBSE 还是使用 MBSE 构建 AI，核心原则都是一样的：智能系统的可信度取决于其背后的人类判断。
