Havenlon｜AI 时代的执行安全语言体系（十一）：传播机制

Working Draft · AI Era Execution Security LanguageThis article is part of the Havenlon Execution Security Language project. The terminology and definitions presented here describe the current working draft and may evolve as the discipline matures.AI 时代执行安全语言体系工作草案本系列旨在建立 AI 时代执行安全的共同语言。 本文中的术语与定义代表当前工作草案 将随着理论研究、工程实践和社区讨论持续修订。9. Failure Propagation失效传播一句话定义失效传播是一个组件或环节的故障通过依赖关系继续影响其他组件和执行阶段的过程。严格定义失效传播可能发生在数据依赖状态同步通信链权限继承自动重试故障恢复共用基础设施共用升级链。例如SaaS 状态错误传播到本地仲裁本地时间错误导致审批误判一个数据库故障导致所有 Policy 返回默认允许证据存储背压导致执行系统跳过留证一个共享时钟异常影响多个设备。上位概念系统失效灾难半径形成机制下位概念级联失效跨域失效传播状态失效传播通信失效传播恢复失效传播相关概念Cascading FailureCommon-Mode FailureFailure ContainmentLocalized FailureControlled Degradation约束机制信任域隔离故障边界不接受上游默认允许每层独立状态验证背压触发 Safe Mode失败不自动切换为更宽松路径。结果目标让一个局部故障停止在局部而不是成为系统级失控。在 Havenlon 中应用、SaaS、Arbiter、Security Domain 和 Evidence Store 之间存在明确失效边界。某一层异常不能自动取消其他层的约束。10. Error Propagation错误传播一句话定义错误传播是一个错误判断、错误参数或错误状态被后续组件当作可信输入逐步放大为最终错误执行的过程。严格定义错误与失效的区别在于失效强调组件未能正常工作错误强调组件产生了不正确但可能格式合法的结果。错误传播尤其危险因为后续组件可能都按照协议正常工作。例如AI Agent 选择了错误对象应用生成格式正确的请求审批界面正确展示错误对象的别名Policy 正确判断请求符合额度执行器正确完成动作。所有组件都“正常”但最终结果错误。上位概念灾难半径形成机制执行错误下位概念参数错误传播对象错误传播语义错误传播Policy 错误传播AI 判断错误传播相关概念Execution GapSemantic GapIntent DriftFinal RevalidationAdversarial Completeness约束机制每层不只验证格式独立语义检查原始 Intent 绑定关键字段重新获取最终结果与原始目标比对错误不自动继承为权威。结果目标阻止一个早期错误因为后续系统正常配合而成为灾难性结果。在 Havenlon 中IntentHash、步骤链和最终载荷重新验证用于防止上游错误未经重新判断直接传播到底层执行。11. Compromise Propagation失陷传播一句话定义失陷传播是攻击者控制一个身份、组件或信任域后通过信任关系继续获得其他层控制权的过程。严格定义失陷传播通常依赖共用凭证共用管理员共用数据库共用升级通道无条件信任上游消息自动权限继承网络直连共享执行密钥。如果应用失陷能够直接访问执行器或 SaaS 管理员能够替换本地固件那么系统虽然有多个组件实际上仍然只有一个灾难半径。上位概念灾难半径形成机制安全失陷下位概念凭证失陷传播管理权失陷传播跨域失陷传播升级链失陷传播治理失陷传播相关概念Cross-Domain Authority InheritanceBoundary CollapsePartial CompromiseCoordinated CompromiseLayered Distrust约束机制每域独立身份独立管理权限独立通信密钥跨域重新验证禁止共享完整执行密钥升级链分离失陷后可隔离和撤销。结果目标让攻击者控制一个域后不能沿着信任链自然接管整个系统。在 Havenlon 中应用域、仲裁域和执行域的凭证、协议和职责相互分离。控制应用或 SaaS 不应直接获得执行域控制权。12. Authority Propagation权力传播一句话定义权力传播是一个主体拥有的权限通过系统结构、委托关系或隐式控制扩展为其他执行权力的过程。严格定义权力传播可能不涉及攻击。它可以来自正常设计例如Owner 自动拥有全部权限管理员可以创建更高权限账户能修改 Policy 的角色可以取消限制AI Agent 可以给自己选择更高权限工具恢复角色可以重置所有治理状态固件升级者可以改变执行逻辑。权力传播会扩大一个角色失陷后的灾难半径。上位概念权力模型灾难半径形成机制下位概念角色权力传播委托权力传播管理权力传播跨信任域权力传播恢复权力传播相关概念Authority InheritanceNon-Transferable AuthorityConcentrated Execution PowerCatastrophic AuthorityGovernance Blast Radius约束机制权力逐项授予委托范围固定禁止自我提权管理权不自动继承执行权恢复权与日常执行权分离高风险权力需要独立治理。结果目标使一个角色的真实影响范围与其名义职责一致。在 Havenlon 中每一角色只持有完成自身职责所需的能力不能通过身份、配置或委托关系自动获得完整执行权。第三部分灾难性执行13. Catastrophic Execution灾难性执行一句话定义灾难性执行是造成大规模、系统性、不可逆或组织无法承受损失的真实执行。严格定义灾难性执行不只指单笔巨额资产损失。它还包括删除全部生产数据泄露全部敏感数据撤销全部治理成员关闭全部安全控制控制大量物理设备大规模错误支付全局证书失效全网错误配置发布无法恢复的供应链更新大规模权限提升。判断一个动作是否具有灾难性应考虑损失规模影响范围不可逆性传播速度恢复成本法律与组织后果是否破坏后续恢复能力。上位概念高风险执行灾难半径下位概念资产灾难性执行数据灾难性执行治理灾难性执行基础设施灾难性执行物理设备灾难性执行相关概念Catastrophic AuthorityMaximum Irreversible LossSingle-Point Catastrophic ExecutionBlast RadiusIrreversible Action约束机制关键动作拆分多阶段提交多方治理单次和累计上限时间延迟独立最终否决逐步执行可恢复设计。结果目标让任何可能形成灾难性结果的动作都不能由单点即时完成。在 Havenlon 中高风险动作必须经过多个独立约束并受本地执行边界、额度、频率、范围和证据链限制。14. Single-Point Catastrophic Execution单点灾难性执行一句话定义单点灾难性执行是一个身份、凭证、组件或信任域能够独立完成灾难性执行的系统状态。严格定义单点灾难性执行是 Havenlon 试图消除的核心架构风险。一个系统存在以下任一情况就可能存在单点灾难性执行一把密钥可以转移全部资产一个 Owner 可以删除全部成员并立即执行一个 SaaS 管理员可以修改 Policy 并控制设备一个 AI Agent 可以调用全部生产工具一个云管理员可以接管数据库、消息和执行节点一个固件升级密钥可以重写全部安全域一个恢复凭证可以取消全部治理状态。上位概念灾难性执行单点风险下位概念单凭证灾难性执行单管理员灾难性执行单设备灾难性执行单 Policy 灾难性执行单 Agent 灾难性执行相关概念Single-Layer Execution AuthorityCatastrophic AuthorityConcentrated Execution PowerNo Single Layer Catastrophic ExecutionDistributed Constraint约束机制权力拆分多信任域多方治理密钥用途限制执行额度管理与执行分离恢复与执行分离独立最终否决。结果目标任何单点失陷都不足以完成系统级灾难。在 Havenlon 中Havenlon 的基本验收问题是是否存在任何一个身份、设备、服务、管理员或密钥在其他独立边界不参与的情况下能够完成灾难性执行如果答案为“是”执行权分离仍然没有完成。