BRaVeS有界推理与安全治理框架论文发布

Srini Ramaswamy 与 Deveeshree Nayak 发表 BRaVeS 有界推理与安全治理框架论文，将其称为“可辩护的下一代推理系统”（DNRS）。该框架把领域专家约束编码为不变锚点，并用 SMARtAutonomy 状态层级在认知风险升高时降低智能体自主性，以应对智能体 AI 自动化中的认知漂移风险。 论文称，其形式化收敛结果仅适用于固定阈值和可行护盾假设下的有限 LBCF 抽象，并不证明完整连续神经激活空间的安全性；相关结果只是仿真证据，表明在所述抽象下可强制实现有界治理行为。作者同时提出后续工作方向，包括已部署的 Transformer 实现、实时人在回路验证以及更广泛的对抗场景。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。