arXiv论文称自改进系统安全不可验证
热点事件持续更新
arXiv论文称自改进系统安全不可验证
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
一篇 arXiv 论文将自改进系统的一步自我修改建模为代码的全可计算变换，证明其安全性保持问题在计算上不可验证。作者 Jose Pascual Gumbau Mezquita 称，若该变换仅依赖行为，安全性保持问题即为 Rice 定理的升格；若变换读取代码，则至少与停机问题同等困难。 论文进一步指出，沿整条自我修改轨迹的持续性验证难度可高出一个算术层级，任何全监督器都会在它无法定位的系统集合上出错。在静态层面，简洁描述的有限环境中验证策略为 coNP-complete，合成为 PSPACE-complete。 该结果针对的是自改进系统，而非固定系统；此前 AI 验证的不可能性结果只涉及固定系统。
AI 根据报道生成 · 3 小时前更新
最新进展10月15日 12:00
固定与递归自改进系统的安全算法不可验证性报道时间线
沿着报道，了解事件的不同侧面。
10月15日
- arXiv cs.CL固定与递归自改进系统的安全算法不可验证性
一篇 arXiv 论文将自改进系统的一步自我修改建模为代码的全可计算变换，证明若变换仅依赖行为，安全性保持问题即 Rice 定理的升格；若读取代码，则至少与停机问题同等困难。沿整条轨迹的持续性可高出一个算术层级，任何全监督器都会在它无法定位的系统集合上出错。静态层面，在简洁描述的有限环境中验证策略为 coNP-complete，合成为 PSPACE-complete。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。