arXiv cs.CL· Jose Pascual Gumbau Mezquita·· 5 小时前AI 评分22
固定与递归自改进系统的安全算法不可验证性
Algorithmic Unverifiability of Safety for Fixed and Recursively Self-Improving Systems
AI 导读
一篇 arXiv 论文将自改进系统的一步自我修改建模为代码的全可计算变换，证明若变换仅依赖行为，安全性保持问题即 Rice 定理的升格；若读取代码，则至少与停机问题同等困难。沿整条轨迹的持续性可高出一个算术层级，任何全监督器都会在它无法定位的系统集合上出错。静态层面，在简洁描述的有限环境中验证策略为 coNP-complete，合成为 PSPACE-complete。
来源：arXiv cs.CL · arxiv.org