LogiKEy 方法论:用数学证明助手教逻辑学
LogiKEy 方法论以经典高阶逻辑(HOL)作为通用元逻辑,将经典与非经典对象逻辑通过语义嵌入编码,使 Isabelle/HOL 等单一证明助手成为学生学习、实验和比较多种逻辑的统一环境。
LogiKEy 方法论以经典高阶逻辑(HOL)作为通用元逻辑,将经典与非经典对象逻辑通过语义嵌入编码,使 Isabelle/HOL 等单一证明助手成为学生学习、实验和比较多种逻辑的统一环境。
研究者提出 Predicting Intention of Partner(PIP),用 Joint-view VAE 将双方局部观测的并集蒸馏为仅凭自身观测即可获得的伙伴表征,并用伙伴状态信念网络从交互历史推断伙伴的隐藏位置与行为倾向。
研究者提出 Test-Time Agent Evolution 方法,通过 Test-Time Memory Evolution 从既往案例检索可复用经验并适配当前事实与程序语境,再经 Rubric-Aligned Collaboration 按行为与程序要求校验修正各角色行动,实现跨角色协同决策。
研究提出 Self-Retrospection Distillation(SRD),将智能体完成轨迹后的事后经验蒸馏为同一策略在交互前的预见预测,该预见仅作训练目标、推理时无需显式生成。
研究者提出 Confidence Reasoning Graphs(CRG),一种推理时框架,仅凭单条轨迹即可估计 LLM 智能体完成任务的成功概率,无需模型内部信号或训练数据。CRG 将任务声明分解为基于轨迹证据的子声明,逐项估计置信度后再聚合为整体置信度。在三个智能体基准、三个骨干模型和三个智能体框架上,CRG 的置信度校准与风险感知决策均优于口头表达、采样和白盒代理基线。
SIGMA 是一套数据生成与训练流程,仅凭一份描述模型期望行为的 Model Spec,让模型自身充当任务设计智能体生成对齐困境场景,并通过监督微调与基于 rubric 的强化学习(模型自身作为奖励模型)实现对齐自我改进。
研究者提出 Continuous Memory Machine(CMM),一种在 Continuous Thought Machine(CTM)基础上构建的循环架构,用矩阵值的短期与长期记忆状态承担不同功能,并由 Transformer 联合更新两个记忆存储,实现双向读写。
研究将区域多步海表温度(SST)预报建模为条件数值生成,用历史 SST 与异常序列、日期对齐的环境记录和静态海洋知识构成文本上下文,并通过图神经网络生成连续的空间前缀注入 LLM 输入。在南海 SST 预报的十个预测步上,完整配置取得对比方法中最佳 MAE 和 R²。配套的规则模块将预测趋势与环境因子方向匹配知识条目,返回带来源的事后上下文解释。
研究者提出"自参照社会偏好"方法,让每个智能体学习自身奖励模型,并将其应用于其他智能体的观测轨迹,从自身视角评估对方结果,再接入标准社会偏好机制。在 Escape Room、Clean Up 和 Commons Harvest 三个序贯社会困境中,智能体无需观察他人奖励即可学会合作,甚至在独立学习失败的环境中也能实现合作,且收益分配常比能获取真实奖励的智能体更公平。
RA-MoWE 通过工作流亲和度嵌入对查询聚类,并据此生成可复用的专家工作流。每个嵌入记录一组固定参考工作流对查询的解决效果,从而揭示推理策略上的相似性;嵌入编码器可直接从查询文本预测该嵌入,让新查询无需先执行参考工作流即可选用专家工作流。
DHCG 框架通过 Planner、Worker、Generator 三个模块,从零逐步构建动态分层协作图,并支持提前终止或按需扩展。在代码生成、数学推理等基准上,其平均性能较单智能体基线提升 13.06 分,优于静态与动态 MAS 基线 2.77-8.02 分。该框架还引入动作感知偏好优化训练 Planner,并展现出跨 Planner 主干与未见 Worker 模型的泛化能力。
研究者提出 Agentic SemS,一个面向 AI-RAN 的闭环语义感知框架,通过 profile 条件化因果 Transformer 和 key-value caching 在通信可行配置集内动态控制感知。
STEPGATE 是一种不确定性感知的步骤级交接框架,对本地小语言模型的每个动作打分,将困难步骤选择性升级到更强模型。在 52 项 BFCL 单步测试中,Qwen2.5-1.5B/7B 组合以 30.8% 升级率取得 82.7% 任务成功率,高于纯本地的 67.3% 和随机升级的 75.4%。
ThinkFuse 是一种免训练的测试时融合框架,通过对比片段级不确定性与轨迹级不确定性趋势来识别不稳定推理点,并将辅助推理路径融合进主模型轨迹。在数学与知识密集型推理基准上,它优于现有基线,跨模型组合均有稳定提升,且主模型更小时仍保持稳健。该方法所需融合触发次数更少、生成 token 更少,代码已开源,论文被 EMNLP 2026 Findings 接收。
一项针对 Llama-3.1-8B-Instruct 的 96,600 条提示词实验显示,当财务信息从 8 项事实减至零时,财务相同但身份不同的两个角色获得的股票配置建议平均差距从 4.78 个百分点升至 10.34 个百分点,比值达 2.16。身份在全披露时仅解释 5% 的配置差异,无披露时升至 96%。无事实时模型还会在理由中引用从未告知的收入、债务和储蓄,且这些虚构财务对大家庭更常转为不利。
一项被 NeurIPS 2026 接收的研究首次系统考察了大语言模型(LLM)中的错觉模式感知,发现 LLM 常比人类更易在随机数据中推断出有意义关联。模型倾向于将频繁出现的正面属性过度关联到多数群体或大型组织,并从模糊事件中构建因果叙事。研究基于稀疏自编码器(SAE)的特征可解释性框架,揭示整体频率感知与分析性认知取向与这类错觉的涌现相关。
OOPMAS 是一个免训练框架,能在单个查询粒度上同时生成智能体集合与协调工作流,智能体以面向对象类定义表示,工作流则表达为可执行 main 函数。在覆盖代码、数学与问答的混合任务基准上,OOPMAS 达到 89.6% 准确率,超出最强基线 18.1 个百分点;跨四个 LLM 基座的模型替换研究显示性能一致扩展,最强模型下达到 92.4%。
一项针对三层智能体架构的测量显示,将长上下文推理分解到多个协作智能体可将单次查询的峰值 KV cache 降至 14.3 MiB,而单次推理和检索增强基线分别为 35.5 和 35.3 MiB。
研究对比 Llama-3.1-8B-Instruct 与 Qwen2.5-7B-Instruct 的 8-bit 和 4-bit 量化版本在 20 个确定性工具任务、5 种提示词下的故障恢复表现,发现 8-bit 与 4-bit 的恢复差异会随提示词和评测目标改变方向。
研究者提出 VisualNoiseQA,一个面向噪声视觉反馈下主动推理的基准:纯文本 LLM 需通过迭代查询一个固定的现成 VLM(视为随机视觉传感器)来解答 VQA 问题,每次查询多次采样并以自一致性给出经验不确定性信号,供推理器决定下一步问什么、何时停止。
研究者提出"隐式负候选发现"方法,用符号规则编码用户行为模式,按支持度、信息量和产品相关性打分排序,再由 LLM 结合业务目标与领域知识解读规则,最终报告融合统计证据与 LLM 解读。在工业 B2B 场景和五个公开推荐数据集上,该方法候选质量精度高于所评估基线,符号选择使工业任务下游测试 PR-AUC 较随机选择提升 12.5%(每正样本四个负样本)。
研究发现,大语言模型中大规模激活的出现由 spike FFN 输入嵌入中的单个通道控制,该通道位置对特定 LLM 固定,被命名为 massive activation gating channel(MAGC)。
研究采用心理学 Relational Match-to-Sample(RMTS)范式并结合机制分析,在 GPT、Claude、Gemini 及 Qwen3.5、Gemma-4、InternVL3 上发现能力层级、模型规模、场景物体数量和逐物体刺激噪声四项因素共同推动 VLM 呈现类人"关系转换"轨迹。
研究者提出一种用于下棋的符号子策略模型,借助归纳逻辑编程系统 PAL 学习到的模式,将国际象棋战术的领域知识引入模型以提升可解释性。团队提出一种散度指标,将模型与随机基线对比,得到一组能给出接近人类初学者棋力的战术。他们还提出通过为现成引擎增补该模型的计算评估方案。
研究者提出一种类似人类认知的方法,训练 RL 智能体将学到的策略与策略网络合成为基于对局动作序列的可执行程序,并自动学习这类程序来下国际象棋和求解网格环境任务。实验显示,学到的策略能产生有效动作,且可从对局数据中学习。
研究提出"实验性模型类修正"框架,让发现策略同时提出结构编辑和诊断实验,以检验该编辑是否必要。在 400 个受控动力学环境中,联合策略以 32 次真实实验预算达到 89.5% 精确恢复率,较最强匹配基线提升 10.0 个百分点,且所需实验与候选拟合更少。当真实机制超出编辑语法时,该方法在 88% 的情况下检测到库不足,误支持率为 5.5%。
研究评估了一种"先探索后提交"协议:由大语言模型提出假设、程序化规划器采集测量数据,再用新提示词从固定观测中合成最终定律。
VALSE 是一种按样本、非连续的层跳过方法,用轻量难度估计器从前几层为每个输入打分,再通过逐层门控选择性跳过冗余层,包括任意中间层而保留更深层,只为每个输入激活必要深度。论文同时给出期望 FLOPs 闭式公式、跳层模型函数空间为全层函数空间真子集的证明,以及与 MoE 架构的结构对偶关系,可行性已在原型规模初步验证。
SUTURE 提出一种基于 rollout 组结构的视频时序定位验证方法,将验证条件建立在整组 rollout 上,并证明其可精确分解为标准 IoU 项与由 rollout 组决定的协方差修正项。在五个时序定位 benchmark 上,SUTURE 在所有报告的 IoU 阈值下均提升定位性能,其训练策略在推理轨迹中也表现出更少的视频起点锚定。
研究者发布 LOGIC,一个用于航空航天电气设计变更影响分析的 LLM 基准与评估框架,包含 168 个场景(144 个选择案例、24 个弃答案例),让本地部署模型先在确定性候选变更清单中完成意图定位,再经类型化电气追溯图传播。
研究团队提出 GroundAct,将物理实体作为 grounding 单元,用轻量 reference token 保持每个被选实体的连续状态可被符号推理寻址,仅由被引用实体与演化方案的交互来修正规划,形成从推理依据到规划动作的显式路径。GroundAct 在开环与闭环评测中均表现良好,覆盖正常、分布外与安全关键场景,闭环结果进一步验证了仿真驾驶能力。
研究提出 SSU-Bench 数据集,用单项提示词编辑或图像编辑构造配对的安全与不安全图文组合,并在三个视觉语言模型间迁移内部状态以测量安全判定变化。结果显示,针对被改动输入位置的干预在解码器较早层有效,而针对最终输入 token 的干预在较晚层才生效;最终 token 状态的线性读出还能预测模型自身判定(包括错误判定),跨模型对比显示反事实变化模式存在相似性。
针对长历史推荐中单一缓存记忆对短期意图、中期兴趣与长期偏好保留不均的"时间混叠"问题,研究者提出 MARS——将完整历史写入不同半衰期的循环状态轨道,并用稀疏路由读取器为每个种子选取相关时间分辨率,保持候选打分规模固定。MARS 在三个公开数据集上优于强基线,增益随历史长度增长;在每用户 1000 个候选时,服务延迟约为基线热缓存推理的 1.02 倍。
COMPASS 是一种推理时激活引导方法,利用模型自身直接作答的正确性信号构造潜在方向,并通过 logit 空间归因分数定位可有效干预的注意力头。在三个模型家族和多个数学基准上,它平均将 GSM8K 准确率提升 16 个百分点,并以少 20-70% 的生成 token 接近 CoT 准确率,干预无需重新拟合即可迁移到未见基准。
研究提出一个 2×2 纵深防御框架,将内部激活引导与外部记忆处理分离,在 MemSyco-Bench 上评估四种开放权重模型。
研究测试语义熵作为 LLM 路由升级信号,在 GSM8K 上以约 12 倍规模差的小/大模型组合实现 AUROC 0.871,同等成本下路由准确率较随机升级最高提升 9 个百分点。作者指出合成基准上的亮眼结果实为假象:仅基于问题难度的无模型规则几乎完全匹配语义熵,并据此提出一套检查清单,涵盖难度对照、升级成功定义分歧、基准天花板及实时采样真实成本等陷阱。
研究提出 Trajectory-Local Adaptive Retrieval(TLAR),从当前推理轨迹中检索近似匹配的续写,并结合近期验证结果自适应调整检索激活与候选宽度。TLAR 将检索续写与模型生成草稿合并到共享候选树,通过精确验证保持目标模型输出分布。在代码调试、数学和开放式写作任务中,TLAR 结合强检索基线在相同验证预算下提升 token 接受率,并较草稿模型基线提高端到端吞吐。
研究者提出 Rationale-Guided Policy Optimization(RGPO),按模型当前能力自适应利用标准答案中的理由信息,将其作为临时脚手架,仅把更高奖励的模型自生成解回传到原始无引导设置。在纯语言与视觉语言推理任务上,RGPO 均持续优于 RLVR 基线,消融实验显示自适应理由引导是性能提升的关键。该工作已被 NeurIPS 2026 接收。
一篇综述系统梳理了神经符号 AI 中用作符号组件的三类规则语言——Datalog、答案集程序与概率逻辑程序,并沿语义、表达能力、神经集成和求值机制四个维度展开对比。作者分析了 50 余个近期系统与应用,覆盖数据库与编程语言、机器学习、视觉和机器人四个研究领域,并给出将应用场景映射到所需特性的决策矩阵,最后列出开放问题。该文将收录于 RuleML+RR 2026 会议论文集。
LLM 智能体的记忆在过往经验可迁移时有用,但当只有部分证据可迁移时会误导推理,研究将这一失败模式称为 memory over-reliance,在部分查询-记忆重叠时最严重。