Double-Take方法提升长上下文记忆能力
热点事件持续更新
Double-Take方法提升长上下文记忆能力
1 篇报道1 个报道来源6 小时前更新
先了解这件事
AI 综述
研究者 Vakul Raghavan 等人提出长上下文记忆方法 Double-Take（DT），针对大块测试时训练（TTT）中单步写入干扰限制容量、自关联写入无法形成跨位置绑定这两个缺陷，采用多步非固定更新、跨位置混合和双向变化敏感写入来实现选择性保留。 据该研究，仅用 32kb 基因组上下文训练，DT 在 131kb 处达到 0.927 AUROC，近 1Mb 处为 0.856，并可从人类零样本迁移到小鼠。
AI 根据报道生成 · 2 小时前更新
最新进展10月12日 12:00
Double-Take：在双向记忆中提升长上下文容量、绑定与选择性报道时间线
沿着报道，了解事件的不同侧面。
10月12日
- arXiv cs.LGDouble-Take：在双向记忆中提升长上下文容量、绑定与选择性
针对大块测试时训练（TTT）中单步写入干扰限制容量、自关联写入无法形成跨位置绑定的两个缺陷，研究者提出 Double-Take（DT），通过多步非固定更新、跨位置混合和双向变化敏感写入实现选择性保留。仅用 32kb 基因组上下文训练，DT 在 131kb 处达到 0.927 AUROC，近 1Mb 处为 0.856，并可从人类零样本迁移到小鼠。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。