论文区分预测与记忆状态
热点事件持续更新
论文区分预测与记忆状态
1 篇报道1 个报道来源6 小时前更新
先了解这件事
AI 综述
一篇 arXiv 论文刻画了“能复现当前预测”与“能继续学习”两种记忆状态的差异,结论是:仅能复现预测的记忆可能已经忘记如何从下一个观测中学习。作者 Robert Jenkinson Alvarez 称,对光滑凸残差损失,固定维度的连续循环状态存在当且仅当损失为多项式;在无权重观测下,次数 D 需恰好 r=binom(d+D,D)-1 个坐标。 论文给出具体例子:岭回归中精确状态需 dp+d(d+1)/2 个坐标,而仅存预测器只需 dp 个;核注意力则给出第二类精确闭包分类。
AI 根据报道生成 · 2 小时前更新
最新进展10月12日 12:00
预测并非充分的记忆状态:精确累积学习与注意力的记忆状态刻画报道时间线
沿着报道,了解事件的不同侧面。
10月12日
- arXiv cs.LG预测并非充分的记忆状态:精确累积学习与注意力的记忆状态刻画
论文刻画了"能复现当前预测"与"能继续学习"之间的记忆状态差异:对光滑凸残差损失,固定维度的连续循环状态存在当且仅当损失为多项式,且无权重观测下次数 D 需恰好 r=binom(d+D,D)-1 个坐标。岭回归中精确状态需 dp+d(d+1)/2 个坐标,而仅存预测器只需 dp;核注意力给出第二类精确闭包分类。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。