跳到正文
热点事件持续更新

论文区分预测与记忆状态

1 篇报道1 个报道来源6 小时前更新

先了解这件事

AI 综述

一篇 arXiv 论文刻画了“能复现当前预测”与“能继续学习”两种记忆状态的差异,结论是:仅能复现预测的记忆可能已经忘记如何从下一个观测中学习。作者 Robert Jenkinson Alvarez 称,对光滑凸残差损失,固定维度的连续循环状态存在当且仅当损失为多项式;在无权重观测下,次数 D 需恰好 r=binom(d+D,D)-1 个坐标。 论文给出具体例子:岭回归中精确状态需 dp+d(d+1)/2 个坐标,而仅存预测器只需 dp 个;核注意力则给出第二类精确闭包分类。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月12日
  1. arXiv cs.LG
    预测并非充分的记忆状态:精确累积学习与注意力的记忆状态刻画

    论文刻画了"能复现当前预测"与"能继续学习"之间的记忆状态差异:对光滑凸残差损失,固定维度的连续循环状态存在当且仅当损失为多项式,且无权重观测下次数 D 需恰好 r=binom(d+D,D)-1 个坐标。岭回归中精确状态需 dp+d(d+1)/2 个坐标,而仅存预测器只需 dp;核注意力给出第二类精确闭包分类。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。