研究者提出双曲熵引导激活干预方法HEST
热点事件观察中
研究者提出双曲熵引导激活干预方法HEST
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
研究者 Zeyong Zhang 等人提出一种激活引导方法 Hyperbolic Entropy Steering(HEST):把模型的隐藏状态嵌入 Poincaré 球,用一个轻量探针进行训练,而该探针的唯一标签是模型自身的 next-token 熵。 在熵超过阈值的 token 处,HEST 会沿测地线调整隐藏状态,从而对稀疏的激活位置进行干预。
AI 根据报道生成 · 14 小时前更新
最新进展10月5日 12:00
HEST:用熵训练的双曲探针实现稀疏激活引导报道时间线
沿着报道,了解事件的不同侧面。
10月5日
- arXiv cs.LGHEST:用熵训练的双曲探针实现稀疏激活引导
研究者提出 Hyperbolic Entropy Steering(HEST),将隐藏状态嵌入 Poincaré 球,用仅以模型自身 next-token 熵为标签的轻量探针,在熵超过阈值的 token 处沿测地线调整状态。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。