arXiv cs.AI· Seyedarmin Azizi, Arya Fayyazi, Parsa Razmara, Erfan Baghaei Potraghloo, Souvik Kundu, Massoud Pedram·· 8 小时前AI 评分27
尖锐方向与你为敌：激活引导的曲率分析
The Sharp Directions Are Against You: Curvature Analysis of Activation Steering
AI 导读
研究提出 steering Hessian 矩阵，用于刻画激活引导向量在语言模型行为损失上的二阶曲率，其顶部特征向量对应"尖锐方向"，微小扰动即可引发大幅行为波动。
来源：arXiv cs.AI · arxiv.org