无标签混合精度量化方法提出,实测低于均匀精度
热点事件持续更新
无标签混合精度量化方法提出,实测低于均匀精度
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
研究者 Hyojung Han 等发表论文,提出一种面向文本嵌入模型的无标签混合精度训练后量化方法:以量化引发的表示漂移作为敏感度信号,在硬性打包字节预算下做一次加性分配,无需相关性标签与搜索。 在五个开发用嵌入模型上,配置级漂移对留出检索质量的宏观 Spearman 相关系数达 0.911。但在三个封存嵌入模型上,虽然预注册的方向性假设 3/3 成立,主预算下该漂移方案的检索质量数值上低于同预算的均匀精度,分别低 0.99、0.85、1.01 分。
AI 根据报道生成 · 2 小时前更新
最新进展10月8日 12:00
Quantize by Drift:面向文本嵌入模型的无标签混合精度训练后量化报道时间线
沿着报道,了解事件的不同侧面。
10月8日
- arXiv cs.CLQuantize by Drift:面向文本嵌入模型的无标签混合精度训练后量化
针对文本嵌入模型混合精度量化缺乏相关性标签的问题,研究者提出以量化引发的表示漂移作为无标签敏感度信号,在五个开发用嵌入模型上,配置级漂移对留出检索质量的宏观 Spearman 相关系数达 0.911。该方法在硬性打包字节预算下做一次加性分配,无需标签与搜索。在三个封存嵌入模型上,预注册的方向性假设 3/3 成立,但主预算下漂移方案数值上低于同预算均匀精度(-0.99、-0.85、-1.01 分)。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。