LoRA持续预训练提升前列腺MRI ViT任务对齐
热点事件持续更新
LoRA持续预训练提升前列腺MRI ViT任务对齐
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
研究团队用 LoRA 对已预训练的前列腺 MRI ViT 编码器做持续预训练,以提升预训练与下游任务的对齐程度。在 6 项下游任务中,3 项性能提升,其余与原来相当。 基于 Centered Kernel Alignment(CKA)的逐层表征分析显示,经分割任务持续预训练的编码器特征比原始预训练编码器更接近微调编码器,且这一接近程度与性能提升相关。
AI 根据报道生成 · 3 小时前更新
最新进展10月15日 12:00
用 LoRA 持续预训练前列腺 MRI ViT 编码器以实现任务对齐报道时间线
沿着报道,了解事件的不同侧面。
10月15日
- arXiv cs.CV用 LoRA 持续预训练前列腺 MRI ViT 编码器以实现任务对齐
研究团队用 LoRA 在前列腺分割任务上持续预训练已预训练的 ViT 编码器,以提升预训练与下游任务的对齐程度,6 项下游任务中 3 项性能提升、其余相当。基于 Centered Kernel Alignment(CKA)的逐层表征分析显示,分割任务上持续预训练编码器的特征比原始预训练编码器更接近微调编码器,且与性能提升相关。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。