arXiv cs.LG· El Mahdi Chayti, Alireza Mirrokni, Martin Jaggi·· 7 小时前AI 评分12
几何感知多目标优化：范数约束 Oracle 与熵权更新
Geometry-Aware Multi-Objective Optimization: Norm-Constrained Oracles with Entropic Weight Updates
AI 导读
研究提出一种单循环多目标优化方法，将范数约束线性最小化 oracle 与任务权重的熵更新相结合。在确定性设定下取得 O(T^{-1/2}) 的遍历平稳性速率，在随机梯度与有界梯度假设下借助持续混合梯度动量缓冲区达到 O(T^{-1/4}) 速率，且主导项不显式依赖任务数量。分析将并发工作 MOON 的谱构造推广至一般范数，实验对比了现有多任务优化器并考察了 oracle、权重与动量选择。
来源：arXiv cs.LG · arxiv.org