跳到正文
arXiv cs.LG· El Mahdi Chayti, Alireza Mirrokni, Martin Jaggi·· 7 小时前AI 评分22

PISO:通过零阶残差跟踪实现部分信息随机优化

Partially Informed Stochastic Optimization via Zeroth-Order Residual Tracking

AI 导读

研究者提出部分信息随机优化方法 PISO,将可获得的梯度分量与残差的在线估计相结合,使零阶观测的方差取决于跟踪误差而非残差幅度。在光滑非凸目标下,PISO 在 Lipschitz 梯度条件下达到 O(d²ε⁻⁶) 的函数评估复杂度,附加 Lipschitz-Hessian 假设时为 O(d²ε⁻⁵),每次更新仅需一个探测方向、两个函数样本和一个已知分量样本。

来源:arXiv cs.LG · arxiv.org