(王颖慧、赵文虓、洪奕光)不依赖梯度信息的分布式优化算法
近几年,传感器网络中的资源定位、智能电网等领域涌现出来的问题,需要实现整个网络系统的优化。但网络中分布的众多传感器,由于自身计算能力等多方面因素制约,仅靠单个节点获取的信息无法实现总体的性能优化。如何利用网络中众多的“局部”信息、数据和计算能力,实现功能整体优化,是这类系统迫切需要解决的问题,通常称为 “分布式优化”。
目前分布式优化算法大多基于网络各节点的梯度信息来构造算法,如何仅利用节点的状态信息构造不依赖梯度的分布式优化算法,文献中未见讨论。王颖慧、赵文虓、洪奕光等从节点的状态测量值出发,构造差分来替代梯度测量值,并通过节点之间的信息交换机制构造分布式优化算法,证明了算法强一致收敛到全局极小值点并得到收敛速度。理论分析证明,不依赖梯度测量值的分布式优化算法与基于梯度测量值的分布式优化算法,在收敛速度上有相同的阶。
相关论文:
Yinghui Wang, Wenxiao Zhao, Yiguang Hong and Mohsen Zamani, “Distributed subgradient-free stochastic optimization algorithm for nonsmooth convex functions over time-varying networks”, SIAM J. Control and Optimization, Vol. 57, No. 4, pp. 2821-2842, 2019.