种豆资源网

当前位置:首页 > 经验 / 正文

分散式最佳化

(2021-01-26 19:04:41) 经验
分散式最佳化

分散式最佳化

分散式最佳化是通过多智慧型体之间的合作协调有效地实现最佳化的任务,可用来解决许多集中式算法难以胜任的大规模複杂的最佳化问题。

基本介绍

  • 中文名:分散式最佳化
  • 外文名:Distributed optimization

简介

近年来,随着高科技的蓬勃发展,特别是云计算和大数据等新兴领域的出现。分散式最佳化理论和套用得到了越来越多的重视,并逐渐渗透到科学研究、工程套用和社会生活的各个方面,分散式最佳化是通过多智慧型体之间的合作协调有效地实现最佳化的任务,可用来解决许多集中式算法难以胜任的大规模複杂的最佳化问题。如今如何设计出有效的分散式最佳化算法并对其进行收敛性和複杂性的分析成了最佳化研究的主要任务之一。与集中式算法的主要区别在于分散式算法还不得不考虑通讯和协调在最佳化中起到的重要作用。

发展背景

最佳化与博弈是运筹学和控制论理论研究中的核心问题之一, 同时还在包括系统科学、人工智慧、生物生
态、压缩感知、计算机通讯等很多领域有着广泛的套用。 已有成熟的最佳化与博弈算法大多是集中式的,但是随着现代科学的发展, 在生物、物理、社会和工程等众多学科中出现了许多新问题亟待解决, 包括如何有效处理大数据、进行云计算等。 另外, 通信和微电子技术也在迅猛发展, 为此提供了大量的高效、廉价且性能稳定的感测器、处理器以及各种执行器件, 这极大地支持和拓展了各种分散式算法的套用範围, 促进分散式最佳化的理论研究不断取得新的成果。
现在随着多智慧型体(multi-agent)系统理论和协调技术的发展, 许多分散式最佳化算法可以通过藉助多智慧型体网路的方式来实现。 多智慧型体系统是由一群具备一定的感知、通信、计算和执行能力的智慧型个体通过通讯等方式关联成的网路系统。从某种意义上说,分散式技术与多智慧型体网路是一对孪生兄弟, 或者是一个事物的两个不同的侧面: 分散式强调技术实现的一个事物的两个不同的侧面: 分散式强调技术实现的系统, 分散式方法比传统集中式方法更为灵活且操作更为方便, 这也使得分散式最佳化与控制的研究得到了迅速发展. 而且已被越来越多的工业和国防套用领域,包括智慧型电网、感测器网路、社会网路、信息物理系统(cyber-physical system)等所关注。
电网中的分散式最佳化电网中的分散式最佳化
分散式最佳化理论和套用已经成为当代系统和控制科学的重要发展方向之一。在最佳化理论研究过程中,最佳化算法的设计、收敛性的证明、複杂性(包括分析複杂性和算术複杂性)的分析是其中几个关键性的研究问题. 在分散式最佳化中, 相应的问题正在吸引着来自诸多领域的科技工作者的巨大研究兴趣. 近年来相关的研究人员在分散式最佳化上已经取得了一系列重要成果(特别是对一些典型分散式算法收敛性等的分析), 并在不同科研领域中的多种期刊和会议上发表。
现在的分散式最佳化有两大类研究问题: 一类是对性能指标函式的最佳化, 另一类是对系统动态过程的最佳化。 由于分散式最佳化刚刚兴起,主要的突出理论研究成果还是属于第一类最佳化中。在一些重要的现实问题中, 比如资源分配, 感测器网路中的定位等问题,每个个体往往有一个代价函式, 且整个网路的代价由这些个体的代价函式和来表示。此网路的目的是通过个体间的局部信息交流而完成整个网路代价函式的最佳化。其中每个个体只知道自己的代价函式,在给定的分散式最佳化算法下可以得出保证其收敛的条件。 另一类是对系统动态过程的最佳化,此类分散式最佳化问题往往涉及到分散式的(随机)动态规划, 现在虽然已经有些研究, 但大多结果往往是初步的或因所需条件很强难以做深入的理论分析。
在最佳化理论发展过程中, 凸最佳化因为其基本且简单一直受到广泛的关注, 很多实际的最佳化问题都转化或近似成凸最佳化问题来做。主要有
1)无约束凸最佳化;
2) 带约束凸最佳化;
3) 博弈和Nash均衡等。

分散式无约束最佳化

正如凸最佳化是集中式最佳化中的基本问题,无约束分散式凸最佳化也是分散式最佳化中最基本的问题和研究的出发点。在无约束最佳化问题中一个典型而简单的分散式最佳化问题是分散式凸交计算,通常可以用梯度方法对它进行研究,在它的算法中梯度就是对凸集的投影。

分散式凸交计算

这几年,分散式凸交计算(Distributed convex intersec-tion computation)越来越受到研究人员的重视,并在包括图像重构中原像的恢复、凸投射的最佳逼近和目标定位等实际问题中有大量的套用.比如,在目标定位问题中,目标源以一定的功率发射某一信号,网路中的多个感测器会接收到随着传输距离变大而衰减的带量测噪声的信号,目标定位的目的是通过网路中感测器接收到的信号以找到目标源的位置.对应于接收到的信号,每个感测器都会有一个(凸)感知区域.当这些感知区域具有非空交集时,目标定位问题可以转化为一个凸交计算问题.近几十年来,凸交计算问题(也称凸可行性问题)得到广泛的研究.当初的研究通常是集中式的,随后这几年开始了分散式凸交计算的研究。

次梯度方法(Sub-gradient method)

基于次梯度的常步长算法往往不能保证算法的收敛性,或者说即使收敛性能够得到但不能保证一定能收敛到最优解集上.为了保证算法收敛的最优性,步长渐近收敛到 0的条件是必要的,但是该条件又会带来收敛速度慢的弊端。随着分散式最佳化的深入发展,近些年来,研究人员取得了很多基于(次)梯度的变形算法和研究成果。比如:
a) 基于量化信息的分散式最佳化。
在基于量化信息的分散式最佳化这一问题里,每个个体由于通讯能力的限制,不能完全量化得到其他个体的信息,而只能得到通讯量化后的信息.大部分基于次梯度的方法,虽然给出了固定或者切换拓扑下分散式最佳化的算法的收敛性分析,但是在实际套用中由于量化误差的存在,不能达到精确解,并且其精确程度与量化的精度有关.在该问题中,有一些基本的问题还没有完全解决,特别是:
i)如何实现(在切换拓扑下)不受量化误差影响的精确最佳化?
ii)如何在能够实现最佳化的前提下减少信息传输率?
b) 随机最佳化。
在一些现实问题中,比如从社会观点动力学的角度而言,个体在做决策时往往会相互独立地以一定的机率坚持自己的观点,以一定机率会受到邻居个体观点的影响。

分散式带约束最佳化

现实中的很多最佳化问题是带有约束的,其约束形式包括受限集、等式及不等式约束。 同样,在解决分散式最佳化问题中,也会碰到不少约束问题.实际上,很多非凸的最佳化问题可以近似为带约束的凸最佳化问题.
在分散式最佳化中,有两类约束用在最佳化算法中.一类是最佳化问题中不得不考虑的客观给定约束,还有一类是最佳化问题中自身隐含的约束.对于客观存在的约束,研究者不得不去面对和处理,但在不好处理时就採取方法取代或逼近这些约束条件.而后一类约束往往是所研究的最佳化问题中自然满足的,有时可以主动加入这些辅助约束以提高算法的效率。
搜索
热门图片
最近更新
随机推荐

Powered By 种豆资源网||