黑塞矩阵(Hessian Matrix),又译作海森矩阵、海瑟矩阵、海塞矩阵等,是一个多元函式的二阶偏导数构成的方阵,描述了函式的局部曲率。黑塞矩阵最早于19世纪由德国数学家Ludwig Otto Hesse提出,并以其名字命名。黑塞矩阵常用于牛顿法解决最佳化问题,利用黑塞矩阵可判定多元函式的极值问题。在工程实际问题的最佳化设计中,所列的目标函式往往很複杂,为了使问题简化,常常将目标函式在某点邻域展开成泰勒多项式来逼近原函式,此时函式在某点泰勒展开式的矩阵形式中会涉及到黑塞矩阵。
基本介绍
- 中文名:黑塞矩阵
- 外文名:Hessian Matrix
- 别名:海森矩阵,二阶导数矩阵
- 提出时间:19世纪
- 提出者:德国数学家Ludwig Otto Hesse
- 特点:黑塞矩阵为对称阵
- 套用学科:线性代数、运筹学
定义
在工程实际问题的最佳化设计中,所列的目标函式往往很複杂,为了使问题简化,常常将目标函式在某点邻域展开成泰勒多项式来逼近原函式。
二元函式的黑塞矩阵
由高等数学知识可知,若一元函式
在
点的某个邻域内具有任意阶导数,则
在
点处的泰勒展开式为:
,其中
,
。







二元函式
在
点处的泰勒展开式为:




其中,
。

将上述展开式写成矩阵形式,则有:

即:

其中:






多元函式的黑塞矩阵
将二元函式的泰勒展开式推广到多元函式,则
在
点处的泰勒展开式的矩阵形式为:



其中:
(1)
,它是
在
点处的梯度。



(2)
为函式
在
点处的黑塞矩阵。



黑塞矩阵是由目标函式
在点X处的二阶偏导数组成的
阶对称矩阵。


对称性
如果函式
在
区域内二阶连续可导,那幺
黑塞矩阵
在
内为对称矩阵。





原因:如果函式
的二阶偏导数连续,则二阶偏导数的求导顺序没有区别,即





利用黑塞矩阵判定多元函式的极值
定理
设n多元实函式
在点
的邻域内有二阶连续偏导,若有:



并且

则有如下结果:
(1)当A正定矩阵时,
在
处是极小值;


(2)当A负定矩阵时,
在
处是极大值;


(3)当A不定矩阵时,
不是极值点。

(4)当A为半正定矩阵或半负定矩阵时,
是“可疑”极值点,尚需要利用其他方法来判定。

实例
求三元函式
的极值。

解:因为
,故该三元函式的驻点是
。


又因为
,

故有:

因为A是正定矩阵,故
是极小值点,且极小值
。

