共轭⽅向法
共轭⽅向法是介于最速下降法和⽜顿法之间的⼀个⽅法。最速下降法只使⽤⼀阶导数信息且⽅法简单， 单收敛慢。 ⽜顿法收敛快且为⼆阶收敛， 但计算量⼤。共轭⽅向法仅⽤⼀阶导数信息， 因此计算量⽐⽜顿法⼩， 同时收敛速度⽐最速下降法快。 它的基本思想是在求n维正定⼆次⽬标函数极⼩点时产⽣⼀组共轭⽅向作为搜索⽅向。 在精确线搜索条件下算法⾄多n步能求出极⼩点。经适当修正后算法可推⼴到求⼀般⾮⼆次⽬标函数情形。 下⾯先介绍共轭⽅向的概念。
定义 1 设G为n阶对称正定矩阵， d1,d2,...,dm(m<=n)为⼀组n维⾮零向量。 如果dTiGdj=0,i≠j, 则称d1,d2,...,dm是G共轭的。
Processing math: 100%
