Р梯度函数:Р 初始点梯度向量:Р Р 海色矩阵:Р海色矩阵逆矩阵: Р当前步的搜索方向为:Р=Р新的迭代点位于当前的搜索方向上:Р==Р ==Р把新的迭代点带入目标函数,目标函数将成为一个关于单变量的函数Р Р 令,可以求出当前搜索方向上的最优步长Р Р 新的迭代点为Р当前梯度向量的长度, 因此继续进行迭代。Р第二迭代步:Р因此不用继续计算,第一步迭代已经到达最优点。Р这正是牛顿法的二次收敛性。对正定二次函数,牛顿法一步即可求出最优点。Р3、设有函数 f(X)=x12+2x22-2x1x2-4x1,试利用极值条件求其极值点和极值。Р解:首先利用极值必要条件Р 找出可能的极值点:Р 令Р =Р 求得,是可能的极值点。Р 再利用充分条件正定(或负定)确认极值点。Р Р 因此正定, 是极小点,极值为f(X*)=-8Р4、求目标函数f( X )=x12+x1x2+2x22 +4x1+6x2+10的极值和极值点。Р解法同上Р5、试证明函数 f( X )=2x12+5x22 +x32+2x3x2+2x3x1-6x2+3在点[1,1,-2]T处具有极小值。Р解: 必要条件:Р 将点[1,1,-2]T带入上式,可得Р充分条件Р =40Р正定。Р因此函数在点[1,1,-2]T处具有极小值Р6、给定约束优化问题Р min f(X)=(x1-3)2+(x2-2)2 Рs.t. g1(X)=-x12-x22+5≥0 Р g2(X)=-x1-2x2+4≥0 Рg3(X)= x1≥0 Рg4(X)=x2≥0 Р验证在点Kuhn-Tucker条件成立。Р解:首先,找出在点起作用约束:Рg1(X) =0Рg2(X) =0Рg3(X) =2Рg4(X) =1Р因此起作用约束为g1(X)、g2(X)。Р然后,计算目标函数、起作用约束函数的梯度,检查目标函数梯度是否可以表示为起作用约束函数梯度的非负线性组合。
全文预览