当前梯度向量的长度第一迭代步完成。
, 因此继续进行迭代。
2、试用牛顿法求f( X )=(x1-2)2+(x1-2x2)2的最优解，设初始点x(0)=[2,1]T。 解1：（注：题目出题不当，初始点已经是最优点，解2是修改题目后解法。） 牛顿法的搜索方向为
的梯度向量、海色矩阵及其逆矩阵
,因此首先求出当前迭代点x(0)
不用搜索，当前点就是最优点。
解2：上述解法不是典型的牛顿方法，原因在于题目的初始点选择不当。以下修改求解题目的初始点，以体现牛顿方法的典型步骤。
以非最优点x(0)=[1,2]T作为初始点，重新采用牛顿法计算
牛顿法的搜索方向为
,因此首先求出当前迭代点x(0)
的梯度向量、以及海色矩阵及其逆矩阵
梯度函数：
初始点梯度向量：
海色矩阵：
海色矩阵逆矩阵：
当前步的搜索方向为：
＝
新的迭代点位于当前的搜索方向上 ：
=
＝
=＝
把新的迭代点带入目标函数，目标函数将成为一个关于单变量的函数
令 ，可以求出当前搜索方向上的最优步长
新的迭代点为
当前梯度向量的长度, 因此继续进行迭代。
第二迭代步：
因此不用继续计算，第一步迭代已经到达最优点。
这正是牛顿法的二次收敛性。对正定二次函数，牛顿法一步即可求出最优点。
3、设有函数 f(X)=x12+2x22-2x1x2-4x1，试利用极值条件求其极值点和极值。 解：首先利用极值必要条件 令
＝
找出可能的极值点：
求得
,是可能的极值点。
再利用充分条件正定（或负定）确认极值点。
是极小点，极值为f(X*)=-8
因此正定,
4、求目标函数f( X )=x12+x1x2+2x22 +4x1+6x2+10的极值和极值点。
解法同上
5、试证明函数 f( X )=2x12+5x22 +x32+2x3x2+2x3x1-6x2+3在点[1，1，-2]T处具有极小值。 解： 必要条件：
将点[1，1，-2]T带入上式，可得
充分条件
＝40
正定。
因此函数在点[1，1，-2]T处具有极小值
6、给定约束优化问题
min f(X)=(x1-3)2+(x2-2)2 s.t. g1(X)=－x12－x22＋5≥0 g2(X)=－x1－2x2＋4≥0 g3(X)= x1≥0
g4(X)=x2≥0
]TKuhn-Tucker条件成立。 验证在点X?[2，１]T起作用约束： 解：首先，找出在点X?[2，１g1(X) ＝0 g2(X) ＝0 g3(X) ＝2 g4(X) ＝1
因此起作用约束为g1(X)、g2(X)。
然后，计算目标函数、起作用约束函数的梯度，检查目标函数梯度是否可以表示
为起作用约束函数梯度的非负线性组合。
求解线性组合系数 得到
均大于0
＝
＝,
]TKuhn-Tucker条件成立 因此在点X?[2，１
7、设非线性规划问题
2minf(X)?(x1?2)2?x2
s.t.g1(X)?x1?0g2(X)?x2?02g3(X)?x12?x2?1?0T
用K-T条件验证X*??1,0?为其约束最优点。 解法同上
8、已知目标函数为f(X)= x1+x2，受约束于：