工程优化第2章

《工程优化第2章》由会员分享，可在线阅读，更多相关《工程优化第2章（90页珍藏版）》请在装配图网上搜索。

1、 多 元 函 数 的 梯 度 及 其 H esse矩 阵 等 高 线 二 次 函 数 多 元 函 数 的 极 值 及 其 判 别 条 件 凸 集 、 凸 函 数 、 凸 规 划 几 个 重 要 的 不 等 式 ( ): nf x R R 1( ) nT i iif x c x b c x b n元 函 数 ： n元 线 性 函 数 ： n元 二 次 函 数 ： n元 向 量 值 线 性 函 数 ： 1( ) 2 T Tf x x Qx c x b 1 1 112 n n nij i j i ii j iq xx cx b 1( ) ( ( ),., ( )T mmF x f x f x Ax

2、d R 其 中 ( ) . Ti i if x a x d 1 10 ,., ,. ,., ,.,lim (1)i i i n i nx if x x x x f x x xx )(xfz 在 点存 在 ,的 偏 导 数 ， 记 为 ixxf )( x 的 某 邻 域 内 极 限则 称 此 极 限 为 函 数设 函 数 )(xfz 在 点 x 对 第 i个 分 量 ix:(1)式 也 可 写 为 0lim ,itif x f x te f xx t (0,.,1,.,0) .Tie 其 中 ),(),( 212211 xxfxxxxfz 可 表 示 成,)(21 oxBxAz 其 中 A ,

3、B 不 依 赖 于 x1 , x2 , 仅 与 x1 , x2 有 关 ，称 为 函 数 ),( 21 xxf在 点 (x1, x2) 的 全 微 分 , 记 作 1 2dz d f A x B x 若 函 数 在 域 D 内 各 点 都 可 微 , 2221 )()( xx 则 称 函 数 f (x1, x2 ) 在 点 (x1,x2)可 微 ， 则 称 此 函 数1 2A x B x 高 数 中 二 元 函 数 的 可 微 性 定 义 ：如 果 函 数 z = f(x1, x2)在 定 义 域 D 的 内 点 (x1,x2)处 全 增 量 定 义 中 增 量 的 表 达 式 1 2 1 1

4、 2 2 1 2 1 2( , ) 0 1 2, ,lim 0( , )x x f x x x x f x x A x B xx x 等 价 于 21 2 1 2( , ) , ( , ) , ( , ) ,T T Tx x x x x x l A B R 记 ,)(21 oxBxAz 2221 )()( xx 0lim 0 (2)Tx f x x f x l xx 高 数 中 二 元 函 数 的 可 微 性 定 义 ： 若 函 数 z = f (x1, x2) 在 点 (x1, x2) 可 微 ， 则 该 函 数 在 该 点 偏 导 数 1 2,z zx x 1 21 2z zdz x xx

5、 x 必 存 在 ,即 1 2( , ) ( , )T Tz zl A B x x 称 向 量 是 函 数 z = f (x1, x2) 在 点 (x1, x2) 的 。且 有1 2( , )Tz zl x x 0lim 0 (2)Tx f x x f x l xx 二 元 多 元可 微 设 若 使 有 ： 则 称 f(x) 在 处 可 微 。 1: nf D R R ,nl R ,np R 0 00lim 0, (3)Tp f x p f x l pp 0 x 给 定 区 域 D上 的 n 元 实 值 函 数1 0: ,nf D R R x D 与 二 元 函 数 可 微 的 等价 形 式

6、类 似 引 入 0lim 0 (2)Tx f x x f x l xx 若 在 处 可 微 ， 则 在 该 点 处 关于 各 变 量 的 一 阶 偏 导 数 存 在 ， 且 0 x( )f xf ( )f x 0 0 01 2, , , Tnf x f x f xl x x x 1 2( , , , )Tnl l l l , 1,2, , ,i ip e i n i R 0 x i ip e 0 0 ,i i i i if x e f x l o 1,2, ,i n 1,2, ,i n 0 00lim , i i i iif x e f x l i 0i 令 ， 依 次 取两 边 除 以 并

7、取 的 极 限 有 ： 在 处 可 微 ， 则 (3) 对 成 立 ， 0 00lim 0, (3)Tp f x p f x l pp 0if xx 以 的 n 个 偏 导 数 为 分 量 的 向 量 称 为 f(x) 在 x 处 的 梯 度 。 ( )f x若 f 在 处 可 微 , 令 p=x-x0, 由 得记 为 1 2, , (4)Tnf x f x f xf x x x x 梯 度 也 可 称 为 函 数 f(x)关 于 向 量 x 的 一 阶 导 数 。 0 00lim 0Tp f x p f x l pp 这 与 一 元 函 数 展 开 到 两 项 的 Taylor 是 相 对

8、应 的 。 0 0 0 0( ) (5)Tf x f x f x x x o x x 0 x 函 数 在 某 点 的 梯 度 不 为 零 ， 则 必 与 过 该 点 的 等 值 面 垂 直 。 梯 度 方 向 是 函 数 具 有 最 大 变 化 率 的 方 向 。过 点 的 等 值 面 方 程 为 ： 设 f(x) 在 定 义 域 内 有 连 续 偏 导 数 ， 即 有 连 续 梯 度 ， 则梯 度 有 以 下 两 个 重 要 性 质 ： f x0 x设 是 过 点 同 时 又 完 全 在 等 值 面 （ 6）上 的 任 一 条 光 滑 曲 线 L的 方 程 ， 为 参 数 ， 点 对 应 的

9、 参 数 就 是 01 2 0 0, , , (6)nf x x x r r f x 1 1 2 2, , n nx x x x x x 0 x 0 x 0.把 此 曲 线 方 程 代 入 (6),得 到 1 2 0, , nf x x x r 即 函 数 f(x) 在 处 的 梯 度 与 过 该 点 在 等 值 面 上 的 任 一 条 曲线 L在 此 点 的 切 线 垂 直 。从 而 与 过 该 点 的 切 平 面 垂 直 ， 性 质 1成 立 。 0( )f x f x 0f x 0t 1 2 0, , nf x x x r 0 0 0 01 0 2 0 01 2 0 (7)nnf x f

10、 x f xx x xx x x T0 1 0 2 0 0, , nt x x x 1 2, , Tnf x f x f xf x x x x 0 0 0Tf x t 两 边 同 时 在 处 关 于 求 导 数 ， 根 据 求 导 的 链 式 法 则 有 ：向 量 恰 为 曲 线 L 在 处 的 切 向 量 ，0则 0 x 0f x 设 在 点 x处 可 微 ， p=te为 固 定 向 量 ， 其 中 t是 向 量 p的 模 ， e 为 向 量 p的 单 位 向 量 ， 则 称 极 限 ：0 0 x若 则 f(x) 从 出 发 在 附 近 沿 p方 向 是 下 降 的 。 0 x 为 说 明

11、为 函 数 f(x) 在 点 处 沿 方 向 p的 方 向 导 数 ， 记 为 ， 0f xp 0 0 0 0 00 0lim limt tf x f x p f x f x te f xp t t 1: nf R R 0 0,f xp 0 0 0,f x te f xt 0 0 ,f x te f x 0 x 若 则 f(x) 从 出 发 在 附 近 沿 p方 向 是 。0 x 0 0,f xp 0 x引 进 方 向 导 数 0 00lim 0t f x te f xt 即 当 t 0充 分 小 时 ， 有 若 则 f(x) 从 出 发 在 附 近 沿 p方 向 是 下 降 的 。0 x 0

12、 0,f xp 0 x 若 则 f(x) 从 出 发 在 附 近 沿 p方 向 是 。0 x 0 0,f xp 0 x 方 向 导 数 正 负 决 定 了 函 数 升 降 ; 升 降 速 度 的 快 慢 由 方 向 导 数 绝 对 值 大 小 来 决 定 ， 绝 对 值 越大 升 降 速 度 越 大 ; 因 此 又 将 方 向 导 数 称 为 f(x) 在 处 沿 方 向 p的 变 化率 。 0f xp 0 x 若 在 点 处 可 微 ， 则 其 中 e 为 p方 向 上 的 单 位 向 量 。： f在 可 微 ， 则 根 据 可 微 定 义 ，容 易 看 到 ： 当 时 ， 有 由 前面 证

13、 明 即 知 p 为 下 降 方 向 。1: nf R R 0 x 0 0 ,Tf x f x ep 0 x利 用 方 向 导 数 定 义 并 将 上 式 中 的 p 换 成 te 有 ： 0 0 Tf x p f x l p o p 0 0 0 0 00 0lim lim .T Tt tf x f x p f x t f x e o t f x ep t t 0 0Tf x p 0 0 0,Tf x f x ep 0 00lim 0, (3)Tp f x p f x l pp 0 0 Tf x f x p o p 0 01 2, , , Tnf f x f xl x x x 0= f x 由

14、 于 ,为 方 向 p 与 的 夹 角 。从 而 成 立 。若 ， 则 p 是 函 数 f (x) 在 处 的 下 降 方 向 。 若 ， 则 p 是 函 数 f(x) 在 处 的 上 升 方 向 。0 x0 x 0 0Tf x p 0 0Tf x p 0f x 0 0 Tf x f x ep 0 cosf x 向 量 内 积 0p f x 当 夹 角 为 0 (=0o) ， 即 沿 梯 度 方 向 ( )时 ，方 向 导 数 取 得 最 大 值 ； 0f x 当 夹 角 为 180o (=180o) ， 即 沿 负 梯 度 方 向 ( )时 ，方 向 导 数 取 得 最 小 值 。 0p f

15、 x可 见 梯 度 方 向 即 为 函 数 的 最 速 上 升 方 向 ； 负 梯 度 方 向 即 为 函 数 的 最 速 下 降 方 向 。 0f x 0 x 0f x 0f x 上 升 方 向变 化 率 为 0方 向下 降 方 向我 们 有 结 论 ：函 数 在 与 其 梯 度 正 交 的 方 向 上 变 化 率 为 0 ； 成 锐 角 的 方 向 上 是 上 升 的 ； 成 钝 角 的 方 向 上 是 下 降 的 。 由 于 则 函 数 在 处 的最 速 下 降 方 向 是此 方 向 上 的 单 位 向 量 是 ：新 点 是 试 求 目 标 函 数 在 点 处 的 最速 下 降 方 向

16、， 并 求 沿 这 个 方 向 移 动 一 个 单 位 长 度 后 新 点 的 目 标 函数 值 。 2 21 2 1 1 2 2( , ) 3 4f x x x x x x 0 (0,1)Tx 1 2 1 21 26 4 , 4 2 ,f x f xx x x xx x 0 (0,1)Tx 121 2 01 2 16 4 44 2 2xxx xx x 0 2 20 4 2 52 514 2 55f xe f x 1 0 2 25 50 5 51 1 15 1 55 5x x e 11 2 21 1 2 23 4 |26 2 55 xf x x x x x 1210 02 1xxf xxp f

17、 x f xx 0( ) 1f x (1) , 0 0f x C f x C 常 数 则 ， 即 ； (2) , ;Tf x b x f x b 则 (4) ( ), 2 .T Tf x x Qx Q Q f x Qx 则 (3) , 2 ;Tf x x x f x x 则 2 2 22 1 2 1 n12 2 22 22 21 22 2 2 221f x f x f xx x x xxf x f x f xf x f x x x x xnxf x f x f xx x x xn n xn 多 元 函 数 的 一 阶 导 数 即 梯 度 ， 二 阶 导 数 即 H esse阵 f x 2f x

18、 Tf x b x 2, ( ) 0n nf x b f x 12 Tf x x x 2,f x x f x I 12 Tf x x Qx 2, .f x Qx f x Q 设 二 阶 可 导 。 在 x* 的 邻 域 内Lagrange余 项 ： 对 x, , 记 x x*+ (x-x*) ( ): nf x R R( ) ( *) ( *)( *) ( *)Tf x f x f x x x o x x 一 阶 Taylor展 开 式二 阶 Taylor展 开 式 ： 221( ) ( *) ( *)( *) ( *) ( *)( *) ( * )2T Tf x f x f x x x x

19、x f x x x o x x 一 阶 中 值 公 式 ： 对 x, , 使 ( ) ( *) ( * ( *) ( *) Tf x f x f x x x x x 21( ) ( *) ( *)( *) ( *) ( )( *)2T Tf x f x f x x x x x f x x x P38 2.9-2.14 求 解这 是 定 义 在 平 面 上 的 无 约 束 极 小 化 问 题 ， 其 目 标 函 数在 三 维 空 间 中 代 表 一 个 曲 面 。 二 元 函 数 最 优 化 问 题 ， 具 有 明 显 的 几 何 特 征 ， 从 几 何 图 形 上 ，可 以 直 观 了 解 函

20、 数 的 变 化 ， 我 们 把 这 种 几 何 解 释 推 广 到 n维 空 间中 ， 对 后 面 优 化 方 法 的 研 究 是 有 益 处 的 。 2 21 2min 2 1x x 1 2oxx 2R 2 21 22 1f x x x 1 2oxx f S 0 s s L 在 平 面 上 任 给 一 点 ， 就 对 应 有 一 个 目 标 函 数 值 是 过 点 作 平 面 的 垂 线 与 S曲 面 交 点 的 纵 坐 标 。 反 之 ， 任 给 一 个 值 f 0 ,使 目 标 函 数 f(z)取 值 为 f0的 点 z的 个 数 就 不 相 同 了 。 可 能 没 有 ， 可 能 只

21、 有 一 个 ， 可 能 有 多 个 。 这 一 事 实 的 几 何 意 义 是 ： 过 f 轴 上 坐 标 为 f0的 点 作 坐 标 平 面 的 平 行 平 面 L， 可 能 与 曲 面 S无 交 点 (f0 0).2x1x f f0P4f 1f 2x 1x 2x1x 1 2oxx 0 00 1 2( , )P x x0 2 0 20 1 2( 2) ( 1)f x x 1 2oxx0P 1 2oxx0f 我 们 感 兴 趣 的 是 至 少 有 一 个 交 点 （ ） 的 情 形 。平 面 L截 曲 面 S得 到 一 个 圆 ， 将 它 投 影 到 平 面 上 ， 仍 为 同 样 大 小

22、的 圆 。 在 这 个 圆 上 每 一 点 的 目 标 函数 值 均 为 f0, 若 一 条 曲 线 上 任 何 一 点 的 目 标 函 数 值 等 于 同 一常 数 ， 则 称 此 曲 线 为 目 标 函 数 的 等 值 线 。 变 动 f 的 值 ， 得 到 不 同 等 值 线 ， 这 是 一 组 同 心 圆 ： 对 应 f0=0的 等 值 线 缩 为 一 点 G， 对 应 f0 0, 则 af1+bf2 是 凸 函 数 ；l f(x)= max f1(x) , f2 (x) 是 凸 函 数 。l 思 考 ： af1 - bf2 是 否 是 凸 函 数 ？1) g(x)= min f1(x

23、) , f2 (x) 是 否 是 凸 函 数 ？ f(x) 为 凸 集 S 上 的 凸 函 数 S 上 任 意 有 限 点 的 凸 组 合 的 函 数 值 不 大 于 各 点 函 数 值 的 凸 组 合 。 证 明 参 见 文 中 定 理 2.10的 证 明 。 P38 2.1 2.3 2.19 设 D Rn 为 非 空 凸 集 ， 函 数 f :DR 在 D 上 可 微 ， 则 (1) f在 D上 为 凸 函 数 任 意 x， yD， 恒 有 f (y) f (x)+ f T(x)(y-x) (1) (2) f在 D上 为 严 格 凸 函 数 任 意 xyD， 恒 有 f (y) f (x)

24、+ f T(x)(y-x) . (2) 见 书 中 定 理 2.11 (P27) 设 D Rn 为 含 有 内 点 的 非 空 凸 集 ，函 数 f :DR在 D 上 二 次 可 微 ， 则 a) f在 D上 为 凸 函 数 xD， 2f (x) 半 正 定 ； b) 若 xD， 2f (x) 正 定 ， 则 f在 D上 为 严 格 凸 函 数 。见 书 中 定 理 2.12（ P28） 由 一 阶 条 件 和 多 元 函 数 的 泰 勒 展 开 式 可 证 。回 忆 ： 设 二 次 函 数 (1)： 若 为 半 定 矩 阵 ， 在 中 为 凸 函 数 ； (2)： 若 为 正 定 矩 阵 ，

25、 在 中 为 严 格 凸 函 数 。判 断 f(x)=5x12-6x1x2+5x22在 凸 集 D上 是 否 是 凸 函 数 ？ 的 顺 序 主 子 式 都 是 正 的 ， 所 以 正 定 ， 因 此f(x)在 凸 集 D上 是 严 格 凸 函 数 。 2 10 6( ) 6 10f x Tf x x AxA ( )f x nRnR( )f xA 2 2 21 2 1 2(1 ) ( ) (1 )( )a a a a 2 21 2( )( ) 0a a 0 1, 2 0. 2 21 2( )( ) 0a a 2 1 1( )g x x22 2( )g x x 2 21 2( ) +g x x

26、x由 于 故证 明 为 凸 函 数 。也 是 凸 函 数 。 根 据 性 质 2， 为 凸 函 数 。 2 2 2 2 21 1 2 2( ) 2 ( ) ( ) 0a a a a 看 下 述 各 式 是 否 成 立 ： 2,1首 先 用 定 义 证 明 是 凸 函 数 ， 即 对 任 意 和2 21 2( )f x x x 试 证 明 为 凹 函 数 。或即 显 然 ， 不 管 和 取 什 么 值 ， 总 有1 221 1( )g x x 2 21 2( )f x x x 为 凹 函 数 。 因 此 从 而 用 同 样 的 方 法 可 以 证 明 只 需 证(1) T (2) T1 1 2

27、2( , ) , ( , ) ,x a b x a b (2) (1) (1) (2) (1)( ) ( ) ( )Tf x f x f x x x 2 12 2 2 22 2 1 1 1 1 2 1( 2 2 ) a aa b a b a b b b 任 意 选 取 两 点 2 2 2 22 2 1 1 1 2 1 1 2 12 ( ) 2 ( )a b a b a a a b b b 或 2 2 2 22 1 2 1 2 1 2 1( 2 ) ( 2 ) 0 a a a a b bb b或 2 2 2 1 2 1( ) ( ) 0a a b b 或不 管 a1、 a2、 b1、 b2取 什

28、 么 值 ， 上 式 均 成 立 ， 从 而 得 证 。 (1) 2 2 (2) 2 21 1 2 2( ) , ( )f x a b f x a b 2 21 2( )f x x x 是 凹 函 数 ， 要 证 1(1) 22( ) 2xf x x 2 21 2( )f x x x 试 证 明 为 凹 函 数 。 1 21 2( ) ( )2 , 2 ,f x f xx xx x ( )f x其 海 赛 矩 阵 处 处 负 定 ， 故 为 (严 格 )凹 函 数 。 由 于2 22 21 2( ) ( )2 0, 2,f x f xx x 2 21 2 2 1( ) ( ) 0,f x f

29、xx x x x 2 0 4 00 2H 2 21 2( )f x x x 试 证 明 为 凹 函 数 。 考 虑 如 下 非 线 性 规 划当 都 是 凸 函 数 时 ,称 规 划 为 凸 规 划( ), ( )( 1,2, , )if x g x i m (1) min (1). 0, 1,2, ,if xst g x i m 设 (1)为 凸 规 划 ， 则 i) (1)的 可 行 集 R是 凸 集 ； ii) (1)的 最 优 解 集 是 凸 集 ； iii) (1)的 任 何 局 部 极 小 点 都 是 全 局 极 小 点 。见 书 中 定 理 2.13. 设 (1)为 凸 规 划

30、， 若 f(x)在 非 空 可 行 集 R上 是 严 格 凸 函 数 ， 则 (1)的 全 局 极 小 点 是 唯 一 的 。见 书 中 定 理 2.14. 非 线 性 规 划 的 局 部 最 优 解 不 一 定 是 整 体 最 优 解 ,其 可 行 解 和 最 优 解 集 也 不 一 定 是 凸 集 ,甚 至 不 是 连 通 集 .如 果 是 凸 规 划 , 就 有 很 多 好 的 性 质 。 设 (1)为 凸 规 划 ， 则 为 (1)的 最 优 解 的 充 要 条 件 为 ： ， 有利 用 f (y) f (x)+ f T(x)(y-x) （ 证 明 参 见 文 中 定 理 2.15）

31、1, ( ) ,x R f x C xnx R ( ) ( ) 0.Tx x f x 有 限 个 点 的 凸 包 闭半空间是凸的 :n TH x R c x b 称 为 正 闭 半 空 间 ; :n TH x R c x b 称 为 负 闭 半 空 间 ;H+和 H-统 称 为 闭 半 空 间 。有 限 个 闭 半 空 间 的 交 :nS x R Ax b 1 2 , ,., mco x x x 对 任 意 xS， 不 存 在 S 中 的 另 外 两 个 点 x(1)和 x(2)， 及方 向 d 不 能 表 示 为 两 个 不 同 方 向 的 组 合 (0,1),(1) (2)(1 ) .x

32、x x 使 xS , dRn , d 0 及 0, 总 有 .x d S (1) (2)( 0)d d 时 ， 称 d(1)和 d(2)同 方 向 。当 (1) (2).d d d 设 A 满 秩 ， x 是 S 极 点 的 充 分 必 要 条 件 是 : 存 在 分 解 A = B , N ， 其 中 B为 m阶 非 奇 异 矩 阵 ， 使 xT = xBT, xNT , 这 里 xB = B-1b0, xN =0.S中 必 存 在 有 限 多 个 极 点 。 ( Cnm ) 设 A = p1, p2, ,pn满 秩 ， d 是 S 极 方 向 的 充 分 必 要 条 件 是 : 存 在 分

33、 解 A = B , N ， 其 中 B为 m阶 非 奇 异 矩 阵 ， 对 于 N中 的 列 向 量 p j 使 B-1pj0, dT = dBT, dNT , dB = -B-1pj , dN = (0, . , 1, ,0)TS中 必 存 在 有 限 多 个 极 方 向 。 ( (n-m)Cnm ) 考 虑 上 述 多 面 体 S， 设 A满 秩 ， 为 所 有 极 点 ， 为所 有 极 方 向 。 那 么 ， 对 于 xS， 且多 面 体 S = xRnAx = b , x0 的 极 点 和 极 方 向0,i 1 2 . 1, 0, 1,2,., ,k j j l 使 (1) (2)

34、( ) (1) (2) ( )1 2 1 2. . .k lk lx x x x d d d (1) (2) ( ), ,., kx x x (1) (2) ( ), ,., ld d d 一 个 凸 集 有 非 空 的 相 对 内 部 ； 一 个 凸 集 是 连 通 的 并 且 在 任 意 点 具 有 可 行 方 向 ； 一 个 多 面 体 的 凸 集 可 以 由 一 个 有 限 的 极 点 和 极 方 向 的 集合 来 刻 画 ； 凸 集 上 凸 函 数 的 全 局 极 小 值 的 存 在 可 以 非 常 方 便 的 按 照收 缩 方 向 来 描 述 ； 一 个 凸 函 数 的 局 部 极

35、 小 点 都 是 全 局 极 小 点 ； 一 个 非 凸 函 数 可 以 被 “ 凸 化 的 ” 同 时 保 持 了 全 局 极 小 值的最 优 性 ； 一 个 凸 函 数 是 连 续 的 并 且 具 有 良 好 的 可 微 性 ； 闭 凸 锥 关 于 极 是 自 对 偶 的 ； 凸 且 下 半 连 续 的 函 数 关 于 共 轭 是 自 对 偶 的 ； x , y Rn x , y 的 内 积 ： =xTy = xiyi = x1y1+ x2y2+ + xnyn x , y 的 距 离 ： x-y= (x-y)T(x-y)(1/2) x 的 长 度 ： x= xTx (1/2) 三 角 不

36、等 式 ： x + yx+y 设 A为 n 阶 对 称 正 定 矩 阵 ， 则 ， 恒 有 等 号 成 立 当 且 仅 当 x 与 线 性 相 关 ;, nx y R 2 -1, , , (1)x y x Ax y A y 1A y 等 式 成 立 当 且 仅 当 x 与 y 线 性 相 关 。2, , ,x y x x y y , (2)nx y R ,x y =A I当 时其 中 表 示 向 量 的 内 积 。 设 A为 n 阶 对 称 正 定 矩 阵 ， m与 M分 别 为 A的 最 小 与 最 大 特 征 值 ， 则 ， 恒 有1, ,x Ax x A x设 A为 n 阶 对 称 正

37、定 矩 阵 ， m与 M分 别 为 A的 最 小 与 最 大 特 征 值 ， 则 ， 恒 有 , 0nx R x 2 20 ,m x x Ax M x , 0nx R x 2 211 10 ,x x A x xM m 1/M与 1/m分 别 为 A-1的 最 小 与 最 大 特 征 值2 -1, , , , , (1)x y x Ax y A y x y 2 2( ) ,4m M x xmM2,x x max ix x 1 1n iix x 1222 1n iix x 11n ppip ix x 12TAx x Ax 范 数 （ A正 定 ） 椭 球 范 数范 数 范 数 范 数 l1l2lp

38、l范 数 -向 量 范 数 nx R 是 指 与 A相 关 联 并 记 做 的 一 个 非 负数 ， 它 具 有 下 列 性 质 ： 对 于 都 有 ， 而 时 ； 对 于 任 意 ， 都 有 ； ； ；若 还 进 一 步 满 足 ： 则 称 之 为 与 向 量 范 数 相 协 调 （ 相 容 ） 的 方 阵 范 数 . kA k A 0A A B A B AB A B p pAx A x0A 0A 0Ak R p A 设 与 是 上 的 两 个 范 数 ， 若 存 在 ， 使 得 ， 则 称 范 数 与 是 等 价 的 。容 易 证 明 ： 其 中 是 的 最 大 特 征 值 ， 而 是 的

39、 最 小 特 征 值 。 1 2, 0 1 2 , nx Rx x x 2 1 2x x n x 2x x n x 1x x n x 1 2 11 x x xn 12 2n Ax x x 1 A nR n AnR 中 所 有 向 量 范 数 均 等 价 。 Cauchy-Schwarz不 等 式 当 且 仅 当 与 线 性 相 关 时 ， 等 式 成 立 。Tx y x yx y 2, , ,x y x x y y , (2)nx y R 等 式 成 立 当 且 仅 当 x 与 y 线 性 相 关 。 , = Tx y x y2, =x x x 当 且 仅 当 与 线 性 相 关 时 ， 等

40、式 成 立 。Tx y x yx y 1/2 1/2,A x A x y A y正 定 ， 取 取设 A是 正 定 矩 阵 ， 则T A Ax Ay x y当 且 仅 当 与 线 性 相 关 时 ， 等 式 成 立 。1/21/2 1/2 1/2= ,A x A x A x 1/2 1/2 1/2 1/2TA x A y A x A y 1/2 1/2 =TTx A A y| 1/21/2 1/2= TA x A x 1/2= Tx Ax = Ax|A Ax yTx Ay 1/2A x 1/2A yx yCauchy-Schwarz不 等 式 1T A Ax y x y 1A y 设 A是 n

41、阶 正 定 矩 阵 ， 则 等 号 成 立 当 且 仅 当 与 线 性 相 关 。x设 A为 n 阶 对 称 正 定 矩 阵 ， 则 ， 恒 有 等 号 成 立 当 且 仅 当 x 与 线 性 相 关 ;, nx y R 2 -1, , , (1)x y x Ax y A y 1A y 1/2-1y A y， -1= Ay1/2x Ax， = Ax 假 定 p与 q都 是 大 于 1的 实 数 ， 且 满 足 ， 则 ， 有 当 且 仅 当 时 ， 等 式 成 立 。1 1 1p q ,x y R p qx yxy p q p qx y 其 中 p与 q都 是 大 于 1的 实 数 ， 且 满

42、 足 . 1 11 1( ) ( )p qn np qT i ip q i ix y x y x y 1 1 1p q , ( 1)p p px y x y p 设 是 中 的 一 个 向 量 序 列 ， ， 如 果 ， 存 在 正 整 数 K， 使 得 当 时 ， 有 ， 则 称 序 列 收 敛 到 ； 或 称 序 列 以 为 极 限 ， 记 . 按 此 定 义 ， 序 列 若 存 在 极 限 ， 则 该 序 列 的 任 何 子 序 列 有 相同 的 极 限 ， 即 序 列 的 极 限 是 唯 一 的 .设 是 中 的 一 个 向 量 序 列 ， 如 果 存 在 一 个 子 序 列 ， 使

43、得 , 则 称 是 序 列 的 一 个 聚 点 . kx nRnx R 0 k Kkx x xlim kk x x x kx nR jkx lim jkk x x x kx 由 极 限 的 性 质 可 知 ， 如 果 无 穷 序 列 有 界 ， 则 这 个 序 列必 有 聚 点 . 设 是 中 的 一 个 向 量 序 列 ， ， 如 果 ， 存 在 正 整 数 K， 使 得 当 时 ， 有 ， 则 称 序 列 为 Cauchy列 .设 为 Cauchy序 列 ， 则 的 聚 点 必 为 极 限 点 . kx nRnx R 0 ,m l K m lx x kx k nx R kx 第 一 章 ： P8: 1.1 第 二 章 ： P38: 2.1 2.3 2.9- 2.14 2.19 2.20(1,3) 2.28 2.29