《计算方法》PPT课件.ppt

《《计算方法》PPT课件.ppt》由会员分享，可在线阅读，更多相关《《计算方法》PPT课件.ppt（50页珍藏版）》请在装配图网上搜索。

1、Chapter 6,非线性拟合初步,第六章 非线性拟合问题,6.1 问题的提出,多项式最小二乘拟合：,模型：y = a + b x + g x2，测量数据：(xi, yi), i = 1, 2, , m,记偏差平方和：,令：,得线性“法方程”组：,已证明这个关于 a、b、g 的线性方程组有唯一解。,第六章 非线性拟合问题,可以转化为线性问题的拟合模型,v = a + b u,第六章 非线性拟合问题,“非线性” 问题,但是在许多情况下，拟合模型过于复杂。直接采用最小二乘法，“法方程组” (p.90, 4.56式) 可能是不可解的，或者是没有相应的解析表达式的。,例如，下面二式形似简单，但还是不能

2、用“最小二乘法”计算模型参数 a、b、g：,以较简单的第二式为例 ,第六章 非线性拟合问题,“非线性” 的法方程,这些法方程不是线性方程，不能“分离”参数。 当然，还有更复杂的模型。,第六章 非线性拟合问题,例1 S形生长模型,许多过程的特征量随时间呈S形变化。例如：反应过程中的产物浓度、相变过程中新相的含量、植物的生长量、市场某产品的销售量等与时间的关系都为S形曲线。 S形生长反映了一个动力学过程中“孕育期”、“生长期”和“饱和期”的发展规律，是材料研究中经常涉及到的模型。,第六章 非线性拟合问题,例1 (续) S形生长模型实例,第六章 非线性拟合问题,例1 (续) S形生长模型实例,第六章

3、 非线性拟合问题,例1 S形生长的理论模型,S形生长理论模型有许多，例如：,问题： “法方程组”是非线性的！,第六章 非线性拟合问题,例2 液体表面张力计算问题,液滴子午面轮廓线服从微分方程：,(1),其中：,任务：测量轮廓线坐标(x, y)，通过对方程 (1) 的拟合计算，获得参数 A 、B。,问题：拟合模型为复杂的非线性微分方程不能获得最小二乘“法方程组”的解析式,第六章 非线性拟合问题,例3 Seebeck系数测量数据的拟合问题,有关载流子输运特性的固体理论,在一定的简化假设下，Seebeck 系数a 可表达为：,其中：,k, e Boltzmann 常数，电子电荷常数,x 简约 Fer

4、mi 能级,s 载流子散射系数,F Fermi 积分,第六章 非线性拟合问题,例3 (续),含Fermi积分的拟合模型,任务：用理论模型,拟合实验测量数据，从而计算模型参数：s、EF,问题： Fermi 积分中包含模型参数 Fermi 积分无解析解 不能给出最小二乘“法方程组”,第六章 非线性拟合问题,多晶体材料中晶粒尺寸大小不一。为了降低系统总的界面能，大晶粒长大、小晶粒缩小并趋于消失，从而使平均晶粒尺寸上升。,晶粒的晶体学取向对晶粒长大有重要作用。如果材料中存在两种 (或更多) 具有不同取向特征的晶粒组，则它们将具有不同的长大特征。,例4 晶粒长大过程中的拟合问题,第六章 非线性拟合问题,

5、例4 (续),晶粒长大理论模型,表述各取向组不同大小晶粒的尺寸随时间的变化规律,H组中半径为R的晶粒的长大速度：,其中：,第六章 非线性拟合问题,例4 (续),晶粒长大实验的结果,实验结果：经不同时间退火后 A、B 两组晶粒的尺寸分布、相对含量,由实验结果计算：经不同时间退火后 A、B 两组晶粒的平均晶粒尺寸、总的平均晶粒尺寸,第六章 非线性拟合问题,例4 (续),晶粒长大实验的拟合,问题： 模型参数与考察对象 ( ) 之间关系是“间接”的 (通过 dR/dt 相关联),第六章 非线性拟合问题,简单最小二乘法的局限,p.90 中部 若j(x) 能表示成一组已知函数的线性组合， 则相应的法方程组

6、必是线性方程组。,p.91 上部 当j0(x)、j1(x) jn(x) 线性无关时，存在唯一解,但是：,非线性、无解析解微分方程、积分方程、未知复杂函数关系、间接相关关系、涉及数值计算过程的函数、,实际工作中经常碰到，应该掌握求解方法 书不多，更需要学习 (书上有的，可以自学),第六章 非线性拟合问题,本章主要参考书,周纪芗 编 回归分析 华东师范大学出版社 1993年第一版 浙大图书馆 O212.1 / Z2.1,王玲玲，周纪芗 编 常用统计方法 华东师范大学出版社 1994年第一版 浙大图书馆 O212 / W8,第六章 非线性拟合问题,6.2 非线性拟合基本计算方法,最小二乘法的本质：,

7、有一组实验数据 ( xi , yi ), ( i = 1, 2, , m ) 有一个含待定参数的理论模型 f (x, a1, a2, an) 寻求使偏差平方和 最小的那组参数,对线性问题：,解“法方程组”,非线性复杂模型 ?,第六章 非线性拟合问题,6.2.1 基本思路,已经学过许多“找”的方法。,例如：,牛顿迭代法,对非线性方程： f(x) = 0,本章前面讨论的“法方程组” 本质上就是一组非线性方程,第六章 非线性拟合问题,牛顿迭代法的“思路”,将一个(复杂的)连续函数 f(x)，在某个“估计”点 x0处展开:,取展开式的前两项近似表达 f(x),f (x) f (x0) + f (x0)

8、Dx,用切线近似，将 f(x) “线性化”。,用线性方程 f (x0) + f (x0)Dx = 0 的 解Dx “修正” 原始估计值 x0，得到 新的近似值 x1 = x0 + Dx 。 如此重 复，逐步逼近非线性函数的解。,第六章 非线性拟合问题,牛顿迭代法给出的启示,对于一个任意复杂的非线性方程 f(x) 通过级数展开获得线性方程(切线方程) g(x) 用线性方程 g(x)的解逐步逼近 f(x)的解,举一反三,对非线性拟合模型模型 f (x, a1, a2, an) 将最小二乘的非线性“法方程”展开为线性的近似方程 用近似方程的解逐步逼近模型参数,第六章 非线性拟合问题,6.2.2 一元

9、非线性拟合问题,物理模型：,其中 a 是待定的模型参数,实验数据：( xi , yi ), ( i = 1, 2, , m ),最小二乘拟合,找模型参数 ，使模型计算值 与实验数据之间的偏差平方和达到最小，即取：,要解决的问题,太复杂， 难解。,第六章 非线性拟合问题,复杂模型的线性化近似,记：,将 j(a) 在参数近似估计值 处展开为线性函数：,由：j(a) = 0，得关于 Da 的线性方程：,从中解出 Da，修正参数近似估计值,第六章 非线性拟合问题,线性化近似的几何意义,最小二乘目标方程：,j,忽略高次项后：,第六章 非线性拟合问题,一元非线性拟合的计算过程,第六章 非线性拟合问题,6.

10、2.3 非线性拟合中的收敛问题,最小二乘目标方程：,j (a)连续 j(a) 有单根,需要对参数修正量Da进行控制干预,第六章 非线性拟合问题,非线性拟合过程中对参数修正量Da 的干预,拟合发散的主要原因之一： Da 太大，造成“修正过度”,原则： 适当减小Da ，宁可慢一点,目的： 降低对原始估计值的要求 提高收敛性,方法： 引入“松弛因子” t ，(0 t 1)，并取：,第六章 非线性拟合问题,松弛因子的选取方法,定义：,1、牛顿下山法,取 t = 1, 1/2, 1/4, 1/8, ，直至 e(a+tDa) e(a)，或 t et，其中et 是某个事先给定的“下山因子下界”，以 a +

11、tDa 作为下一步计算的参数估计值。,2、黄金分割法,在 -0.5 1 范围内，按黄金分割方法寻找使 e(a+tDa) 最小的 t 值，然后以a + tDa 作为下一步计算的参数估计值。,第六章 非线性拟合问题,附：黄金分割法,假设使“单峰”函数e(a+tDa) 最小的 t*值在 a b 之间。,先比较 t1、t2两点的e值，若e(t1) e(t2)，说明t* 在a t2之间，,在此区间内再找一点t3，继续比较 t1、t3两点的e值。,如果这次还是e(t1)较小，则下一步在t3 t2之间寻找t*值，反之在a t1之间寻找t*值。从而逐步缩小寻找t*值的区间。,希望：每次区间缩小的比例相同，所选

12、取的点是对称的。 取原始区间a,b长度为1，则有：,从中解得：,第六章 非线性拟合问题,附：黄金分割法,t 取值范围,若 0.382 处误差小于 0.618 处，在 0 0.618 之间分割,若 0.618 处误差小于 0.382 处，在 0.382 1 之间分割,继续比较 (0.382) 和 (0.618) 两点的误差大小，以较大的点作为下一轮黄金分割的一个端点，直到两端点之间的距离小于某个给定值,第六章 非线性拟合问题,6.2.4 多元非线性拟合,物理模型： ，其中 a1, a2, , an 是 n 个待定的模型参数,实验数据：( xi , yi ), ( i = 1, 2, , m )，

13、( m n ),，( k = 1, 2, , n ),第六章 非线性拟合问题,多元非线性拟合函数的线性化,其中：,第六章 非线性拟合问题,6.2.5 非线性拟合应用实例,第六章 非线性拟合问题,1、偏导数公式,模型：,偏导数：,第六章 非线性拟合问题,2、“法方程”公式,第六章 非线性拟合问题,第六章 非线性拟合问题,4、数值计算,初始参数估计值：a = 1、b = 3700、g = 300,计算得到法方程组：,第六章 非线性拟合问题,5、参数修正,第六章 非线性拟合问题,6、非线性拟合计算结果,第六章 非线性拟合问题,6.2.6 复杂的非线性问题,第六章 非线性拟合问题,三维颗粒尺寸的获得,

14、第六章 非线性拟合问题,多面体几何模型的概率分布,第六章 非线性拟合问题,三维颗粒尺寸分布的计算原理,第六章 非线性拟合问题,从平面测量结果到三维颗粒尺寸分布的换算,第六章 非线性拟合问题,偏导数的数值计算,由于没有解析表达，需要用数值方法计算偏导数。 方法：参数变化一微小量，计算 的变化量。,第六章 非线性拟合问题,三维颗粒尺寸分布计算方法,第六章 非线性拟合问题,三维颗粒尺寸分布计算结果的比较,第六章 非线性拟合问题,【习题 6.1】,已知：,请编写用黄金分割法计算函数极小值的程序，并计算 j(a) 在 区间(1 a 3)内的极小值，终止精度：0.05,习题,第六章 非线性拟合问题,【习题 6.2】,考虑非线性模型：,已有测量结果如右表，若取参数初始估计值： a (0) = 0.5 b (0) = 0.5 g (0) = 0.1,请写出计算参数一次近似值的线性化方程组。,