随机算法介绍学习教案

《随机算法介绍学习教案》由会员分享，可在线阅读，更多相关《随机算法介绍学习教案（57页珍藏版）》请在装配图网上搜索。

1、会计学1随机算法随机算法(sun f)介绍介绍第一页，共57页。2第2页/共57页第二页，共57页。3第3页/共57页第三页，共57页。4第4页/共57页第四页，共57页。5(1)(1)(1)(, )(, )(, )EtE XtkH XtX(1) 给定一个给定一个(y )初始状态初始状态X(1)，令，令t=1，初始化直方图函数，初始化直方图函数(2) H(E, t)，设置温度，设置温度T，计算，计算E(X(1),t)，令最优解，令最优解(3) E= E(X(1),t)，计算，计算 ；(2) 更新当前状态更新当前状态X(1)，产生新的状态，产生新的状态X（2）Generate(X(1)；(3)

2、计算计算 和和 ，令，令(2)(, )E Xt(2)( (), )H EtX(2)(2)(2)(, )(, )(, )EtE XtkH XtX(4) 如果如果 ，则接受，则接受X(2)，判断，判断E(X(2)E?(2)(1)(, )(, )E XtE Xt第5页/共57页第五页，共57页。6(1)(2)(, )(, )/BEtEtTkXX第6页/共57页第六页，共57页。7的状态，就用某一确定性的算法（如梯度法）进一步搜索该状态附近(fjn)目标函数值更低的状态。n3）将退温机制加入算法n4）增加补充搜索过程：即以搜索到的最优解为初始状态，再次执行势能曲面变平法，或进行局部搜索。第7页/共57

3、页第七页，共57页。8第8页/共57页第八页，共57页。9更低的状态。BF算法是一种高性能的全局优化方法。第9页/共57页第九页，共57页。10面上，使得所有面上，使得所有M个小圆形成的个小圆形成的包络圆包络圆(即圆形闭区域即圆形闭区域)的面积最的面积最小？小？11:1M22ijijij22iiMiMinimizeRSubjecttoxxyyRRxyRRi, jM第10页/共57页第十页，共57页。11第11页/共57页第十一页，共57页。12第12页/共57页第十二页，共57页。13第13页/共57页第十三页，共57页。14第14页/共57页第十四页，共57页。15n这样，问题1转化为优化问

4、题： min E(X)，即要求求状态X*使得E(X*)=0。1=11( )MM2i,jijiE Xd+= +=邋, i jd第15页/共57页第十五页，共57页。16第16页/共57页第十六页，共57页。17第17页/共57页第十七页，共57页。18第18页/共57页第十八页，共57页。19第19页/共57页第十九页，共57页。20第20页/共57页第二十页，共57页。21第21页/共57页第二十一页，共57页。22第22页/共57页第二十二页，共57页。23第23页/共57页第二十三页，共57页。24第24页/共57页第二十四页，共57页。25第25页/共57页第二十五页，共57页。26第2

5、6页/共57页第二十六页，共57页。27第27页/共57页第二十七页，共57页。28第28页/共57页第二十八页，共57页。29第29页/共57页第二十九页，共57页。30第30页/共57页第三十页，共57页。31问题的最优解或满意解。第31页/共57页第三十一页，共57页。32n（4）按照交叉概率pc执行交叉操作。如random0,1pcn（5）按照变异概率pm执行变异操作。如 random0,1pmn（6）返回步骤（2）。第32页/共57页第三十二页，共57页。33第33页/共57页第三十三页，共57页。34第34页/共57页第三十四页，共57页。3512,niiiiiiuuuuuu第35

6、页/共57页第三十五页，共57页。361x2x1x2x第36页/共57页第三十六页，共57页。37第37页/共57页第三十七页，共57页。38第38页/共57页第三十八页，共57页。39第39页/共57页第三十九页，共57页。40第40页/共57页第四十页，共57页。411122(,),(,),(,),(,)ppPPX dX dXdXd10(1)TWXb0,10,1TppTppWbdXWbdX 当当式中，X为输入(shr)向量，W为权值向量，b为偏置，则有第41页/共57页第四十一页，共57页。42最优超平面支持(zhch)向量第42页/共57页第四十二页，共57页。43000TXWb000T

7、XWbrW00001,11,11,2,(2)TppTppWbdXpPWbdX 当当第43页/共57页第四十三页，共57页。44NoImage()1,1,2,(3)pTpbpPdW X0001,1,W()1,1,WsssssdXgXrWdX 在最优超平面的正面在最优超平面的负面第44页/共57页第四十四页，共57页。4502(4)W第45页/共57页第四十五页，共57页。46采用Lagrange系数方法(fngf)解决此约束最优化问题，引入Lagrange函数211min()(5)22. .()11,2,TpTpWWW WstdW XbpP11(, , )()1(6)2min(, , )PTpT

8、pppL W bW WdW XbL W b求第46页/共57页第四十六页，共57页。47L(, ,)L(, ,)L(, ,)000W bW bW bWb令得：11(7)0()1()PppppPpppTppWd XdW Xb d 支持向量将（6）式展开(zhn ki)：111111(, , )21212PPPTTpppppppppPTTppPTppL W bW WWd Xd bW WW WW W 第47页/共57页第四十七页，共57页。481111max( )()2PPPp TjpjppjppjQXXd d 设Q（ )的最优解为010200,pP则最优超平面的权向量(xingling)为：000

9、1PpppppppWd Xd X所有支持向量最优分类判断函数为：001()sgn()PppTppf XdXXb第48页/共57页第四十八页，共57页。49第49页/共57页第四十九页，共57页。501()PppppWXd第50页/共57页第五十页，共57页。5101()()0PpTpoppdXXb最优分类(fn li)判别函数为001( )sgn() ( )PpTpppf XdXXb第51页/共57页第五十一页，共57页。5210, 0(0),1,2,PpppppdCpP或下求解使目标函数T01111( )()()2PPPpjpjppjppjQXXd d p最大化的。第52页/共57页第五十二

10、页，共57页。53001()pppppWXd（4）对于分类(fn li)模式X，计算分类(fn li)判别函数根据f(X)为1或-1，决定X的类别归属。001()sgn()()PpTpppf XdXXb第53页/共57页第五十三页，共57页。54112233441111X,1 , X,1 , X,1 , X,11111dddd 如图：21X2-1-2-2 -1 x1 1 2(-1,1)(1,1)(-1,-1)(1,-1)第54页/共57页第五十四页，共57页。5522121212()1,2 ,2,2,TXxxx xxx选择(xunz)映射函数10-1-2-2 -1 0 1 2(1,2,2,2,1,1)(1,2,2,2,1,1)(1,2,2,2,1,1)(1,2,2,2,1,1)2122x x212x可将二维训练样本映射到一个(y )六维特征空间，这个六维空间在平面上的投影如下图。(-1, -1)(1, 1)(-1, 1)(1, -1)第55页/共57页第五十五页，共57页。56最优超平面为X1X20。（推导(tudo)过程略）222112212()1,2,2 ,2TXxx xxxx注：也可选择映射函数第56页/共57页第五十六页，共57页。57感谢您的观看感谢您的观看(gunkn)！第57页/共57页第五十七页，共57页。