贝叶斯公式应用于推广

《贝叶斯公式应用于推广》由会员分享，可在线阅读，更多相关《贝叶斯公式应用于推广（13页珍藏版）》请在装配图网上搜索。

1、彳荻4摩茨PINGDINGSHAN UNIVERSITY毕业论文题目：贝叶斯公式若干应用院 系:专业年级:13级应用 统计学姓 名:田明太学 号:131390121指导教师:杜伟娟2017年04月18日摘要贝叶斯公式是概率论与数理统计这本书中很重要的一部分，在概率论的运算 中也有着不可替代的位置。本文对贝叶斯公式进行了详细深入的探究，并且列举 了一些生活中的实例来说明贝叶斯的运用以及他所适用的生活模型，为了以后我 们更好深入的理解贝叶斯公式，我们必须先要了解全概率公式以及它在实际生活 中的简单运用。简单的贝叶斯公式其实并不能十分满足我们生活中的需求，所以 我们要把贝叶斯公式进行深入的了解，并运

2、用实际的例子来证明贝叶斯公式推广 后的公式在生产生活中所适合的模型相比以前的贝叶斯公式更加广阔。关键词 贝叶斯公式；全概率公式；AbstractThe bayes formula is one important formulas in theory of probability, has a important role in the calculation of probability theory. Carefully analyzed in this paper, the bayes formula, and illustrates his usage and the applicab

3、le scheme, in order to better understand the bayes formula we need to introduce the whole probability formula. In order to solve practical problems, we will be the bayes formula for promotion, promotion after the formula in practical application is illustrated by an example of the applicable model w

4、ider than the original formula.Key words : The bayes formula; Full probability formula; #1前言贝叶斯公式在概率论与数理统计一书中占有很中要的位置，它集中用于计算 不同事件的发生概率,它本质上是乘法公式和加法公式的总体运用。概率论与数 理统计是探索随即状况统计规律的一门现代数学学科并于十几世纪初现。自出现 这一门学科以来，已经开始深入到各个科学领域当中并占有着举足轻重的位置。 从十七世纪到现在很多国家对此公式有了很多方面的研究。长时间以来，由于许多这方面工作人员的积极工作，使得概率论与数理统计 在理论方面有

5、了长足的进展，在实际生活中的应用也更加的宽泛，且促成了大小 不一的许多分支，并在当代统计学中有着不可替代的位置。贝叶斯公式是在1763 年由贝叶斯(Bayes)这位伟大的数学家发现的，它的实质是在事件A已经出现的 情况下，寻求使A出现的原因的概率.这个公式在我们的生活中有很多的应用在论 文中我将会一一介绍。贝叶斯公式可以帮助于人们了解一个结果即事件A出现的最大的可能性。运 用贝叶斯公式我们可以更加简单明了的计算生活中遇到的一些数学问题，它在数 学计算中有着非常宽泛的应用。其本质就是在将各种前提引进的情况下，首先把 所给出的样本空间 分割成若干份，并且可以简单明了的计算出所需结果的概 率，然后加

6、以分析并得出结果。在当今的社会中，伴随着发展的高速前行，市场需求的突飞猛进，领导者不 能只着眼于以前的生产信息，而是应该把过往的生产信息和现在的一同考虑并加 以分析，才能做出个比较全面的决策。而贝叶斯公式的主要用途就是用于处理先 验概率与后验概率，是进行决策的重要工具。贝叶斯公式可以用来解决医学、市场预测、信号估计、等一系列不确定的问 题。本文首先分析了贝叶斯公式的概念，再用贝叶斯公式来解决实际中的一些问 题。概率论与医学的渗透与结合，已经成为现代医学领域的显著特征。利用数学 方法并充分利用好贝叶斯公式及其推广的形式，定量的对医学问题进行相关分 析，使其结论更加具有可信度，更有利于促进对病人的

7、对症施治。利用好贝叶斯 公式可以用来解决医学、经济决策、信息技术等一些列问题中，公式及其推广形 式的正确运用也有助于进一步研究多个随机实验中目标事件及其条件下诱发事件的概率，更有助于把握随机事件之间相互影响关系，为生产实践提供更有价值 的决策信息。灵活使用贝叶斯公式会给我们的解题带来很大方便，而这些推广形 式将进一步拓展贝叶斯公式的适用范围，成为我们解决更复杂问题的有效工具。第一章 贝叶斯公式的简单概述1.1 贝叶斯理论的发展简述大约在三百年前，人们便开始严肃的考虑若不存在确定性时应该怎么进行推 理，James Bernoulli则是第一个构造该问题的人，他当时就意识到在可应用和机 会游戏的演

8、绎逻辑与每日生活中的归纳逻辑之间的不同之处。对他来说，这个未 回答的问题的关键在于前者的机理如何能帮助处理后者的推断问题。英国学者托马斯贝叶斯(Thomas Bayes, 1702一1761)在生前所作的一篇 论文论有关机遇问题的求解中为Bernoulli的问题提供了回答，在文章中他 便提出了著名的贝叶斯公式和一种归纳推理的方法，但是在当时，他的理论成果 并没有受到足够的重视，一直到他去世后他的遗著(An essay towards solving a problem in the doc trine of chances)论有关机遇问题的求解才被理查德普 莱斯(Richard Price)于

9、1763年才被整理发表，其理论价值才被世人认知。后来 在他理论的基础上逐渐形成了贝叶斯学派。时至今日，贝叶斯学派已经与经典学 派一起成为统计学的两大主体学派。贝叶斯学派的基本观点则是：任一未知参数都可以看作随机变量，可用一个 概率分布去描述，而这个分布称则为先验分布。然而这却是经典学派和贝叶斯学 派争论的焦点所在。贝叶斯学派认为，可以把任一未知参数看作随机变量，并且 可以通过利用主观的判断和直觉，提供先验信息。而经典学派只承认利用样本信 息，不承认利用主观的判断和直觉，即不承认利用先验信息。关于未知参数是否 能被看作随机变量在经典学派和贝叶斯学派争论了很长时间，现如今经典学派已 经不反对这一观

10、点，现在争论的焦点是：如何利用不同先验信息合理的确定先验 分布。总体来说，贝叶斯学派的发展经历了以下几个阶段：1736年Thomas Bayes提出了著名的贝叶斯定理，1763年其遗著论有关机 遇问题的求解被他的朋友理查德普莱斯(Richard Price)于1763年才被整理 发表，贝叶斯理论的价值才被世人所认识，贝叶斯理论开始奠基。随后，Laplace 等人作了进一步的工作，目前以他名字命名的定理的现代形式实际上是归功于 Laplace。Laplace本人不仅重新发现了贝叶斯定理，而且还阐述的远比贝叶斯 更加清晰明了，还用它来解决天体力学，医学统计，甚至法律等方面的问题。他 全心全意的赞成

11、用于推断问题的贝叶斯公式。不过遗憾的是，Laplace取得的成 功和他对概率论的发展做出的巨大贡献却并不被当时有势力的欧洲数学家所认 可。之后虽还有一些零星的研究，但由于理论的不太完善和在应用中出现了一些 问题，贝叶斯学派的一些理论长期不被人们所接受。进入到上世纪 50年代，贝叶斯理论便得到了长足的发展，60、70 年代以来， 其发展达到了鼎盛时期。许多专家学者投身于贝叶斯理论的研究和应用推广中 来，并力图从不同的角度对贝叶斯理论进行进一步的探讨和研究。从此便形成了 具有多分支的理论系统。目前被承认的现代贝叶斯统计工具应当归功于Jeffry、 Wald、Savage、Raiffa & Schl

12、aifer、Lindly 及 DeFinetti。他们都曾做过大量 有意义的工作，为建立统一的理论体系以及方法论奠定了基础。贝叶斯理论系统中的其中一个重要分支是贝叶斯动态模型理论，它是英国统 计学家 Harrison 教授与 Steven 教授在帝国化学公司（英国最大的化工产品生产 企业）工作的时候，为了预测突发事件而提出发展起来的一种有名的预测方法。 1976年，Harrison教授与St even教授一起在英国皇家学会上宣读了论文贝叶 斯预测，引起了人们的重视，从此在英美等国，这个方法的理论研究和应用迅 速地开展了起来。1989年，West和Harrison合著了一本贝叶斯预测和动态模 型

13、，这本书全面地论述了这个方法。贝叶斯动态模型及其预测理论具有很广泛 的应用性，例如在通信、控制、人工智能、经济管理、气象预报等领域。国内对贝叶斯理论的研究起步比较晚，初始发展较非常缓慢。张孝令教授曾 在上世纪80年代向Harrison教授学习了此方法，回国后和刘福升教授在这个领 域作了一些开拓性的研究工作，取得了丰硕的成果，对其在国内的发展产生了深 远的影响。对于贝叶斯动态模型及其预测理论的研究主要是针对一个动态线性模 型（简称贝叶斯DLM）研究单变量DLM、多变量DLM以及矩阵变量DLM的预测理论 知识及对贝叶斯决策理论进行探讨。贝叶斯理论系统中的另一个十分重要分支是贝叶斯决策理论。统计决策

14、理论是著名统计学家A.Wald（19021950）在上世纪四十年代建立 起来的，他在其文章统计决策函数中系统、详细的阐述了统计决策理论，统 计决策理论与经典统计学之间的差别主要在于是否涉及后果，经典统计学着重于 推断，从不考虑用在何处或者效益如何，而统计决策理论引入了损失函数，用来 度量效益大小，度量统计推断结果的优劣程度。贝叶斯统计推断是统计决策万法的基础之一，首先通过采样，修改先验的概 率分布，以减少事物的不确定性，并在此基础上制定统计最优决策，因此称这类 决策为贝叶斯决策。贝叶斯统计理论与最优决策的结合，在商业和社会科学中得到了很大的发 展，其次是在物理、化学、生物等学科领域也得到了广泛

15、的应用，如今其概念和 方法在社会许多领域得到了广泛应用，如在工程技术、管理科学、经济决策、系 统运筹、医疗诊断等。贝叶斯决策理论已经如“控制论”、“信息论”一样成为 了现代的信息控制和系统科学中的一个重要分支，并且在实际的有关决策中也发 挥了不可替代的作用。统计学家们将统计决策理论和贝叶斯理论相结合形成了比较系统的贝叶斯决策理论。对贝叶斯决策理论研究的方面，Definetti、Raiffa. Lindly都曾 作过大量有意义的工作，取得了巨大的成就，堪称现代贝叶斯决策分析之父；而 在当今，Smith、Berger则是贝叶斯决策理论的领军人物，其对贝叶斯决策理论 的完善与发展做出了巨大贡献。这篇

16、论文是在导师的直接指导下，也参阅了大量的文献后，在前人研究的基 础上，对贝叶斯公式作出的进一步探讨和研究。第二章 贝叶斯公式与全概率公式的推广概述2.1 贝叶斯公式的证明设B B，B为样本空间Q的一个分割，即BB，,B之间互不相容,n且 B = Qii = 1P / A )=i12,若有 P( A ) 0 ,P(B.) = 0(i 二 1,2,., n)，则iP ( B ) P ( A / B ): 1 2“ii , i 1,2,., n 。工n P ( B ) P ( A / B )jjj i证明由条件概率的定义(条件概率，是指在事件B发生的条件下，求另 外一事件A的概率，我们记为P (A

17、/ B )P (Bi/ A )=晋对上式的分子用乘法公式、分母用全概率公式,P (AB )二 P (B ) P (A / B )iiP(B )P(A/B )iiP (B ) P (A / B ).ii , I = 1,2,., nn工 P (B ) P (A / B )jj结论得证。2.2 贝叶斯公式与全概率公式之间的联系在介绍了贝叶斯公式以后我们还需要介绍一下全概率公式，因为全概率公式与 贝叶斯公式是一组互逆的公式，我们先来看下全概率公式的概念。设B , B ,B为样本空间Q的一个分割，即B , B ,B之间是互不相容 1 2 n 1 2 n的，并且U B,若有P(B) 0-i = 12血,

18、则对任一事件A有ii = 1P (A)二艺 P (B ) P (A I B )iii = 1证明：因为A = A 0 = A (U B ) = U (AB )iii=1i=1且 AB AB , AB 互不相容，所以由可加性得：1,2nP(A) = P(U (AB )=工 P(AB )iii =1i =1再将 P(AB ) = P(B )P(A I B ), i = 1,2,n 代入可得 P(A)=工 P(B )P(AIB )iiiiii=1由证明可知道全概率公式是贝叶斯公式的一种变形，全概率公式与贝叶斯公 式是互逆应用的。它与贝叶斯公式一样在实际生活中也有非常广泛的应用。下面 来探讨下贝叶斯公

19、式在以下几个方面的应用。2.3 贝叶斯公式推广与证明2.3.1贝叶斯公式的推广设当试验的随机过程不少于两个的时候，在影响目标事件的每一个试验过 程中分别建立完备事件组，贝叶斯公式就可以进一步推广.2.3.2贝叶斯公式推广定理设A (i = 12 n)和B( j二1,2, n)是先后两个试验过程中的划分,ijC 为目标事件 . 当P (C) 0, P( A) 0, P (B ) 0, P (AB ) 0, i = 1,2, , n, j = 1,2, , m 时，则有:iii jP(A 餐 P(B IA)P(CI AB )/、ij ii j(1) P( A IC)= 沦,i = 1,2, niP

20、 (C) P(A)P(B I A)P(CI AB )ij ii j(2) P(B I C) = , j = 1,2,mjP (C) P(AB I C) = P(A)P(BI A)P(C AB),i = 1,2,n, j = 1, ,mi jP(C).证明：(1)： P(A I C)=iP (AC)tP(C)m P(AB C) m P(A)P(B I A)P(CI AB )i jij ii j=4= jP(C)P (C)同理可以证明(2)、(3) .2.4 贝叶斯公式推广总结整理文献之后，能把贝叶斯公式归为两种形式，事件型和随机变量型，这是 就样本本身的性质而言的。上述推广结论，是由不同的技巧推

21、广而来的。从公式的条件出发，讨论拓宽 公式应用的面。在经典的贝叶斯公式当中要求事件列是“互不相容”的，这方面 削弱了这一条件给出广义的贝叶斯公式，无论相容与否都可以直接计算。从公式 的形式出发，增加公式的灵活度。例如：在经典的贝叶斯公式中，样本是离散的， 但是实际计算当中，遇到复杂事件的时候，就不太实用了，这时候可以把全概率 公式推广到随机变量的情形。当然，随机变量有可能是离散的，或者是连续的， 也可能是混合型随机变量，所以我们就可以再利用分布律来求解有关问题。从公 式的计算辅助出发，创新的利用公式的推广。用在风险模型的改进、风险计算和 风险过程的分析当中。但是，我们可以发现，随机变量的贝叶斯公式的推广结论， 要明显少于事件型的推广结论。这一方面是，随机过程是一门很深很难的学科， 另一方面，贝叶斯公式还是局限在概率的计算这个问题当中，用于例子的一般计 算，采用事件型就能够完成。不过，随着各个学科的相互渗透，事件型概率虽然已经有这么多的推广形式 值得我们学习和借鉴，但是当遇到实际问题时，还是要对贝叶斯公式形式作一些 新的变化，使之能更好的为我们的计算和研究服务。