阿壮博客阿壮博客阿壮博客

贝叶斯<span> 贝叶斯网络

贝叶斯(约1701-1761)Thomas Bayes,英国数学家。约1701年出生于伦敦,做过神甫。1742年成为英国皇家学会会员。1761年4月7日逝世。贝叶斯在数学方面主要研究概率论。他首先将归纳推理法用于概率论基础理论,并创立了贝叶斯统计理论,对于统计决策函数、统计推断、统计的估算等做出了贡献。他死后,理查德·普莱斯(Richard Price)于1763年将他的着作《机会问题的解法》(An essay towards solving a problem in the doctrine of chances)寄给了英国皇家学会,对于现代概率论和数理统计产生了重要的影响。贝叶斯的另一着作《机会的学说概论》发表于1758年。

贝叶斯所采用的许多术语被沿用至今。

中文名:托马斯·贝叶斯

外文名:Thomas Bayes

国籍:

英国

出生地:英国

出生日期:

1701年月日

逝世日期:

职业:数学家,统计学家

代表作品:An essay towards solving a problem in the doctrine of chances

性别:男

出生年月:1702年

理论概述

贝叶斯决策理论是主观贝叶斯派归纳理论的重要组成部分。

贝叶斯决策就是在不完全情报下,对部分未知的状态用主观概率估计,然后用贝叶斯公式对发生概率进行修正,最后再利用期望值和修正概率做出最优决策。

贝叶斯决策理论方法是统计模型决策中的一个基本方法,其基本思想是:

1.已知类条件概率密度参数表达式和先验概率。

2.利用贝叶斯公式转换成后验概率。

3.根据后验概率大小进行决策分类。

他对统计推理的主要贡献是使用了"逆概率"这个概念,并把它作为一种普遍的推理方法提出来。贝叶斯定理原本是概率论中的一个定理,这一定理可用一个数学公式来表达,这个公式就是著名的贝叶斯公式。贝叶斯公式是他在1763年提出来的:

假定B1,B2,……是某个过程的若干可能的前提,则P(Bi)是人们事先对各前提条件出现可能性大小的估计,称之为先验概率。如果这个过程得到了一个结果A,那么贝叶斯公式提供了我们根据A的出现而对前提条件做出新评价的方法。P(Bi∣A)即是对以A为前提下Bi的出现概率的重新认识,称P(Bi∣A)为后验概率。经过多年的发展与完善,贝叶斯公式以及由此发展起来的一整套理论与方法,已经成为概率统计中的一个冠以“贝叶斯”名字的学派,在自然科学及国民经济的许多领域中有着广泛应用。

理论分析分析

(1)如果我们已知被分类类别概率分布的形式和已经标记类别的训练样本集合,那我们就需要从训练样本集合中来估计概率分布的参数。在现实世界中有时会出现这种情况。(如已知为正态分布了,根据标记好类别的样本来估计参数,常见的是极大似然率和贝叶斯参数估计方法)

(2)如果我们不知道任何有关被分类类别概率分布的知识,已知已经标记类别的训练样本集合和判别式函数的形式,那我们就需要从训练样本集合中来估计判别式函数的参数。在现实世界中有时会出现这种情况。(如已知判别式函数为线性或二次的,那么就要根据训练样本来估计判别式的参数,常见的是线性判别式和神经网络)

(3)如果我们既不知道任何有关被分类类别概率分布的知识,也不知道判别式函数的形式,只有已经标记类别的训练样本集合。

那我们就需要从训练样本集合中来估计概率分布函数的参数。在现实世界中经常出现这种情况。(如首先要估计是什么分布,再估计参数。常见的是非参数估计)

(4)只有没有标记类别的训练样本集合。这是经常发生的情形。我们需要对训练样本集合进行聚类,从而估计它们概率分布的参数。(这是无监督的学习)

(5)如果我们已知被分类类别的概率分布,那么,我们不需要训练样本集合,利用贝叶斯决策理论就可以设计最优分类器。但是,在现实世界中从没有出现过这种情况。这里是贝叶斯决策理论常用的地方。

问题

问题:假设我们将根据特征矢量x提供的证据来分类某个物体,那么我们进行分类的标准是什么?decidewj,if(p(wj|x)>p(wi|x))(i不等于j)应用贝叶斯展开后可以得到p(x|wj)p(wj)>p(x|wi)p(wi)即或然率p(x|wj)/p(x|wi)>p(wi)/p(wj),决策规则就是似然率测试规则。

结论

结论:对于任何给定问题,可以通过似然率测试决策规则得到最小的错误概率。此错误概率称为贝叶斯错误率,且是所有分类器中可以得到的最好结果。最小化错误概率的决策规则就是最大化后验概率判据。

决策判据

贝叶斯决策理论方法是统计模式识别中的一个基本方法。贝叶斯决策判据既考虑了各类参考总体出现的概率大小,又考虑了因误判造成的损失大小,判别能力强。贝叶斯方法更适用于下列场合:

(1)样本(子样)的数量(容量)不充分大,因而大子样统计理论不适宜的场合。

(2)试验具有继承性,反映在统计学上就是要具有在试验之前已有先验信息的场合。用这种方法进行分类时要求两点:第一,要决策分类的参考总体的类别数是一定的。例如两类参考总体(正常状态Dl和异常状态D2),或L类参考总体D1,D2,…,DL(如良好、满意、可以、不满意、不允许、……)。

第二,各类参考总体的概率分布是已知的,即每一类参考总体出现的先验概率P(Di)以及各类概率密度函数P(x/Di)是已知的。显然,0≤P(Di)≤1,(i=l,2,…,L),∑P(Di)=1。对于两类故障诊断问题,就相当于在识别前已知正常状态D1的概率P(D1)和异常状态0:的概率P(D2),它们是由先验知识确定的状态先验概率。如果不做进一步的仔细观测,仅依靠先验概率去作决策,那么就应给出下列的决策规则:若P(D1)>P(D2),则做出状态属于D1类的决策;反之,则做出状态属于D2类的决策。例如,某设备在365天中,有故障是少见的,无故障是经常的,有故障的概率远小于无故障的概率。因此,若无特别,j明显的异常状况,就应判断为无故障。显然,这样做对某一实际的待检状态根本达不到诊断的目的,这是由于只利用先验概率提供的分类信息太少了。为此,我们还要对系统状态进行状态检测,分析所观测到的信息。

主要应用

概率论是逻辑严谨推理性强的一门数学分科,贝叶斯公式是概率论中较为重要的公式,是一种建立在概率和统计理论基础上的数据分析和辅助决策工具,以其坚实的理论基础、自然的表示方式、灵活的推理能力和方便的决策机制受到越来越多研究学者的重视。目前,贝叶斯网络已经广泛应用在医学、信息传递、生产、侦破案件几个方面。

参考资料

1.贝叶斯和贝叶斯公式·一点资讯

1.文章《贝叶斯<span> 贝叶斯网络》援引自互联网,仅供学习和研究使用,内容仅代表作者本人观点,与本网站无关,侵删举报等反馈请点击此处

2.文章《贝叶斯<span> 贝叶斯网络》仅供读者参考,本网站未对该内容进行证实,对其原创性、真实性、完整性、及时性不作任何保证。

3.文章转载时请保留本站内容来源地址,https://100248.com/wen/464893.html

相关推荐

奋进新时代踏上新征程作文 启航新征程,奋进新时代作文

2022年奋进新时代踏上新征程作文9篇从作文的写作命题来分,作文可以分为命题作文和非命题作文。命题作文,一般是指出题者给出一个既定的题目,要

有趣的万圣节活动作文 有趣的活动作文500字以上

有趣的万圣节活动作文5篇作为一名合格的学生,对于自己的万圣节活动内容,可以书写作文进行描写记录。相信,很多朋友都对写作文感到非常苦恼吧,下面

万圣节快乐优质作文 快乐的万圣节作文

万圣节快乐优质作文7篇关于万圣节的到来,对于这一天的节日文化,可以书写作文记录自己的个人感想。那么,写作文时还应注意哪些问题呢?下面是由小编

万圣节活动推文怎么写 校园活动推文怎么写

万圣节活动推文怎么写5篇作为一名学生,对于自己的万圣节活动,应该书写作文记录下来。作文的事项有许多,那么,你确定会写吗?下面是由小编给大家带

万圣节的节日作文 万圣节是什么节日?

万圣节的节日作文7篇对于万圣节的节日文化,为了进一步进行了解,可以结合实际书写一篇作文。相信,很多朋友都对写作文感到非常苦恼吧,下面是由小编

有趣的万圣节作文评析 有趣的万圣节作文400字

有趣的万圣节作文评析5篇对于万圣节活动的开展,为了能够深入了解万圣节文化,因此需要书写一篇万圣节话题作文。那么,写作文时还应注意哪些问题呢?

感恩节的来历和意义简短 感恩节的来历和意义英文

感恩节的来历和意义简短7篇为了记录感恩节的活动经历,可以选择书写作文的方式,以此进行认识。那么,你有了解过作文吗?下面是由小编给大家带来的感

万圣节主题文章内容 文章内容切合主题

万圣节主题文章内容7篇对于万圣节的到来,每一个人都有自己的庆祝方式,为了了解这个节日的关联,可以书写作文进行探索。那么,写作文时还应注意哪些