朴素贝叶斯:观察变量的异构 CPD

     2023-03-13     94

关键词:

【中文标题】朴素贝叶斯:观察变量的异构 CPD【英文标题】:Naive Bayes: Heterogeneous CPDs for observation variables 【发布时间】:2015-04-22 08:27:14 【问题描述】:

我正在使用一个朴素贝叶斯模型进行二元分类,并结合使用离散变量和连续变量。我的问题是,我可以对连续和离散观察变量使用不同的条件概率分布 (CPD) 函数吗? 例如,我对连续变量使用高斯 CPD,对离散变量使用确定性 CPD?

谢谢

【问题讨论】:

是的。在公式的推导中没有假设 cpd 都是一样的。至于结合连续和离散,符号的传统滥用是假装概率密度是概率;这可以通过假设每个 p(x | C) 旁边都有一个 dx 来证明。 【参考方案1】:

是的,在同一模型中混合连续变量和离散变量是正常的。请考虑以下示例。

假设我有两个随机变量:

T - 今天的温度 D - 星期几

注意 T 是连续的,D 是离散的。假设我想预测 John 是否会去海滩,由二进制变量 B 表示。那么我可以如下进行推理,假设 T 和 D 在给定 B 的情况下是条件独立的。

           p(T|B) • p(D|B) • p(B)
p(B|T,D) = ━━━━━━━━━━━━ ∝ p(T|B) • p(D|B) • p(B)
                p(T) • p(D)

p(T|B) 可以是高斯分布,p(D|B) 可以是离散分布,p(B) 可以是关于约翰多久去海滩的离散先验。

【讨论】:

谢谢蒂莫西。这回答了我的问题!

朴素贝叶斯对训练观察的数量敏感吗?

】朴素贝叶斯对训练观察的数量敏感吗?【英文标题】:IsNaiveBayessensitivetothenumberoftrainingobservations?【发布时间】:2017-08-0502:01:58【问题描述】:我正在使用Swift(即使我的问题不是关于语言)和Python来测试我的机器学习逻辑。我... 查看详情

朴素贝叶斯

...不能完全刻画数据,并且每个模型都有其适用范围,比如朴素贝叶斯对于文本分类效果好。二、贝叶斯定理贝叶斯定 查看详情

三种常用的朴素贝叶斯实现算法——高斯朴素贝叶斯伯努利朴素贝叶斯多项式朴素贝叶斯

朴素贝叶斯在机器学习中,朴素贝叶斯分类器是一系列以假设特征之间强(朴素)独立下运用贝叶斯定理为基础的简单概率分类器。朴素贝叶斯算法NaiveBayes定义中有两个关键定义:特征之间强假设独立和贝叶斯定理.这... 查看详情

MATLAB:具有单变量高斯的朴素贝叶斯

】MATLAB:具有单变量高斯的朴素贝叶斯【英文标题】:MATLAB:NaiveBayeswithUnivariateGaussian【发布时间】:2012-09-2422:03:24【问题描述】:我正在尝试使用UCI机器学习团队发布的数据集来实现朴素贝叶斯分类器。我是机器学习的新手,并... 查看详情

贝叶斯朴素贝叶斯及调用spark官网mllibnaviebayes示例

贝叶斯法则 机器学习的任务:在给定训练数据D时,确定假设空间H中的最佳假设。 最佳假设:一种方法是把它定义为在给定数据D以及H中不同假设的先验概率的有关知识下的最可能假设 贝叶斯理论提供了一种计算假... 查看详情

文本类型自变量到数字类型火花朴素贝叶斯

】文本类型自变量到数字类型火花朴素贝叶斯【英文标题】:texttypeindependentvariabletonumerictypesparknaivebayes【发布时间】:2016-10-1820:56:09【问题描述】:我对具有数字和非数字特征的朴素贝叶斯持怀疑态度。就像我想对数据进行分... 查看详情

朴素贝叶斯(代码片段)

...联系与区别。简述什么是监督学习与无监督学习。 2.朴素贝叶斯分类算法实例利用关于心脏情患者的临床数据集,建立朴素贝叶斯分类模型。有六个分类变量(分类因子):性别,年龄、KILLP评分、饮酒、吸烟、住院天数目标分... 查看详情

Perl / Moose 中的朴素贝叶斯计算

】Perl/Moose中的朴素贝叶斯计算【英文标题】:NaiveBayesComputationinPerl/Moose【发布时间】:2012-12-0602:25:54【问题描述】:这是我编写的一些代码,用于使用朴素贝叶斯分类器计算关于某些观察到的特征的标签概率。这是为了计算朴... 查看详情

朴素贝叶斯和逻辑回归的假设

】朴素贝叶斯和逻辑回归的假设【英文标题】:AssumptionsofNaiveBayesandLogisticRegression【发布时间】:2020-03-2619:07:39【问题描述】:我试图了解朴素贝叶斯和逻辑回归所需假设的差异。据我所知,朴素贝叶斯和逻辑回归都应该具有相... 查看详情

从朴素贝叶斯分类器到贝叶斯网络(下)

书接上文:从朴素贝叶斯分类器到贝叶斯网络(上)三、贝叶斯网络贝叶斯网络(BayesianNetwork)是一种用于表示变量间依赖关系的数据结构。有时它又被称为信念网络(BeliefNetwork)或概率网络(ProbabilityNetwork)。在统计学习领... 查看详情

大数据:sparkmlibnaivebayes朴素贝叶斯分类之多元朴素贝叶斯源码分析(代码片段)

1.什么是朴素贝叶斯朴素贝叶斯是一种构建分类器,该分类器基于一个理论:所有朴素贝叶斯分类器都假定样本每个特征与其他特征都不相关2.朴素贝叶斯概率模型概率模型分类器是一个条件概率模型:(独立的类... 查看详情

具有二进制数据的朴素贝叶斯分类器

】具有二进制数据的朴素贝叶斯分类器【英文标题】:Naivebayesclassifierwithbinarydata【发布时间】:2016-08-0812:28:35【问题描述】:我熟悉对具有连续和分类输入且类变量为二进制的朴素贝叶斯分类器的理解。但是它如何用于二进制... 查看详情

朴素贝叶斯(naivebayes)

朴素贝叶斯算法是基于贝叶斯定理的算法,贝叶斯定理如下:[P(Y|X)=frac{P(X,Y)}{P(X)}= frac{P(Y)cdotP(X|Y)}{P(X)}]朴素贝叶斯是这样执行的,假设$X$为数据的特征其中每一维度均可看做一个随机变量,即$X_1=x_1,X_2=x_2,...,X_n=x_n$,$Y=y_1,...... 查看详情

朴素贝叶斯 2 类分类,下标越界

】朴素贝叶斯2类分类,下标越界【英文标题】:NaiveBayes2-classclassification,subscriptoutofbounds【发布时间】:2018-10-1717:46:33【问题描述】:有两个数据框:trainReady(288obs.)和testReady(112obs.)。这些数据帧包含55个属性(54个连续属性和1个... 查看详情

朴素贝叶斯算法

朴素贝叶斯法的学习与分类基本方法设输入空间为n维向量的集合,输出空间为类标记集合=c1……ck。输入特征向量x和输出类标记y分属于这两个集合。X是输入空间上的随机变量,Y是输出空间上的随机变量。P(X,Y)是X和Y... 查看详情

分类与监督学习,朴素贝叶斯分类算法

...联系与区别。简述什么是监督学习与无监督学习。 2.朴素贝叶斯分类算法实例利用关于心脏情患者的临床数据集,建立朴素贝叶斯分类模型。有六个分类变量(分类因子):性别,年龄、KILLP评分、饮酒、吸烟、住院天数目标分... 查看详情

朴素贝叶斯分类算法

之前有次考试考的是手工计算朴素贝叶斯的分类。当时没答对,后来搞明白了,不久又忘得差不多了。所以写个例子在这儿记一下。先推导一下贝叶斯公式:假定我们观察到两个事件都发生了,记做P(AB),那么我们既可以认为先... 查看详情

数据挖掘十大经典算法之朴素贝叶斯

参考技术A朴素贝叶斯,它是一种简单但极为强大的预测建模算法。之所以称为朴素贝叶斯,**是因为它假设每个输入变量是独立的。**这个假设很硬,现实生活中根本不满足,但是这项技术对于绝大部分的复杂问题仍然非常有效... 查看详情