朴素贝叶斯

经典三门问题

问题

一种说法(直觉派)

另一种说法(贝叶斯派)

注意P(B)=1, 已经知道路人抽中的就是绿豆

三门问题在网上争端比较大,分为直觉派和贝叶斯派,最后一个程序员出来写程序跑了一遍,发现就是贝叶斯派

朴素贝叶斯的直观理解

在X的条件下分别等于0~9的概率

注意之前我们讲的数据集是8*8的矩阵,然后我们处理矩阵的方式就是讲矩阵排列成一行

我们假设这个像素点的出现是相互独立的(在现实中并不是相互独立的)

那个不太懂的点其实是Dodo讲错了,那里还是累乘的符号,然后64种情况累乘起来就是P(X=x),这是固定的,假设为C

所以求argmax就只用比较分子了

分子的比较涉及参数估计的知识

P(Y=CK)这是按照训练集0~9的个数来计算的,注意维度的区别,有些是像素维度,有些是图片维度

如果训练集中没有0,那么P(Y=CK)=0,就不能当分母了

贝叶斯估计

弥补前面分母为0的缺陷

后验概率最大化(期望风险最小化)

下节预告