C#编程实现朴素贝叶斯算法下的情感分析 C#编程实现 这篇文章做了什么 不先介绍点基础? 朴素贝叶斯如何实现情感分析
C#编程实现
这篇文章做了什么
不先介绍点基础?
朴素贝叶斯,真的很朴素
情感分析是啥
朴素贝叶斯如何实现情感分析
1.前期准备:
-
做好正负面标记的文本作为训练集
-
正负面词库
2.针对文本实现:
-
分词,推荐使用Jieba分词引擎,无论是python, C#, 还是R语言上都有非常优秀的第三方库,而且可以导入词库
-
获取正负面词,此时需要用到正负面词库,即通过正负面词库的匹配,筛选出文本中能够反映情感的词。
-
进入训练集中匹配,获取每个正面或者负面的词在两个训练集的词频,如“好吃”这个词在正面训练集里出现频率为0.1%,而在负面训练集里频率为0.001%。
-
通过贝叶斯公式计算出在文本出现“好吃”这个词的条件下位正面或者为负面的概率,例如:
p(正面|"好吃")=p(正面)p("好吃"|正面)p(正面)p("好吃"|正面)+p(负面)p("好吃"|负面)p(正面|"好吃")=p(正面)p("好吃"|正面)p(正面)p("好吃"|正面)+p(负面)p("好吃"|负面)
得到的概率即是在好吃这个词出现的条件下,该句子为正面的概率。
- 然而一句话可能有多个表示情感的词,比如"不好看"、"开心",我们最终要求得在这些词出现的条件下该文本为正面的条件概率:p(正面|"好吃","不好看","开心")$,具体计算过程见如下推导,令上述三个词分别为a,b,c,正面为pos,负面为neg,具体计算过程见如下推导,令上述三个词分别为a,b,c,正面为pos,负面为neg:
p(pos|a,b,c)==p(pos)p(a,b,c|pos)p(pos)p(a,b,c|pos)+p(neg)p(a,b,c|neg)p(pos)p(a|pos)p(b|pos)p(c|pos)p(pos)p(a|pos)p(b|pos)p(c|pos)+p(neg)p(a|neg)p(b|neg)p(c|neg)(1)(2)(1)p(pos|a,b,c)=p(pos)p(a,b,c|pos)p(pos)p(a,b,c|pos)+p(neg)p(a,b,c|neg)(2)=p(pos)p(a|pos)p(b|pos)p(c|pos)p(pos)p(a|pos)p(b|pos)p(c|pos)+p(neg)p(a|neg)p(b|neg)p(c|neg)
假设一句话为正面或是负面的先验概率均为0.5,则p(pos)=p(neg)=0.5p(pos)=p(neg)=0.5,那么(2)式等于:
=p(a|pos)p(b|pos)p(c|pos)p(a|pos)p(b|pos)p(c|pos)+p(a|neg)p(b|neg)p(c|neg)(3)(3)=p(a|pos)p(b|pos)p(c|pos)p(a|pos)p(b|pos)p(c|pos)+p(a|neg)p(b|neg)p(c|neg)
-
拉普拉斯平滑:为了避免某个词在训练集中出现概率为0导致结果有偏,拉普拉斯平滑法讲所有词出现次数加一,在样本量很大时,每个分量加一几乎不会对最终估计结果造成太大影响,但这样的好处是很好的解决了词频为0导致的有偏问题。
-
其他变式
贝叶斯推断及其互联网应用(二):过滤垃圾邮件 这篇文章中做了如下变形,将结果以单个词下正面或是负面的条件概率表示,但是文章并未提及拉普拉斯校准,而是用拍脑袋想出来的1%作为校准概率。由于:
p(a|pos)====p(a|pos)p(a)p(a)p(a|pos)p(a)p(a|pos)p(pos)+p(a|neg)p(neg) (全概率公式)p(a|pos)p(pos)p(a|pos)p(pos)+p(a|neg)p(neg)p(a)/p(pos)p(pos|a)p(a)p(pos)(4)(5)(6)(7)(4)p(a|pos)=p(a|pos)p(a)p(a)(5)=p(a|pos)p(a)p(a|pos)p(pos)+p(a|neg)p(neg) (全概率公式)(6)=p(a|pos)p(pos)p(a|pos)p(pos)+p(a|neg)p(neg)p(a)/p(pos)(7)=p(pos|a)p(a)p(pos)
所以有(3)式等于:
(3)式===p(pos|a)p(pos|b)p(pos|c)p(a)p(b)p(c)p(pos)3p(pos|a)p(pos|b)p(pos|c)p(a)p(b)p(c)p(pos)3+p(neg|a)p(neg|b)p(neg|c)p(a)p(b)p(c)p(neg)3p(pos|a)p(pos|b)p(pos|c)p(pos|a)p(pos|b