我的 第一直觉 关于贝叶斯定理的核心是“获取证据并考虑假阳性”。一项实验室结果意味着你生病了吗？嗯，这种疾病有多罕见，健康人检测呈阳性的概率有多大？必须考虑误导信号。
这帮助我应付了练习题，但我无法 思考 与贝叶斯相关。主要障碍：
百分比很难理性处理。 几率比较场景的相对频率（A:B），而百分比使用部分对整体的“全局场景”[A/(A+B)]。硬币有相等的几率（1:1）或50%的概率正面。很好。当正面可能性提高18倍时会发生什么？几率是18:1，你能脱口说出小数百分比吗？（我等……）几率需要的计算更少，所以我们从它们开始。
方程会忽略大局。 这是贝叶斯定理，通常呈现为：
它从右向左读，充满条件概率。这个版本怎么样：
original odds * evidence adjustment = new odds
贝叶斯是关于从猜测开始（下雨：晴天的几率为1:3），获取证据（现在是七月的撒哈拉，晴天可能性高1000倍），并更新你的猜测（下雨：晴天的几率为1:3000）。“证据调整”是我们现在有了额外信息后，对几率感觉更好或更差的程度（如果是西雅图的十二月，你可能会说下雨的可能性高1000倍）。
让我们从比率开始，然后逐步引出复杂版本。
穴居统计学家奥格
Og刚刚完成了他的CaveD项目，并为他的部落进行统计研究：
- 他总共看到了50只鹿和5只熊（比例50:5）
- 在夜间，他看到了10只鹿和4只熊（比例10:4）
他能推断出什么？嗯，
original odds * evidence adjustment = new odds
或者
evidence adjustment = new odds / original odds
在晚上，他意识到鹿的可能性是之前的1/4：
10:4 / 50:5 = 2.5 / 10 = 1/4
（换句话说，熊在晚上的可能性是4倍）
我们来稍微讲讲比率。A:B描述每B获得的A有多少（想象每加仑英里作为比率英里：加仑）。用除法比较数值：从25:1到50:1意味着效率翻倍（50/25 = 2）。类似地，我们刚刚发现了“每只熊的鹿”数量如何变化。
Og高兴地继续他的研究：
- 在河边，熊的可能性是20倍（他看到了2只鹿和4只熊，所以2:4 / 50:5 = 1:20）
- 在冬天，鹿的可能性是3倍（30只鹿和1只熊，30:1 / 50:5 = 3:1）
他取一个场景，与基线比较，并计算证据调整。
穴居人Clarence订阅了Og的期刊，并希望将发现应用到他的森林（那里鹿：熊为25:1）。假设Clarence听到有动物接近：
- 他的总体估计是鹿:熊的比例为25:1
- 现在是夜间，熊的可能性是4倍 => 25:4
- 现在在河边，熊的可能性是20倍 => 25:80
- 现在在冬天，鹿的可能性是3倍 => 75:80
Clarence以近乎相等的几率（75:80）猜测“熊”，然后蹑手蹑脚地离开。
这就是贝叶斯。用华丽的语言说：
- 从先验概率(prior probability)开始，即证据出现前的一般概率
- 收集证据，并确定它如何改变概率
- 计算后验概率(posterior probability)，即更新后的概率
贝叶斯垃圾邮件过滤器
让我们构建一个 垃圾邮件过滤器 基于Og的贝叶斯熊探测器。
首先，收集一组普通和垃圾邮件。记录每个词在每类邮件中出现的频率：
spam normal
hello 3 3
darling 1 5
buy 3 2
viagra 3 0
...
（“hello”出现频率相同，但“buy”偏向垃圾邮件）
我们像之前一样计算赔率。假设收到的邮件有9:1的概率是垃圾邮件，并且我们看到“hello darling”：
- 一条普通消息有9:1的概率是垃圾邮件:正常邮件
- 根据“hello”调整 => 保持9:1的概率（“hello”在两组中出现的可能性相同）
- 根据“darling”调整 => 9:5的概率（“darling”在正常邮件中出现的频率是5倍）
- 最终概率 => 垃圾邮件的概率为9:5
我们倾向于认为它是垃圾邮件（9:5的赔率）。然而，它比我们最初的赔率（9:1）更不像垃圾邮件，所以我们让它通过。
现在考虑一条像“buy viagra”这样的消息：
- 先验信念：垃圾邮件的概率为9:1
- 根据“buy”调整：27:2（向垃圾邮件方向调整3:2）
- 根据（“viagra”）调整：……哦哦！
“Viagra”从未出现在正常消息中。这是否保证是垃圾邮件？
可能不是：我们应该智能地调整以适应新证据。让我们假设在某处有一封正常邮件包含这个词，并将“viagra”的赔率设为3:1。我们的概率变为27:2 * 3:1 = 81:2。
现在我们有所进展了！我们最初的9:1猜测转变为81:2。现在它是垃圾邮件吗？
嗯，误报有多糟糕？
81:2的赔率意味着每81封这样的垃圾邮件，我们会错误地拦截2封正常邮件。这个比例可能太高了。有了更多证据（更多单词或其他特征），我们可能会在将一封邮件判定为垃圾邮件之前等待1000:1的赔率。
探索贝叶斯定理
我们可以通过检查自己是否自然地问出具有引导性的问题来验证直觉：
证据真的独立吗？ 动物夜间行为与冬季行为之间是否存在联系，或者是否存在同时出现的单词？当然有。我们“天真地”假设证据是独立的（然而，在笨手笨脚中，我们仍然创建了有效的过滤器）。
多少证据才算足够？ 看到2只鹿和1只熊是否与看到200只鹿和100只熊具有相同的2:1证据调整？
最初的几率有多准确？ 先验信念改变一切。（“贝叶斯主义者是这样的人：隐约期待一匹马，瞥见一头驴，却坚信自己看到了骡子。”）
绝对概率重要吗？ 我们通常需要最可能成立的理论（“鹿还是熊？”），而不是该场景的全局概率（“晚上在河边出现鹿的概率 vs. 晚上在河边出现熊的概率？”）。许多贝叶斯计算忽略了全局概率，这些概率在相除时会抵消，并且本质上使用以赔率为中心的方法。
我们的过滤器会被欺骗吗？ 垃圾邮件可能会添加大段正常文本以显得无害并“毒害”过滤器。你可能自己也见过这种情况。
我们应该使用哪些证据？ 让数据说话。邮件可能有数十种特征（发送时间、邮件头、发源地国家、HTML标签……）。给每个特征一个似然因子，让贝叶斯把它们分类出来。
用比例和百分比思考
比值法和百分比法提出的问题略有不同：
比率： 给定每种结果的赔率，证据如何调整它们？
证据调整只是逐步地倾斜初始赔率。
百分比： 在找到支持证据后，某种结果的概率是多少？
在百分比情况下，
- “% 熊”是一只熊出现在任何地方的整体概率
- “% 去河的熊”是一头熊触发“河”数据点的可能性
- “% 在河的熊”是既有一头熊又它去河边的组合概率。用统计术语来说，
P(event and evidence) = P(event) * P(event implies evidence) = P(event) * P(evidence|event)。我将条件概率视为“X 暗示 Y 的机会”，而不是扭曲的“在给定 X 发生的情况下 Y 的机会”。
让我们重新做一遍原来的计算。 癌症示例:
- 1% 的人口患有癌症
- 9.6% 的健康人检测呈阳性，80% 的癌症患者检测呈阳性
如果看到阳性结果，患癌的概率是多少？
比率方法：
- 癌症与健康比例为 1:99
- 证据调整：80/100 : 9.6/100 = 80:9.6（80% 的病人在“河边”，9.6% 的健康人在）。
- 最终概率：1:99 * 80:9.6 = 80:950.4（大约 1:12 的癌症概率，约 7.7% 的几率）
直觉：初始的1:99几率已经非常偏斜。即使阳性结果带来了8.3倍（80:9.6）的提升，癌症仍然不太可能。
百分比方法：
- 癌症概率为 1%
- 真阳性概率 = 1% * 80% = .008
- 假阳性概率 = 99% * 9.6% = .09504
- 患癌概率 = .008 / (.008 + .09504) = 7.7%
当用百分比表示时，我们从 绝对的 概率。全局上有0.8%的概率是患病且结果阳性，全局上有9.504%的概率是健康且结果阳性。然后我们计算这些全局百分比指示某种有用信息的概率。
让这些方法互为补充：百分比用于鸟瞰全局，比率用于观察单个几率如何调整。我们将其他众多解读留到日后探讨。
数学愉快。
