Lecture 9: Probability (第9讲：概率)
1. Conditional Probability (条件概率)
Knowledge Point (知识点):
-
Definition / 定义: (P(A\mid B)=\dfrac{P(A\cap B)}{P(B)},\ P(B)>0) — probability of (A) given (B).（给定 (B) 已发生时 (A) 的概率）
-
Product Rule / 乘法法则雏形: (P(A\cap B)=P(A\mid B)P(B)=P(B\mid A)P(A))。
-
Symmetry / 对称式: (P(B\mid A)=\dfrac{P(A\cap B)}{P(A)})。
-
Example / 例子: From cards, (P(\text{Ace}\mid \text{Spade})=\frac{1/52}{13/52}=\frac{1}{13})。
-
Extension / 拓展: Chain rule (P(A\cap B\cap C)=P(A\mid B,C)P(B\mid C)P(C))；独立时 (P(A\mid B)=P(A))。
2. Multiplication Law (乘法法则)
Knowledge Point (知识点):
-
Formula / 公式: (P(A\cap B)=P(A)P(B\mid A)=P(B)P(A\mid B))。
-
Independence Case / 独立情形: 若独立则 (P(A\cap B)=P(A)P(B))。
-
Example / 例子: Bradley: (P(M\cap C)=P(M),P(C\mid M)=0.70\times0.5143=0.36)。
-
Extension / 拓展: 由乘法法则可反推条件概率：(P(C\mid M)=\dfrac{P(M\cap C)}{P(M)})。
3. Joint vs. Marginal Probabilities (联合概率与边际概率)
Knowledge Point (知识点):
-
Joint / 联合: 两事件同时发生的概率，如 (P(M\cap C)=0.36)。
-
Marginal / 边际: 对另一维度求和得到的单事件概率，如 (P(M)=0.36+0.34=0.70)、(P(C)=0.36+0.12=0.48)。
-
Example / 例子: 表格中心是联合概率；表格边缘是边际概率（row/column totals）。
-
Extension / 拓展: 全概率公式 (P(C)=P(C\mid M)P(M)+P(C\mid M^c)P(M^c))。
4. Independent Events (独立事件)
Knowledge Point (知识点):
-
Definition / 定义: (A) 与 (B) 独立 ⇔ (P(A\cap B)=P(A)P(B)) ⇔ (P(A\mid B)=P(A))。
-
Example / 例子: Bradley: (P(M\cap C)=0.36) vs (P(M)P(C)=0.70\times0.48=0.336\Rightarrow) not independent（不独立）。
-
Extension / 拓展: 多重独立需满足成对与更高阶交集的乘积关系（pairwise & mutual independence）。
5. Mutual Exclusiveness vs. Independence (互斥与独立)
Knowledge Point (知识点):
-
Different Relations / 本质不同: 非零概率时，互斥 (P(A\cap B)=0) 与独立 (P(A\cap B)=P(A)P(B)>0) 不能同时成立。
-
Example / 例子: 掷骰子 (A={1}), (B={2}) 互斥但不独立。
-
Extension / 拓展: 不互斥的事件可能独立也可能不独立，取决于数据。
6. Bayes’ Theorem (贝叶斯定理)
Knowledge Point (知识点):
-
Posterior Update / 后验更新: [ P(A_i\mid B)=\frac{P(A_i)P(B\mid A_i)}{\sum_j P(A_j)P(B\mid A_j)} ] where ({A_i}) are mutually exclusive & exhaustive（互斥且完备划分）。
-
Evidence Normalization / 归一化项: (P(B)=\sum_j P(A_j)P(B\mid A_j))。
-
Example / 例子: Prior (0.3), likelihood (0.8), evidence (0.6) → (P(A\mid B)=\frac{0.8\cdot0.3}{0.6}=0.4)。
-
Extension / 拓展: 典型应用：医学检验、垃圾邮件过滤、商业决策（posterior 作为新 prior 迭代）。
7. Example: Bradley Investments (布拉德利投资案例)
Knowledge Point (知识点):
-
Setup / 设定: (M)=Markley Oil，(C)=Collins Mining；利润事件 (M) 与 (C)。
-
Key Numbers / 关键数值: (P(M)=0.70,\ P(C)=0.48,\ P(M\cap C)=0.36)。
-
Conditional / 条件概率: (P(C\mid M)=\dfrac{0.36}{0.70}\approx0.5143,\quad P(M\mid C)=\dfrac{0.36}{0.48}=0.75)。
-
Independence Test / 独立性检验: (0.36\neq0.336\Rightarrow) 正相关、非独立。
-
Extension / 拓展: 用联合表“按行/按列求和”得边际，再用“交集÷边际”得条件。
8. Example: L.S. Clothiers (L.S. 服装店案例)
Knowledge Point (知识点):
-
Events / 事件: (A_1=) 批准(Approve)，(A_2=) 不批准(Disapprove)；(B=) 规划委反对(negative recommendation)。
-
Priors & Likelihoods / 先验与似然: (P(A_1)=0.7,\ P(A_2)=0.3;\ P(B\mid A_1)=0.2,\ P(B\mid A_2)=0.9)。
-
Joint & Evidence / 联合与证据: (P(A_1\cap B)=0.14,\ P(A_2\cap B)=0.27,\ P(B)=0.41)。
-
Posteriors / 后验: (P(A_1\mid B)=\frac{0.14}{0.41}\approx0.341,\quad P(A_2\mid B)=0.659)。
-
Conclusion / 结论: Posterior (P(A_1\mid B)=0.34 < 0.70)（反对意见显著降低批准概率）。
-
Excel Mapping / Excel 映射: 联合：(D2=B2\times C2)，证据：(D4=\text{SUM}(D2:D3)=0.41)，后验：(E2=D2/4)。
9. Problem-Solving Workflow (解题流程清单)
Knowledge Point (知识点):
- 1) Define Events / 定义事件: 明确 (A,B) 及其含义（含“盈利/不盈利”等阈值）。
- 2) Read/Build Table / 读取或构造表: 写出所有联合概率；边际=行/列求和。
- 3) Compute Conditionals / 计算条件: 用 (P(A\mid B)=\dfrac{P(A\cap B)}{P(B)})。
- 4) Test Independence / 检验独立: 比较 (P(A\cap B)) 与 (P(A)P(B))。
- 5) Bayes Update / 贝叶斯更新: 若给定证据 (B)，用公式求 (P(A_i\mid B))。
- 6) Interpret / 解释结果: 比较 posterior 与 prior，对决策影响做结论。
10. Key Formulas (关键公式)
Knowledge Point (知识点):
- Conditional / 条件概率: (P(A\mid B)=\dfrac{P(A\cap B)}{P(B)})。
- Product Rule / 乘法法则: (P(A\cap B)=P(A)P(B\mid A)=P(B)P(A\mid B))。
- Total Probability / 全概率: (P(B)=\sum_i P(A_i)P(B\mid A_i))。
- Bayes / 贝叶斯: (P(A_i\mid B)=\dfrac{P(A_i)P(B\mid A_i)}{\sum_j P(A_j)P(B\mid A_j)})。
- Independence / 独立: (P(A\cap B)=P(A)P(B))；等价 (P(A\mid B)=P(A))。