Умовна ймовірність

Умовна ймовірність $P(A|B)$ відповідає на питання: наскільки ймовірне $A$ , якщо ми вже знаємо, що сталося $B$ ? Простір звужується до $B$ ; масу перенормовуємо: $P(A|B) = P(A \cap B) / P(B)$ при $P(B)>0$ . Це не те саме, що $P(A)$ : нова інформація змінює оцінку. Класика — три карти з двостороннім забарвленням: показали червоний бік; шанс, що з іншого боку теж червоний, — $2/3$ , а не $1/2$ .

|S|=52

P(A \mid B) = \frac{P(A \cap B)}{P(B)}, \quad P(B) > 0.

Приклад

Три карти: RR, BB, RB. Показали червону сторону — це могли RR (два червоні боки) або RB (один). Рівномірно серед «червоних боків» RR дає два шанси, RB — один. Тому $P(\text{інший бік червоний} \mid \text{показано червоне}) = 2/3$ . Простір умовлення — боки, а не «карти як ціле».

Умовність — не «назад у часі», а звуження простору. Якщо $A \subset B$ , то $P(A|B)=P(A)/P(B)$ . Якщо $A$ і $B$ несумісні, $P(A|B)=0$ . Формула Байєса — алгебра оновлення: з $P(B|A)$ і апріор отримуємо апостеріорний; знаменник $P(B)$ — закон повної ймовірності.

Закон повної ймовірності та Байєс

Байєс — правило оновлення ваг гіпотез після даних $B$ . У спам-фільтрі гіпотези — «лист рекламний» чи ні, дані — наявність слова; правдоподібність навчають з корпусу. У клініці апріор $P(\text{хвороба})$ — частота в популяції; апостеріорний після позитивного тесту часто нижчий, ніж очікують пацієнти, бо здорових людей набагато більше, ніж хворих.

P(A_i \mid B) = \frac{P(A_i)\, P(B \mid A_i)}{\sum_j P(A_j)\, P(B \mid A_j)}.

Приклад

Медичний тест: хвороба рідкісна — $P(D)=0{,}01$ ; чутливість $P(+|D)=0{,}99$ ; хибні позитиви $P(+|\neg D)=0{,}05$ . Закон повної ймовірності: $P(+) = 0{,}01 \cdot 0{,}99 + 0{,}99 \cdot 0{,}05 \approx 0{,}0594$ . Байєс: $P(D|+) = \dfrac{0{,}01 \cdot 0{,}99}{0{,}0594} \approx 0{,}167$ — лише ~17% позитивів справді хворі.

Увага

Навіть тест з чутливістю 99% при рідкій хворобі 1% дає багато хибних тривог: «позитив» часто означає «здорова людина, але тест помилився». Завжди дивіться на апріор. Аналогічно в класифікації рідкого класу: високий recall не гарантує високий precision серед позитивних прогнозів.

Умовність — основа дерева рішень і naive Bayes: на кожному кроці розподіл умовиться на відомій ознаці. Спрощення «слова незалежні за умови класу» часто працює на практиці, хоча буквально майже ніколи не виконується. Головне — не плутати $P(A|B)$ з $P(B|A)$ : це різні питання («яка ймовірність хвороби при позитиві» vs «яка ймовірність позитиву при хворобі»).

Що запамʼятати

$P(A|B)$ — оновлена ймовірність у світі, де $B$ уже сталося. Байєс зʼєднує апріор, правдоподібність і апостеріорний. Задача про карти перевіряє інтуїцію: умовлення змінює простір. Знаменник у Байєса — завжди закон повної ймовірності.

Закон повної ймовірності та Байєс

Що запамʼятати

Перевірка