Контрфактуальные рассуждения

Что было бы, если бы пациент не принял препарат? Этот вопрос нельзя ответить статистически - наблюдается только один исход. Контрфактуальный анализ Перла даёт строгий математический ответ через структурные причинные модели. Это позволяет оценивать индивидуальные причинные эффекты, а не только популяционные средние.

• Правовая ответственность: 'был ли ущерб причинён именно этим действием?'
• Персонализированная медицина: ожидаемый эффект лечения для конкретного пациента
• Контрфактуальная справедливость в ML: изменился бы исход при смене защищённого атрибута?
• Страхование: причинён ли убыток застрахованным событием?
• Объяснимый ИИ: контрфактуальные объяснения ('изменение каких признаков изменило бы решение?')

Цели урока

• Вычислять контрфактуалы через трёхшаговую процедуру: abduction, action, prediction
• Различать три уровня лестницы причинности Перла: ассоциация, вмешательство, контрфактуалы
• Оценивать ATE и ATT через потенциальные исходы и связывать с SCM-формализмом

Предварительные знания

• Структурные причинные модели и do-исчисление
• Условные распределения и байесовское обновление
• Потенциальные исходы Рубина: $Y_i(1)$, $Y_i(0)$

Определение контрфактуала

Страховое ценообразование использует контрфактуалы: «Попал бы этот водитель в аварию без алкоголя?» - британские суды требуют причинные модели для подобных вопросов с 2019 года. Контрфактуал Y_{X=x'}(u) спрашивает: каким был бы исход Y для конкретного индивида u, если бы X было установлено в x', при том что в реальности X=x.

Контрфактуалы требуют знания SCM (структурных уравнений), а не только распределения. Именно поэтому они находятся на третьем, высшем уровне лестницы причинности.

Лестница причинности Перля

Перль выделяет три уровня каузального знания: ассоциация (что?), интервенция (что если сделать?) и контрфактуал (что если бы было иначе?). Каждый уровень требует строго более сильных предпосылок и недостижим с нижних уровней.

Машинное обучение работает преимущественно на первой ступени. Большинство causal inference методов достигает второй. Третья ступень доступна только при полном знании SCM или сильных параметрических предположениях.

Средний эффект лечения (ATE) и потенциальные исходы

Фреймворк потенциальных исходов Рубина формализует ATE через пару Y(1), Y(0) для каждого индивида. Фундаментальная проблема причинного вывода: для одного индивида наблюдается только один из двух исходов - но SCM позволяет вычислить оба аналитически.

ATE = E[Y|do(X=1)] - E[Y|do(X=0)] - это связь между фреймворком Рубина и do-calculus Перля. При SUTVA и ignorability оба подхода дают одинаковый результат.

Трёхшаговый контрфактуал: пациент принял лекарство и выздоровел

Шаг 1 (abduction): обновить $P(U|X=1, Y=1)$ - какие фоновые факторы согласованы с наблюдением. Шаг 2 (action): установить $X \leftarrow 0$ в структурных уравнениях ($\mathrm{do}(X=0)$). Шаг 3 (prediction): вычислить $Y$ при обновлённом $U$ и $X=0$. Результат: $P(Y_{X=0}=1 | X=1, Y=1)$ - вероятность выздоровления без лекарства.

Итоги

• Лестница причинности: ассоциация ($P(Y|X)$) < вмешательство ($P(Y|\mathrm{do}(X))$) < контрфактуалы ($Y_{x}(u)$)
• Контрфактуал вычисляется через abduction (обновить $U$) + action (do) + prediction (вычислить $Y$)
• ATE $= E[Y(1)-Y(0)]$ идентифицируется при рандомизации; наблюдательные данные требуют дополнительных допущений

Связь с другими темами

Контрфактуальная справедливость (Kusner 2017) использует этот аппарат для аудита алгоритмов: решение справедливо, если контрфактуальный исход совпадает при изменении защищённого атрибута. Медиационный анализ (NDE/NIE) - следующий шаг, декомпозирующий причинный эффект на прямой и косвенный.

• Связанные темы — развивает

Вопросы для размышления

• Почему контрфактуалы требуют знания функциональных уравнений SCM, а не только совместного распределения?
• Допущение SUTVA (Stable Unit Treatment Value) запрещает интерференцию между субъектами. Как это нарушается в социальных сетях?
• Можно ли вычислить контрфактуал для нелинейного SCM с ненаблюдаемыми экзогенными переменными?