Вероятностная логика и логика знаний

Покер - это игра в знание и знание о незнании. DEL формализует именно это: что знаешь, что знает оппонент, что оппонент знает о том, что знаешь... Это же основа криптографических протоколов.

• **Верификация протоколов:** SPIN и ProVerif используют эпистемическую логику для проверки криптографических протоколов на утечку секретов
• **Multi-agent планирование:** DEL используется в роботах, которые планируют с учётом неполноты информации и действий других агентов
• **Байесовские сети:** PyMC3, Stan - probabilistic programming; используются в диагностике, рекомендательных системах, NLP

Предварительные знания

• Модальная логика
• Propositional Logic

Вероятностная логика

GPT-4 использует вероятностный вывод: каждый токен - распределение над 50 000+ словарными единицами, а не бинарное истина/ложь. Классическая логика бинарна: истина или ложь. Вероятностная логика расширяет её до **степеней уверенности** - формулам приписываются вероятности, а рассуждение - это обновление распределений. Это основа статистического вывода и machine learning.

Нильс Нильссен (1986) предложил формализм, где каждой формуле φ приписывается интервал вероятностей [l, u] ⊆ [0,1]. Задача: по вероятностям предпосылок вывести ограничения на вероятности следствий. Это NP-hard в общем случае.

Байесовские сети как логика

Байесовская сеть - это DAG, где узлы - случайные переменные, рёбра - причинно-следственные зависимости, таблицы условных вероятностей - «правила». Это язык для представления и рассуждения о неопределённости - вероятностная база знаний.

d-сепарация в байесовской сети определяет условную независимость переменных - это аналог логической несвязности. Теорема Перла: X ⊥⊥ Y | Z тогда и только тогда, когда Z d-отделяет X от Y в DAG.

Эпистемическая логика

Эпистемическая логика (логика знания) изучает операторы **K_i(φ)** - «агент i знает φ». Введена Хинтиккой (1962). Используется в многоагентных системах, верификации протоколов, криптографии и game theory.

Стандартная система S5 для знания: (K) K_i(φ→ψ)→(K_iφ→K_iψ), (T) K_iφ→φ, (4) K_iφ→K_iK_iφ, (5) ¬K_iφ→K_i¬K_iφ. Аксиома (T) отличает знание от веры: нельзя знать ложь.

Динамическая эпистемическая логика

Динамическая эпистемическая логика (DEL, Балтаг-Блум-Смец 1998) добавляет **события-обновления**: как изменяется знание агентов при получении информации? Это формальная основа для протоколов коммуникации, криптографических протоколов и AI-планирования.

PAL (Public Announcement Logic): [φ!]ψ - «после публичного объявления φ верно ψ». При публичном объявлении φ все агенты одновременно узнают φ и знают, что другие тоже узнали. Приватное объявление - только для части агентов.

Ключевые идеи

• **Вероятностная логика** - формулам приписываются вероятности; следование = P(ψ|φ)=1; bayesian networks = вероятностная база знаний
• **Объяснение через причины (explaining away)** - наблюдение следствия делает независимые причины зависимыми
• **Эпистемическая логика S5** - K_i(φ) «агент i знает φ»; знание = истинная убеждённость; общее знание C(φ) = бесконечная итерация E
• **DEL** - динамика знания: публичное объявление φ удаляет миры где φ ложно; формализует криптографию и коммуникацию

Связанные темы

Вероятностная и эпистемическая логики применяются в AI и верификации:

• Модальная логика — Эпистемическая логика - модальная логика с K_i вместо □; разные аксиомы для знания vs веры vs необходимости
• Пропозициональная логика — Вероятностная логика расширяет пропозициональную: формулы те же, истинность заменяется вероятностью
• Логика и AI — Нейро-символьные системы интегрируют вероятностный вывод с нейронными сетями

Вопросы для размышления

• Может ли агент «знать» что-то с вероятностью 0.9? Или знание по определению требует уверенности 1.0? Где граница между знанием и убеждением?
• Протокол Zero-Knowledge Proof позволяет доказать знание секрета, не раскрывая его. Как это выразить в DEL?
• Байесовское обновление и публичное объявление - разные модели получения информации. Когда какой использовать?

Связанные уроки

• prob-04-bayes