Функциональный анализ
Свободная вероятность
Цели урока
- Понять операторное вероятностное пространство (A, phi) и понятие свободной независимости
- Освоить R-преобразование и его линейность для свободных сумм
- Знать закон Марченко-Пастура как предел матриц Wishart и его связь со свободной ЦПТ
- Понимать свободную энтропию chi и полукруговой закон как аналог нормального
Предварительные знания
- Алгебры фон Неймана и факторы типа II_1
- K-теория C*-алгебр
- Теория случайных матриц (основы)
Почему спектр суммы двух случайных матриц описывается не просто суммой их спектров, а 'свободной свёрткой' - и как это объясняет ёмкость MIMO-антенн в 5G-связи?
- 5G MIMO-каналы: ёмкость MIMO при большом числе антенн вычисляется через интеграл по закону Марченко-Пастура - прямое применение свободной вероятности
- Анализ глубоких нейросетей (Мартин-Махони 2019): спектры матриц весов обученных сетей отклоняются от закона Марченко-Пастура - индикатор 'эффективного обучения'
- Квантовая информация: свободная вероятность описывает асимптотику произвольных квантовых каналов через KK-теорию
- Финансовые приложения: матрица ковариации доходности активов при p~N - закон Марченко-Пастура разделяет рыночный сигнал и шум
Воикулеску: от факторов к случайным матрицам
Дан Воикулеску в 1985 году ввёл свободную вероятность при работе над изоморфизмом факторов L(F_n). Его идея: 'свободность' - правильный аналог независимости для некоммутирующих операторов. В 1991 году он обнаружил: случайные матрицы при N -> inf становятся асимптотически свободными. R-преобразование (1986) линеаризует свободное сложение. Свободная энтропия (1993-1998) - некоммутативный аналог дифференциальной энтропии Шеннона. Закон Марченко-Пастура (1967, до Воикулеску) получил объяснение через свободную ЦПТ. В 2004 году Воикулеску получил премию Абеля - за создание свободной вероятности и доказательство асимптотической свободы случайных матриц.
Свободная независимость и операторные вероятностные пространства
1985 год. Дан Воикулеску изучает изоморфизм факторов фон Неймана L(F_n) и L(F_m) для свободных групп. Он обнаруживает: существует понятие 'свободной' независимости, при котором суммирование случайных матриц N x N при N -> inf подчиняется 'свободным' аналогам классических теорем вероятности.
Свобода в матричных приближениях
Случайные матрицы как свободные переменные
Возьмём две независимых GUE-матрицы A_N и B_N размера N x N. При N -> inf их эмпирические спектральные меры сходятся к детерминированным пределам mu_A и mu_B. Ключевой факт Воикулеску: A_N и B_N становятся 'асимптотически свободными'. Распределение A_N + B_N -> mu_A boxplus mu_B (свободная свёртка), вычисляемая через R-преобразование.
Свободная независимость - некоммутативный аналог классической. Классическая: phi(f(a)*g(b)) = phi(f(a))*phi(g(b)). Свободная: чередованные произведения с нулевыми ожиданиями = нуль. Для коммутативных алгебр свобода не совпадает с независимостью.
В чём принципиальная разница между свободной независимостью и классической?
Свободная независимость: phi(p_1(a)*q_1(b)*...) = 0 когда phi(p_i(a)) = phi(q_j(b)) = 0. Это условие на знакочередованные произведения, не факторизация. Разница критична при некоммутативности.
R-преобразование и свободная свёртка
R-преобразование Воикулеску - некоммутативный аналог логарифма характеристической функции. В классической вероятности: log phi(e^{i*xi*(X+Y)}) = log phi(e^{i*xi*X}) + log phi(e^{i*xi*Y}) для независимых X, Y. Для свободных: R_{a+b}(z) = R_a(z) + R_b(z). Это делает R-преобразование главным инструментом свободной аналитики.
Что является аналогом логарифма характеристической функции в свободной вероятности?
R-преобразование: G_a(R_a(z) + 1/z) = z. Линейность: R_{a boxplus b}(z) = R_a(z) + R_b(z). Аналог log характеристической функции - линеаризует свободное сложение.
Свободная энтропия и применения в теории случайных матриц
Воикулеску ввёл свободную энтропию chi(a_1, ..., a_n) в 1993-1998 годах как аналог дифференциальной энтропии Шеннона для некоммутативных переменных. Полукруговой закон максимизирует свободную энтропию - аналог нормального распределения. Применения: оценка ёмкости MIMO-каналов в беспроводной связи, анализ спектра глубоких нейросетей.
Анализ спектра глубоких нейросетей
Свободная вероятность в ML
Мартин и Махони (2019): спектральная плотность матриц весов обученных глубоких нейросетей отклоняется от закона Марченко-Пастура. Хорошо обученные сети имеют 'тяжёлые хвосты' - плотность степенного типа. Это индикатор эффективного сжатия: матрица весов хранит больше информации, чем случайная. Метрика альфа_hat Мартина-Махони основана на сравнении со случайным (свободно-вероятностным) базисом.
Какое распределение максимизирует свободную энтропию среди распределений с фиксированной дисперсией?
Свободная аналогия: нормальное ~ полукруговой. Полукруговой закон максимизирует chi(a) при E[a^2] = sigma^2. Это объясняет, почему GUE-матрицы - наиболее 'случайные' среди самосопряжённых матриц.
Свободная ЦПТ и изоморфизм факторов
Свободная центральная предельная теорема: нормированная свободная сумма одинаково распределённых центрированных переменных сходится к полукруговому закону. Параллель с классической ЦПТ идеальна. Но открытая проблема (50+ лет): изоморфны ли факторы фон Неймана L(F_2) и L(F_3) свободных групп?
Проблема изоморфизма L(F_2) ~ L(F_3): открыта с 1967 года. Свободная вероятность Воикулеску дает новый подход через свободную энтропию chi и размерность delta_0. Радулеску (1994) показал: L(F_n) ~ L(F_m) для всех n, m >= 2 одновременно, или ни для каких. Это 'всё или ничего' - но неизвестно, что из двух.
К какому закону сходится нормированная свободная сумма S_N = (a_1 boxplus ... boxplus a_N)/sqrt(N)?
Свободная ЦПТ: S_N = (a_1 boxplus ... boxplus a_N)/sqrt(N) -> полукруговой закон mu_sc при N -> inf. Аналогия с классической: нормированные суммы iid -> Гаусс. Полукруговой = Гаусс свободной вероятности.
Связи с другими областями
Свободная вероятность объединяет теорию операторов, комбинаторику и прикладную математику.
- C*-алгебры и алгебры фон Неймана — Свободная вероятность живёт в трассовых алгебрах фон Неймана
- Некоммутативная геометрия Конна — Воискулеску развивал свободную вероятность как часть некоммутативной геометрии
- Функциональный анализ в машинном обучении — Спектры больших случайных матриц в нейросетях описываются законами свободной вероятности
Итоги
- Операторное вероятностное пространство (A, phi): *-алгебра + трасса; свободность через чередованные центрированные произведения
- R-преобразование: G_a(R_a(z)+1/z)=z; линейность R_{a boxplus b} = R_a + R_b для свободных a, b
- Закон Марченко-Пастура: предел спектра X*X^T/p при N,p -> inf, p/N -> gamma; поддержка [(1-sqrt(gamma))^2, (1+sqrt(gamma))^2]
- Свободная ЦПТ: S_N = (a_1 boxplus ... boxplus a_N)/sqrt(N) -> полукруговой закон mu_sc
- Свободная энтропия chi: аналог Shannon; полукруговой закон максимизирует chi при фиксированной дисперсии
Вопросы для размышления
- Почему для некоммутирующих случайных переменных факторизация phi(a*b) = phi(a)*phi(b) не является правильным аналогом независимости - и что её заменяет?
- Как связаны асимптотическая свобода случайных матриц при N -> inf и теорема Воикулеску для алгебр фон Неймана?
- В чём смысл открытой проблемы: изоморфны ли L(F_2) и L(F_3), и почему свободная энтропия не решает её окончательно?