Теория меры
Произведения мер и теорема Фубини
Гауссовский интеграл ∫e^{-x^2}dx вычисляется через двумерный интеграл и теорему Фубини. Без возможности менять порядок интегрирования не было бы ни вероятностных распределений для ML, ни свёрточных нейросетей, ни Байесовского вывода.
- Байесовский вывод: маргинализация - смена порядка интегрирования через Фубини
- Свёрточные нейросети: операция свёртки - двойной интеграл, допустимый Тонелли
- Теория вероятностей: совместные распределения и маргинальные через произведения мер
- Финансовая математика: ценообразование опционов через многомерные гауссовы интегралы
- Гармонический анализ: преобразование Фурье как итерированный интеграл Фубини
- Статистическая механика: статсуммы как произведения мер по конфигурациям
∫e^{-x²}dx - невычислим напрямую. Но ∫∫e^{-(x²+y²)}dxdy = π через полярные координаты. Фубини разрешает это перейти: двойной интеграл = квадрат одномерного. Каждый гауссовский интеграл в Байесовском ML - это Фубини.
**О чём этот урок на самом деле:** не о «технике вычисления», а о том, когда многомерный интеграл сводится к последовательности одномерных. Условие: интегрируемость по модулю (Фубини) или неотрицательность (Тонелли). Без этого порядок меняется - и результат тоже.
Произведение σ-алгебр: сечения измеримы
Ключевой факт: если E ∈ A⊗B, то сечения Eₓ = {y:(x,y)∈E} ∈ B для каждого x. Это нетривиальный факт - но именно из этого строится теорема Фубини. На прямоугольниках A×B ясно: (A×B)ₓ = B если x∈A, иначе ∅. Класс множеств с измеримыми сечениями - σ-алгебра, содержащая прямоугольники, значит совпадает с A⊗B.
Приложения в ML и вероятности
Смена порядка суммирования: дискретная Фубини
**Теорема Фубини в ML-системах** Где в реальных вычислениях применяется смена порядка интегрирования • **Convolution layers (CNN)** (Свёртка как интеграл по произведению мер): Conv2d вычисляет (f*g)(x,y) - интеграл по произведению пространства. Фурье-свёртка: F(f*g)=F(f)·F(g) требует Фубини. • **Bayesian ML / MCMC** (Нормировочный интеграл по произведению мер): p(θ|D) = p(D|θ)p(θ)/∫p(D|θ)p(θ)dθ. MCMC приближает интеграл. Variational: ELBO как двойной интеграл. • **Independent component analysis** (Независимость = произведение маргиналов): ICA ищет разложение x=As, где sᵢ независимы: p(s)=∏p(sᵢ). Критерий: совместная плотность = произведение. • **Numerical integration (quadrature)** (Многомерные квадратуры через итерированные): SciPy dblquad = итерированная 1D квадратура. Правомерность: Фубини для соответствующего класса функций.
Произведение мер: многомерные интегралы через одномерные
∫_{-∞}^{∞} e^{-x²} dx - не имеет явной первообразной. Но I² = ∫∫ e^{-(x²+y²)} dx dy, и в полярных координатах это 2π · ½ = π, откуда I = √π. Именно так выводится нормировочная константа гауссовского распределения N(0,σ²): (2πσ²)^{-1/2}. **Каждый вычисленный integral в Байесовском ML, статистической физике или квантовой механике - это Фубини в действии**.
Почему нормировочная константа N(0,1) равна (2π)^{-1/2}?
I=∫e^{-x²/2}dx, I²=∬e^{-(x²+y²)/2}dxdy. В полярных: =∫₀^{2π}∫₀^∞ e^{-r²/2}·r·dr·dθ = 2π·1 = 2π. Отсюда I=√(2π) и нормировка (2π)^{-1/2}.
Тонелли и Фубини: когда менять порядок можно, а когда нет
Порядок интегрирования имеет значение. Для f(x,y) = (x²-y²)/(x²+y²)² на [0,1]²: интеграл при порядке dx dy равен +π/4, а при порядке dy dx равен -π/4. Разные знаки! Причина: f не интегрируема по модулю. **Теоремы Тонелли и Фубини дают точный ответ: когда порядок безопасно менять**.
**Без проверки интегрируемости Фубини нельзя применять.** Алгоритм: (1) Тонелли к |f| - проверяем ∫∫|f| d(μ⊗ν) < ∞. (2) Если да - Фубини к f. (3) Если нет - порядок интегрирования может давать разные результаты.
Чем теорема Тонелли отличается от теоремы Фубини?
Workflow: сначала Тонелли к |f| (всегда законно для неотриц. функций) - если ∫|f|<∞, применяем Фубини к f для перестановки порядка с конечным результатом.
Свёртка, совместные распределения и квантование
Свёртка (f*g)(x) = ∫f(y)g(x-y)dy лежит в основе CNN. Корректность определения измеримости свёртки - это применение теоремы Фубини к функции (y,x)↦f(y)g(x-y) на ℝ². **Независимость случайных величин X и Y равнозначна P_{X,Y} = P_X ⊗ P_Y** - совместное распределение = произведение мер.
**В Байесовском ML**: нормировочный интеграл p(y) = ∫p(y|θ)p(θ)dθ - это интеграл по произведению мер. MCMC-сэмплирование приближает этот интеграл. Variational Inference заменяет его на оптимизацию ELBO. **В квантовой механике**: матричный элемент ⟨φ|H|ψ⟩ = ∫∫φ*(x)H(x,y)ψ(y)dxdy - двойной интеграл по произведению мер на пространстве состояний.
**Смена порядка суммирования** - дискретный аналог Фубини. Σₙ Σₘ aₙₘ = Σₘ Σₙ aₙₘ законна, если Σₙ Σₘ |aₙₘ| < ∞ (теорема Тонелли для считающей меры). В ML: это оправдывает перестановку суммирования в вычислении градиентов по батчу.
Что означает независимость X и Y на языке теории мер?
X,Y независимы ⟺ P_{X,Y}(A×B) = P_X(A)·P_Y(B) ⟺ P_{X,Y} = P_X⊗P_Y. Это влечёт E[f(X)g(Y)] = E[f(X)]·E[g(Y)] по теореме Фубини.
| Применение | Фубини в действии |
|---|---|
| Гауссов интеграл ∫e^{-x²}dx=√π | I²=∫∫e^{-(x²+y²)}dxdy, полярные координаты |
| Формула Кавальери для объёмов | Vol(E)=∫λⁿ⁻¹(Eₓ)dλ(x) |
| Независимость X,Y: E[fg]=E[f]E[g] | ∫f(x)g(y)d(P_X⊗P_Y)=(∫fdP_X)(∫gdP_Y) |
| Свёртка (f*g)(x)=∫f(y)g(x-y)dy | Измеримость (x,y)↦f(y)g(x-y) через Фубини |
| MCMC, Variational Inference | Нормировочный интеграл ∫p(y|θ)p(θ)dθ |
| Преобразование Лапласа / Фурье | Двойные интегралы при вычислении произведений |
Упражнения
- Когда можно менять порядок интегрирования в двойном интеграле? Приведите контрпример, когда нельзя. — Тонелли: f≥0 - всегда можно (результат ≤+∞); Фубини: ∫|f|d(μ⊗ν)<∞ - можно (результат конечен); Контрпример: f=(x²-y²)/(x²+y²)² на [0,1]², порядки дают +π/4 и -π/4; Workflow: Тонелли к |f| → проверка интегрируемости → Фубини к f
- Как теорема Фубини обосновывает независимость случайных величин? — X,Y независимы ⟺ P_{X,Y} = P_X ⊗ P_Y; Фубини: ∫f(x)g(y)d(P_X⊗P_Y) = (∫fdP_X)(∫gdP_Y); Следствие: E[f(X)g(Y)] = E[f(X)]·E[g(Y)]; В ML: независимость признаков в наивном байесовском классификаторе
Ключевые идеи
- A⊗B = наименьшая σ-алгебра на X×Y с прямоугольниками; сечения E∈A⊗B измеримы для всех x
- Тонелли: f≥0 ⟹ ∫f d(μ⊗ν) = ∫(∫f dν)dμ = ∫(∫f dμ)dν (без условий интегрируемости)
- Фубини: ∫|f|d(μ⊗ν)<∞ ⟹ порядок менять можно; без этого - можно получить разные знаки
- Гауссов интеграл: ∫e^{-x²}dx=√π через I²=∫∫e^{-(x²+y²)}dxdy в полярных координатах
- X,Y независимы ⟺ P_{X,Y}=P_X⊗P_Y; E[f(X)g(Y)]=E[f(X)]·E[g(Y)] через Фубини
- Свёртка f*g, MCMC-интегралы, CNN - всё это Фубини в производственных ML-системах
Связанные темы
Произведение мер - основа многомерного интегрирования и теории вероятностей
- Теоремы сходимости — DCT - предусловие для Фубини при предельных переходах под знаком двойного интеграла
- Знаковые меры и Хан-Жордан — Произведение знаковых мер строится через разложение Жордана компонентов
- Интеграл Лебега — Интеграл по произведению мер определяется через интеграл Лебега