Математический анализ

Замена переменных

Почему одна и та же скалярная величина — определитель якобиана — перенормирует интегралы в анализе и плотности вероятностей в генеративных моделях машинного обучения?

  • Пайплайн рендеринга NVIDIA RTX: каждое координатное преобразование (мир -> камера -> экран) несёт якобиан, определяющий объёмное искажение
  • Real NVP, Glow, Neural ODEs: нормализующие потоки обучаются на log|det J| обратимой нейросети — точное-правдоподобие в глубоком обучении
  • Картография: каждая проекция карты (Меркатор, Ламберт, Мольвейде) имеет позиционно-зависимый якобиан, объясняющий, почему Гренландия кажется больше, чем есть
  • Механика сплошных сред: градиент деформации F — это якобиан отображения смещения; det F < 0 означает, что материал свернулся сам на себя (режим разрушения)

Предварительные знания

  • Двойные и тройные интегралы
  • Частные производные и матричные определители
  • Полярные и сферические координаты
  • Тройные интегралы

Определитель якобиана

Когда NVIDIA рендерит сцену, она преобразует координаты десятки раз: мир -> камера -> clip -> экран. Объёмное искажение каждого преобразования описывается определителем якобиана. Нормализующие потоки PyTorch для генеративных моделей используют определители якобианов, чтобы вычислять точные log-likelihoods. Та же скалярная величина, что перенормирует интеграл, перенормирует и плотность вероятности.

В 3D формула идентична с 3x3-якобианом. В произвольной размерности n объёмный элемент преобразуется как dV_new = |det DT| * dV_old. Это просто цепное правило + полилинейная алгебра определителей.

T обязано быть (почти всюду) инъективным на S, гладким и иметь невырожденный якобиан. Особенности (J = 0 на множестве положительной меры) ломают формулу и требуют отдельного разбора.

Для полярного отображения x = r cos theta, y = r sin theta — чему равен определитель якобиана?

J = (dx/dr)(dy/d theta) - (dx/d theta)(dy/dr) = cos theta * r cos theta - (-r sin theta) * sin theta = r. Поэтому dA = r dr d theta.

Полярные, цилиндрические, сферические — все частные случаи

Полярные, цилиндрические и сферические — не три независимые идеи, а три применения одной формулы якобиана. Понимание общей теоремы означает, что больше не нужно запоминать координатно-специфичные объёмные элементы. Вычислите их один раз, из частных производных.

Если забыли якобиан — выведите с нуля: запишите отображение (u, v, w) -> (x, y, z), продифференцируйте, возьмите определитель. Быстрее, чем искать в учебнике, и не получите неверный знак.

Почему sin(phi) присутствует в сферическом якобиане, но не в цилиндрическом?

На сфере радиуса rho линии постоянного phi (круги широты) имеют радиус rho sin phi. У полюсов sin phi -> 0, и ячейки вырождаются. Множитель sin phi в якобиане отражает эту геометрию.

Нестандартные подстановки

Иногда сама область просит специальной подстановки. Параллелограмм проще как единичный квадрат; эллипс проще как единичный круг; область, ограниченная гиперболами, проще в (u, v) = (xy, y/x). Теорема о якобиане безразлична к тому, знаменита ли подстановка, — ей нужен только определитель.

Гиперболическая подстановка u = xy, v = y/x имеет якобиан J = (du/dx)(dv/dy) - (du/dy)(dv/dx) = -2 v (проверьте). Полезна для областей, ограниченных xy = const и y/x = const.

Стратегия подстановки: выбирайте новые переменные так, чтобы область стала прямоугольником, диском или другой формой с чистыми пределами. Даже если якобиан грязный — простые пределы обычно побеждают.

Используя подстановку, найдите площадь эллипса x^2/4 + y^2/9 = 1.

Подстановка x = 2u, y = 3v. Якобиан ab = 6. Площадь = 6 * (площадь единичного круга) = 6 pi.

Общая теорема о замене переменных

Модели нормализующих потоков в машинном обучении (Real NVP, Glow, Neural ODEs) генерируют сложные распределения, искривляя гауссиану через обратимую нейросеть. Тренировочный loss требует log |det J| на каждом шаге. Та же теорема о замене переменных, что считает площадь эллипса, — фундамент исследовательской области на $10 миллиардов.

Теорема требует, чтобы T было C^1-диффеоморфизмом (гладким, с гладким обратным) на внутренней части. Граничные эффекты и особенности меры нуль обрабатываются отдельно. На практике почти все полезные подстановки удовлетворяют условиям.

Мнемоника: 'новое dA равно |J| на старое dA'. Считаете ли вы площадь эллипса или тренируете нейросетевой поток — якобиан является тем же фактором пересчёта.

Почему формула замены переменных требует |det J|, а не просто det J?

Мера (площадь/объём) неотрицательна. Если T обращает ориентацию, det J < 0, и без модуля интеграл вышел бы отрицательным. |det J| восстанавливает положительность.

Якобиан везде

Теорема о замене переменных — алгебраическая тень геометрической истины: гладкие отображения локально перенормируют объём, и коэффициент перенормировки — определитель дифференциала.

  • Криволинейные и поверхностные интегралы — Параметризации — 1D и 2D частные случаи той же теоремы
  • Теория вероятностей — Преобразование плотности при замене переменных — та же формула
  • Дифференциальная геометрия — Формы объёма преобразуются через якобиан — бескоординатный язык всё объединяет
  • Нормализующие потоки в ML — Члены log|det J| дают точное-правдоподобие генеративное моделирование

Итоги

  • 2D-якобиан J = det матрицы частных производных T. dA_new = |J| dA_old
  • Формула замены переменных: двойной интеграл по R от f dA = двойной интеграл по S от f(T(u,v)) |J| du dv
  • Полярные: |J| = r. Цилиндрические: |J| = r. Сферические: |J| = rho^2 sin phi. Все три — частные случаи одной теоремы
  • Кастомные подстановки (x = a u, y = b v для эллипсов или u = xy, v = y/x для гиперболических областей) часто упрощают пределы, даже если |J| нетривиален
  • Та же формула управляет преобразованием плотности вероятности — поэтому нейросетевые нормализующие потоки тренируются против log|det J|

Связанные уроки

  • calc-21-double-integrals — Двойные интегралы в полярных координатах — простейшая нетривиальная замена переменных
  • calc-22-triple-integrals — Цилиндрические и сферические координаты — частные случаи общей теоремы
  • calc-24-line-integrals — Параметризация кривой — 1D-вариант идеи замены переменных
Замена переменных

0

1

Войти