Теоремы об открытом отображении и замкнутом графике

Непрерывный биективный оператор между банаховыми пространствами автоматически имеет непрерывный обратный. В конечномерии это следует из компактности. В бесконечномерии без полноты это неверно: существуют биективные ограниченные операторы с неограниченным обратным. Теорема об открытом отображении - то, что это исправляет. Именно поэтому хорошо обусловленные linear layers в нейросетях сходятся, а плохо обусловленные взрываются.

• **Conditioning linear layers**: число обусловленности матрицы весов = sigma_max/sigma_min. Теорема об открытом отображении гарантирует ограниченность T$^{-1}$ - основа numerical stability. BatchNorm, SpectralNorm, weight decay - все регулируют conditioning косвенно
• **Convergence теоремы (Lax)**: теорема Лакса (консистентность + устойчивость = сходимость) - прямое следствие Банаха-Штейнгауса. Каждый численный метод - PDE solver, finite element, FDTD - опирается на равномерную ограниченность операторов дискретизации
• **Псевдообратный оператор**: A$^+$ ограничен тогда и только тогда, когда A имеет замкнутый образ - следствие открытого отображения. Это условие стабильности least squares в ML и регрессии

Предварительные знания

• Теорема Хана-Банаха

Теорема об открытом отображении

**Парадокс.** Непрерывный биективный оператор между конечномерными пространствами автоматически имеет непрерывный обратный - это элементарно, из компактности. В бесконечномерии это неверно без дополнительных условий. Теорема об открытом отображении - то, что это исправляет: полнота запрещает патологию.

**Теорема Банаха (открытое отображение)**: если T: X -> Y - ограниченный сюръективный линейный оператор между банаховыми пространствами, то T - открытое отображение. Образ любого открытого множества открыт. Эквивалентная формулировка: существует c > 0 такое, что T(B_X(0,1)) содержит B_Y(0,c).

**Следствие (bounded inverse theorem)**: если T: X -> Y биективен и ограничен, то T$^{-1}$: Y -> X тоже ограничен. Биективный ограниченный оператор между банаховыми пространствами - автоматически изоморфизм. Именно это работает в ML: если linear layer задаёт bijection между банаховыми пространствами - обратный гарантированно стабилен. Без полноты это рушится.

**Доказательство через лемму Бэра**: банахово пространство нельзя разбить в счётное объединение нигде не плотных множеств. Шар B_X(0,1) = объединение T$^{-1}$(B_Y(0, 1/n)). По Бэру хотя бы одно плотно в некотором шаре в X, откуда следует открытость T.

Теорема о замкнутом графике

Иногда прямо оценить норму оператора неудобно. Теорема о замкнутом графике даёт обходной путь: вместо нормы - проверить поведение последовательностей. Если оператор «уважает пределы» - он автоматически ограничен.

**Теорема Банаха (замкнутый граф)**: если T: X -> Y - линейный оператор между банаховыми пространствами, и граф G(T) = {(x, Tx) : x ∈ X} замкнут в X × Y, то T ограничен. Граф замкнут тогда и только тогда, когда из x_n -> x и Tx_n -> y следует Tx = y.

**Применение в численных методах и ML**: чтобы доказать, что дискретизованный оператор (например, численная аппроксимация градиента или конечно-разностная схема) ограничен, достаточно показать что предельный переход «проходит сквозь» оператор. Это часто на порядок проще прямой оценки нормы.

Закрытый оператор (замкнутый граф) не то же самое, что ограниченный оператор. Оператор d/dx: C$^1$[0,1] -> C[0,1] с нормой C$^1$ - ограничен и имеет замкнутый граф. Тот же d/dx как оператор из плотного подпространства C$^1$ в C[0,1] с sup-нормой - неограничен, но граф всё ещё замкнут.

Принцип равномерной ограниченности (Банах-Штейнгаус)

1929 год. Стефан Банах. «Theorie des operations lineaires». Три большие теоремы за одну книгу. Все три - следствия одной идеи: банахово пространство настолько «полное», что счётные патологии в нём запрещены. Принцип равномерной ограниченности - третья теорема этой тройки.

**Теорема Банаха-Штейнгауса**: если {T_α} - семейство ограниченных линейных операторов T_α: X -> Y, X банахово, и для каждого x ∈ X выполнено sup_α ||T_α x|| < ∞ (поточечная ограниченность), то sup_α ||T_α|| < ∞ (равномерная ограниченность по норме).

**Следствие для ML**: если последовательность операторов T_n сходится поточечно (T_n x -> Tx для каждого x), то T ограничен и ||T|| <= lim inf ||T_n||. Поточечный предел ограниченных операторов остаётся ограниченным - это то, почему convergence теоремы в численных методах работают. Теорема Лакса: консистентность + устойчивость = сходимость - прямое следствие Банаха-Штейнгауса.

**Расходимость ряда Фурье как следствие**: через Банах-Штейнгаус доказывается, что существует непрерывная функция, ряд Фурье которой расходится в точке. Идея: операторы частичных сумм S_n: C(T) -> R поточечно не ограничены на всём C(T), следовательно по принципу равномерной ограниченности - а точнее по его отрицанию - норма sup_n ||S_n|| = ∞.

Ключевые идеи

• **Открытое отображение**: сюръективный ограниченный оператор между банаховыми пространствами открыт; биективный ограниченный оператор - автоматически изоморфизм с ограниченным обратным
• **Замкнутый граф**: линейный оператор между банаховыми пространствами ограничен тогда и только тогда, когда его граф замкнут; удобный критерий вместо прямой оценки нормы
• **Равномерная ограниченность (Банах-Штейнгаус)**: поточечная ограниченность на банаховом пространстве влечёт равномерную; основа теоремы Лакса и convergence теорем в численных методах
• **Единый источник**: все три теоремы - следствия леммы Бэра. Полнота = запрет патологий

Связанные темы

Три великие теоремы Банаха фундаментальны для функционального анализа:

• Теорема Хана-Банаха — Предыдущий результат: богатство двойственного пространства X* дополняет теоремы Банаха о структуре операторов
• Спектральная теория — Теорема об открытом отображении: (T - λI)$^{-1}$ ограничен тогда и только тогда, когда λ ∈ резольвентное множество

Вопросы для размышления

• Теорема об открытом отображении требует сюръективности. Что происходит, если T инъективен, но не сюръективен? Может ли T$^{-1}$ на Img(T) быть неограниченным?
• Принцип равномерной ограниченности применяется к семейству операторов. Как он используется при доказательстве расходимости ряда Фурье в точке для некоторой непрерывной функции?
• Все три теоремы Банаха - следствия леммы Бэра. Справедливы ли они для пространств Фреше (метризуемые, полные, но не нормируемые)?

Связанные уроки

• fa-04 — Хан-Банах строит фундамент перед теоремами Банаха
• fa-06 — Спектральная теория опирается на ограниченность обратного
• fa-01 — Полнота банахова пространства - ключевое условие
• top-04 — Теорема Банаха о сжатии - то же самое из полноты
• la-13-linear-maps