Спектральная теорема

PCA, SVD, Gaussian processes, квантовая механика-всё это спектральная теорема в действии. Понимание того, как самосопряжённые операторы "диагонализируются" в ортонормированный базис, открывает единую математику за этими разными методами.

• **PCA и SVD**: матрица ковариаций-самосопряжённый оператор; PCA = его спектральное разложение; низкоранговая аппроксимация = усечение по наибольшим λ
• **Gaussian процессы**: функционал E[f(x)f(y)] = k(x,y)-ковариационный оператор; предсказание GP = функциональное исчисление; Mercer's theorem = спектральное разложение k
• **Квантовая механика**: гамильтониан H-самосопряжённый оператор; энергии = собственные значения; эволюция U(t) = exp(-iHt/ℏ)-функциональное исчисление

Предварительные знания

• Introduction to Spectral Theory

Самосопряжённые операторы

На гильбертовом пространстве H оператор T* называется **сопряжённым** к T, если ⟨Tx, y⟩ = ⟨x, T*y⟩ для всех x, y ∈ H. Оператор T **самосопряжён** (эрмитов), если T = T*. Ключевые свойства: все собственные значения вещественны; собственные векторы для различных λ ортогональны; ||T|| = r(T) = sup{|λ| : λ ∈ σ(T)}.

**Примеры**: матрица A = Aᵀ (симметричная)-самосопряжённый оператор ℝⁿ. Оператор умножения (Tf)(x) = φ(x)f(x) на L²(μ) при φ вещественной-самосопряжённый. Оператор дифференцирования d²/dx² с нулевыми граничными условиями на [0,1]-самосопряжённый неограниченный оператор.

Спектральное разложение

**Спектральная теорема** (компактный самосопряжённый оператор): если T-компактный самосопряжённый оператор на гильбертовом пространстве H, то существует ортонормированный базис {φₙ} из собственных векторов Tφₙ = λₙφₙ, и T = Σₙ λₙ ⟨·, φₙ⟩ φₙ. Любой x ∈ H раскладывается: x = Σₙ ⟨x, φₙ⟩ φₙ.

**Спектральная мера** (общий случай): для произвольного самосопряжённого оператора T существует проекторнозначная мера E: B(ℝ) → L(H) такая, что T = ∫ λ dE(λ). Для компактного T мера дискретна: E(Λ) = Σ_{λₙ ∈ Λ} Pₙ, где Pₙ = ⟨·, φₙ⟩φₙ-проектор на n-й собственный вектор.

Функциональное исчисление

**Функциональное исчисление**: для самосопряжённого оператора T = ∫ λ dE(λ) определяем f(T) = ∫ f(λ) dE(λ) для борелевской функции f. Для компактного T: f(T) = Σₙ f(λₙ) ⟨·, φₙ⟩ φₙ. Это позволяет определить T^{1/2}, exp(T), log(T), sin(T) для операторов.

**Применения**: матричная экспонента exp(A) = Σ Aⁿ/n! = V diag(exp(λᵢ)) V⁻¹ (для диагонализируемой A). Экспонента Хамильтониана в квантовой механике: U(t) = exp(-iHt/ℏ)-унитарный оператор эволюции. В численных методах: exp(-tL) с графовым лапласьяном L-диффузия на графе.

PCA как функциональное исчисление: матрица ковариаций C = X^T X / n-самосопряжённый оператор. PCA = вычисление главных компонент через спектральное разложение C = V Λ V^T. Низкоранговая аппроксимация-усечение до k наибольших собственных значений. Whitening = умножение на C^{-1/2} (через функциональное исчисление).

Ключевые идеи

• **Самосопряжённость**: T = T* ⟹ все λ вещественны, с.в. для разных λ ортогональны, ||T|| = r(T)
• **Спектральное разложение**: T = Σ λₙ Pₙ (компактный случай) = ∫ λ dE(λ) (общий); любой x разлагается в ряд по ортонормированному базису из с.в.
• **Функциональное исчисление**: f(T) = ∫ f(λ) dE(λ); позволяет определить T^{1/2}, exp(T), log(T); основа PCA, GP, квантовой механики

Связанные темы

Спектральная теорема связывает функциональный анализ с приложениями:

• Введение в спектральную теорию — Спектр, резольвента, компактные операторы-фундамент спектральной теоремы
• Пространства Соболева — Лапласиан -∇²-самосопряжённый оператор на L²; его собственные функции (синусы, косинусы) задают базис пространств Соболева

Вопросы для размышления

• PCA ищет направления максимальной дисперсии. Как это связано с нахождением наибольших собственных значений матрицы ковариаций как самосопряжённого оператора?
• Функциональное исчисление позволяет определить exp(-tL) для графового лапласьяна L. Что геометрически означает применение этого оператора к вектору f ∈ ℝⁿ?
• Спектральное разложение существует для самосопряжённых операторов. Что происходит для несамосопряжённых операторов-существует ли аналог?

Связанные уроки

• la-14-diagonalization