Мультилинейная алгебра

Google DeepMind хранит веса свёрточных сетей как тензоры ранга 4: для 512 фильтров 3x3 с 256 каналами тензор (512,256,3,3) содержит 1 179 648 параметров в одном слое.

• **TensorFlow/PyTorch:** все операции DL -- тензорные контракции: свёртка, attention, matmul реализованы через einsum.
• **Физика:** тензор инерции, тензор напряжений Коши, тензор Максвелла -- тензоры ранга 2+ в инженерных расчётах.
• **PCA:** ковариационная матрица -- симметричный (0,2)-тензор; её спектральное разложение даёт главные компоненты.

Тензоры и тензорное произведение

Google DeepMind использует тензоры ранга 4 для хранения весов свёрточных сетей: для модели с 512 фильтрами 3×3 и 256 каналами это тензор формы (512,256,3,3) - 1 179 648 параметров в одном слое.

Внешняя алгебра и дифференциальные формы

Теория электромагнетизма Максвелла записывается компактно через 2-форму F=dA: все 4 уравнения Максвелла сводятся к dF=0 и d*F=J - два уравнения вместо четырёх.

Симметричные тензоры и квадратичные формы

В задаче Principal Component Analysis метрика данных задаётся ковариационной матрицей - симметричным тензором ранга (0,2). Eigen-декомпозиция этого тензора находит главные оси рассеяния.

Ключевые идеи

• **Тензор (p,q):** p контравариантных, q ковариантных индексов. Трансформация при смене базиса -- произведение матриц Якоби.
• **Внешнее произведение:** v^w=-w^v, dim Lambda^k(V)=C(n,k). Кодирует объём и ориентацию -- основа уравнений Максвелла.
• **Симметричные тензоры:** квадратичные формы, PCA. Спектральная теорема: Q(v)>0 для всех v<>0 iff все собственные значения > 0.