Network Information Theory

Когда 50 телефонов одновременно подключены к одной базовой станции 5G, сколько каждый может получить? Network Information Theory отвечает точно - и результат не «делим поровну», а намного сложнее и интереснее.

• **NOMA в 5G** (Non-Orthogonal Multiple Access) реализует суперпозиционное кодирование - теоретически оптимальную стратегию broadcast-канала. Пользователи вблизи БС помогают дальним.
• **Wi-Fi 6 OFDMA** разделяет частотный ресурс оптимально, приближаясь к теоретическому MAC capacity region.
• **Interference alignment** (Мотасари, 2008) показал: при N парах пользователей каждая может передавать со скоростью ½ log P, независимо от N. Это удивительный результат о кооперативном использовании помех.

Предварительные знания

• Typical Sequences and AEP

Многопользовательские каналы

Классическая теория Шеннона - один отправитель, один получатель. Реальные сети сложнее: множество пользователей делят канал (Wi-Fi), один передатчик обслуживает многих (телевидение), сигналы мешают друг другу (сотовые соты). Network Information Theory изучает эти ситуации. Ключевой результат: «capacity region» - область допустимых скоростей всех пользователей одновременно.

**Multiple Access Channel (MAC):** K пользователей передают в одному получателю. Capacity region MAC определяется условиями: для каждого подмножества S пользователей: ∑_{i∈S} Rᵢ ≤ I(X_S; Y | X_{S^c}). Область - выпуклый многогранник; каждая вершина достигается через successive cancellation.

Broadcast каналы

Broadcast-канал: один передатчик, несколько получателей с разным качеством каналов. Каждый получатель хочет своё сообщение. Оптимальная стратегия - суперпозиционное кодирование: «слабый» получатель декодирует только «нижний» слой, «сильный» - оба слоя. Это точно то, что делает LTE при обслуживании пользователей вблизи и вдали от базовой станции.

**Гауссовский broadcast:** один передатчик мощностью P, получатель 1 с SNR₁ > SNR₂ (получатель 2). Оптимально: X = √α·X₁ + √(1-α)·X₂ (суперпозиция). Получатель 1 (сильный) декодирует X₂ и вычитает (SIC), затем декодирует X₁. Ёмкость broadcast канала известна для гауссовского случая, но не для общего дискретного.

Relay каналы

Relay-канал (Ван дер Мёлен, 1971): между отправителем и получателем есть ретранслятор. Он может «услышать» часть сигнала отправителя и помочь передать информацию. Три основные стратегии: decode-and-forward (DF), compress-and-forward (CF), и amplify-and-forward (AF). Ни одна не оптимальна в общем случае - ёмкость relay-канала неизвестна.

**Decode-and-Forward:** relay декодирует сообщение отправителя, повторно кодирует и передаёт. Скорость R ≤ min(I(X;Y_relay), I(X,X_relay;Y)). **Compress-and-Forward:** relay сжимает своё наблюдение и пересылает. **Cut-Set Bound:** R ≤ max_{p(x,x_relay)} min(I(X,X_relay;Y), I(X;Y,Y_relay|X_relay)) - верхняя граница ёмкости.

Interference канал

Interference-канал: два отправителя передают разным получателям, но их сигналы интерферируют. Это модель сотовых сетей: телефон одного абонента мешает соседней соте. Ёмкость interference-канала в общем случае - одна из величайших открытых задач теории информации. Частично решена: при сильных помехах (strong interference) известна точно; при слабых - открыта.

**Interference channel:** при 'сильных помехах' (strong interference: a ≥ 1+P₁) оба получателя декодируют оба сообщения (TIN - treat interference as noise неоптимально). При 'слабых помехах' оптимальна TIN: просто игнорировать помеху как шум. Han-Kobayashi (1981) - лучшая известная нижняя граница. Capacity gap ≤ 1 бит/с/Гц (El Gamal, Costa, 1982).

Ключевые идеи

• **MAC (Multiple Access Channel):** К пользователей → один получатель. Capacity region - выпуклый многогранник. Достигается successive cancellation.
• **Broadcast:** один → много. Суперпозиционное кодирование оптимально для гауссовского случая.
• **Relay:** ретранслятор помогает передаче. Ёмкость relay-канала в общем случае неизвестна. DF, CF, AF - разные стратегии.
• **Interference:** взаимные помехи между парами. Старейшая открытая задача теории информации - 60 лет исследований, нет полного решения.

Связанные темы

Network IT объединяет идеи из каналов, кодирования и совместной типичности:

• Канал связи и пропускная способность — Базовый случай: один отправитель, один получатель
• Типичные последовательности и AEP — Совместная типичность - инструмент доказательства теорем Network IT
• Information Theory на собеседовании — MAC и broadcast - продвинутые вопросы на системных интервью

Вопросы для размышления

• Ёмкость interference-канала - открытая задача 60 лет. Что это говорит о сложности многопользовательских систем по сравнению с одноканальными?
• Как Wi-Fi 6 использует идеи Network Information Theory - что конкретно в нём «оптимально» с информационной точки зрения?
• Interference alignment показывает, что при N парах каждая может иметь скорость ½ log P. Почему это «удивительно» и что это означает практически?

Связанные уроки

• dist-03-fallacies