Kapasitas saluran AWGN

Saya bingung memahami konsep dasar komunikasi melalui saluran AWGN. Saya tahu kapasitas saluran AWGN waktu diskrit adalah:

C = \frac{1}{2} \log_{2} (1 + \frac{S}{N})

$C=\frac{1}{2}\log_2\left(1+\frac{S}{N}\right)$ dan itu dicapai ketika sinyal input memiliki distribusi Gaussian. Tapi, apa artinya sinyal input adalah Gaussian? Apakah ini berarti bahwa amplitudo setiap simbol codeword harus diambil dari ansambel Gaussian? Apa perbedaan antara menggunakan codebook khusus (dalam hal ini Gaussian) dan memodulasi sinyal dengan pensinyalan M-ary, katakanlah MPSK?

digital-communications gaussian information-theory

— Mah
sumber

Jawaban:

Dengan asumsi saluran yang inputnya setiap waktu adalah variabel acak kontinu $X$ dan hasilnya $Y=X+Z$ dimana $Z\sim\mathcal{N}(0,N)$ dan $Z$ independen dari $X$ , kemudian

C_{CI-AWGN} = \frac{1}{2} \log_{2} (1 + \frac{P}{N})

$C_{\text{CI-AWGN}}=\frac{1}{2}\log_2\left(1+\frac{P}{N}\right)$ adalah kapasitas saluran input kontinu di bawah batasan daya

E X^{2} \leq P

$\mathsf{E}X^2\le P$ Informasi timbal balik

I (X; Y)

$I(X;Y)$ dimaksimalkan (dan sama dengan

C_{CI-AWGN}

$C_{\text{CI-AWGN}}$ ) kapan

X \sim N (0, P)

$X\sim\mathcal{N}(0,P)$ .

Ini berarti jika $X$ adalah variabel acak Gaussian kontinu dengan varian yang diberikan, maka output memiliki informasi timbal balik tertinggi dengan input. Itu dia!

Saat variabel input $X$ diskritisasi (terkuantisasi), diperlukan formulasi baru. Memang, berbagai hal dapat dengan mudah menjadi sulit. Untuk melihatnya sedikit, orang dapat mempertimbangkan kasus sederhana diskritisasi yang sangat kasar $X$ di mana ia hanya dapat memiliki dua nilai. Jadi asumsikan itu $X$ dipilih dari alfabet biner, misalnya biarkan $X\in\{\pm1\}$ (atau versi yang diskalakan untuk memenuhi batasan daya). Dalam hal modulasi, identik dengan BPSK.

Ternyata kapasitas (bahkan dalam kasus sederhana ini) tidak memiliki bentuk tertutup. Saya melaporkan dari "Teori Pengkodean Modern" oleh Richardson dan Urbanke:

\begin{aligned} C & _{BI-AWGN} = 1 + \\ \frac{1}{\ln (2)} ((\frac{2}{N} - 1) Q (\frac{1}{\sqrt{N}}) - \sqrt{\frac{2}{π N}} e^{- \frac{1}{2 N}} + \sum_{i = 1}^{\infty} \frac{(- 1)^{i}}{i (i + 1)} e^{\frac{2 i (i + 1)}{N}} Q (\frac{1 + 2 i}{\sqrt{N}})) \end{aligned}

$\begin{align}C&_{\text{BI-AWGN}}=1+\\&\frac{1}{\ln(2)} \left(\left(\frac{2}{N}-1\right)\mathcal{Q}\left(\frac{1}{\sqrt{N}}\right)-\sqrt{\frac{2}{\pi N}}e^{-\frac{1}{2N}}+\sum_{i=1}^{\infty}\frac{(-1)^i}{i(i+1)}e^{\frac{2i(i+1)}{N}}\mathcal{Q}\left(\frac{1+2i}{\sqrt{N}}\right)\right)\end{align}$ Perbandingan antara kedua kasus tersebut dapat dilihat pada gambar di bawah ini:

— msm
sumber

Apa yang akan Anda lakukan jika ingin lebih dekat dengan kapasitas? menggunakan skema PSK pesanan lebih tinggi?

— Mah

@msm Saya selalu percaya bahwa FEC adalah konsep umum termasuk H-ARQ, atau H-ARQ adalah trik yang adil untuk mengurangi panjang codeword per transmisi, yaitu untuk mengurangi kompleksitas decoding, dengan biaya total waktu transmisi yang lebih lama, bukan?

— AlexTP

@msm Harap berhenti menghapus posting lama dan berharga Anda!

— Peter K.

@msm Ketika Anda mendaftar untuk SP.SE, Anda memberi situs itu lisensi yang tidak dapat dibatalkan untuk menggunakan konten. Harap berhenti menghapus konten Anda yang berharga.

— Peter K.

Formula kapasitas

\begin{matrix} (1) & C = 0.5 \log (1 + \frac{S}{N}) \end{matrix}

$C = 0.5 \log (1+\frac{S}{N}) \tag{1}$ adalah untuk saluran waktu diskrit.

Dengan asumsi Anda memiliki urutan data $\left\lbrace a_n \right\rbrace$ untuk mengirim, Anda memerlukan satu set gelombang ortonormal $\left\lbrace \phi_n(t) \right\rbrace$ untuk modulasi. Dalam modulasi linier, milik siapa modulasi M-ary, $\phi_n(t) = \phi(t - nT)$ dimana $T$ adalah durasi simbol dan $\phi(t)$ adalah prototipe gelombang sehingga baseband continous time TX signal menjadi

\begin{matrix} (2) & x (t) = \sum_{n} a_{n} ϕ (t - n T) \end{matrix}

$x(t) = \sum_n a_n \phi(t-nT) \tag{2}$

Modulasi khas menggunakan kasus khusus itu $\left\lbrace \phi_n(t) \right\rbrace$ memenuhi kriteria ISI Nyquist dengan filter yang cocok untuk memulihkan $a_n$ . Yang terkenal $\phi(t)$ adalah Root cosinus terangkat .

Saluran AWGN kontinu adalah model itu

\begin{matrix} (3) & y (t) = x (t) + n (t) \end{matrix}

$y(t) = x(t) + n(t) \tag{3}$

dimana $n(t)$ adalah proses stokastik putih Gaussian.

Dari (2), kita bisa melihatnya $a_n$ adalah proyeksi dari $x(t)$ di $\left\lbrace \phi_n(t) \right\rbrace$ . Lakukan hal yang sama dengan $n(t)$ , proyeksi dari $n(t)$ pada set ortonormal adalah urutan variabel acak Gaussian iid $w_n = \langle n(t),\phi_n(t) \rangle$ (Saya benar-benar berpikir begitu $n(t)$ didefinisikan dari proyeksinya); dan telepon $y_n = \langle y(t),\phi_n(t) \rangle$ . Voa, kami memiliki model waktu diskrit yang setara

\begin{matrix} (4) & y_{n} = a_{n} + w_{n} \end{matrix}

$y_n = a_n + w_n \tag{4}$

Rumus (1) dinyatakan untuk $S$ dan $N$ adalah energi (varians if $a_n$ dan $w_n$ adalah nol rata - rata) dari $a_n$ dan $w_n$ masing-masing. Jika $a_n$ dan $w_n$ adalah Gaussian, begitu juga $y_n$ dan kapasitas dimaksimalkan. (Saya dapat menambahkan bukti sederhana jika Anda mau).

apa artinya sinyal input adalah Gaussian? Apakah ini berarti bahwa amplitudo setiap simbol codeword harus diambil dari ansambel Gaussian?

Itu berarti variabel acak $a_n$ adalah Gaussian.

Apa perbedaan antara menggunakan codebook khusus (dalam hal ini Gaussian) dan memodulasi sinyal dengan pensinyalan M-ary, katakanlah MPSK?

Bentuk gelombang $\phi_n(t)$ set perlu orthonormal, yang berlaku untuk M-PSK, sehingga $w_n$ adalah iid Gaussian.

Perbarui Namun $a_n$ dikuantisasi jadi secara umum, itu bukan Gaussian lagi. Ada beberapa penelitian tentang topik ini, seperti penggunaan Lattice Gaussian Coding (tautan) .

— AlexTP
sumber

@msm maksudku saluran "waktu diskrit". Ya, variabel acak ini kontinu, dukungannya kontinu. Saya telah berbicara tentang waktu terus-menerus dan waktu diskrit karena penulis bertanya tentang modulasi.

— AlexTP

@msm (3) saya adalah kontinu, dan (4) adalah diskrit yang setara. Secara fisik dalam skala non-kuantum, kita berada dalam (3). Untuk menganalisis, kami menggunakan (4). Kami hanya berbicara tentang dua hal yang berbeda, saya kira. Saya telah mengedit jawaban saya untuk menggunakan terminologi yang benar.

— AlexTP

@msm melihat jawaban Anda dan mengetahui bahwa saya salah mengerti apa yang ingin ditanyakan oleh penulis pertanyaan tentang modulasi dan apa yang Anda sampaikan kepada saya. Saya telah memperbarui jawaban saya untuk menghindari bagian yang menyesatkan. Terima kasih.

— AlexTP

"Saya benar-benar berpikir bahwa n (t) didefinisikan dari proyeksi" - Masalahnya adalah white noise memiliki dimensi yang tak terbatas. Yang menarik adalah itu, untuk masalah pemulihan

a_{n}

$a_n$ , hanya proyeksi menyala

ϕ_{n} (t)

$\phi_n(t)$ relevan - semua proyeksi tak terbatas lainnya yang mungkin tidak membantu. Lihat "teorema tidak relevan".

— MBaz

@ MBaz ya saya setuju. Teorema yang tidak relevan dan teorema pengambilan sampel adalah pasangan untuk menetapkan model saluran waktu diskrit dasar. Bagian ortogonal tidak berkorelasi sehingga independen berdasarkan asumsi Gaussian. Namun saya pikir saya tidak akan mengubah jawaban saya karena hal-hal proyeksi ini tidak berhubungan langsung dengan pertanyaan. Terima kasih telah menjelaskannya.

— AlexTP

Untuk mengatakan bahwa sinyal input memiliki distribusi Gaussian berarti bahwa itu didistribusikan sebagai variabel acak Gaussian. Dalam praktiknya, seseorang bergantung pada pengkodean lebih dari beberapa instance saluran (dalam waktu) alih-alih mengandalkan distribusi input Gaussian. Ada teori indah yang penuh dengan bukti yang berada di luar cakupan jawaban ini (Teori Informasi). Kode kontrol kesalahan (atau kode saluran) biasanya bergantung pada penggunaan modulasi QAM / PSK yang sudah dikenal, tetapi melalui redundansi kode dan beberapa penggunaan saluran, mereka dapat mendekati (walaupun tidak cukup mencapai) kapasitas saluran. Sketsa alasan (tanpa perincian lengkap) diberikan selanjutnya.

Definisi kapasitas saluran adalah

C = sup_{{hal}_{X} (x)} saya (X; Y)

$C = \sup_{p_X(x)} I(X; Y)$ dimana

X

$X$ secara longgar dapat disebut sebagai variabel input acak Anda, dan

Y

$Y$ secara longgar dapat disebut sebagai variabel acak keluaran Anda, dan

I (\cdot, \cdot)

$I(\cdot,\cdot)$ adalah Informasi Saling dari

X

$X$ dan

Y

$Y$ . Definisi ini mengharuskan kami untuk mencari semua distribusi input yang mungkin

p_{X} (x)

$p_X(x)$ untuk distribusi yang memaksimalkan Informasi Reksa. Saluran AWGN diskrit memiliki hubungan input / output yang didefinisikan sebagai

Y = X + Z

$Y = X + Z$ dimana

Z

$Z$ adalah nol rata-rata Gaussian dengan varian

σ_{Z}^{2}

$\sigma_Z^2$ (perhatikan itu

σ_{Z}^{2} = N

$\sigma_Z^2=N$ dan

σ_{X}^{2} = S

$\sigma_X^2=S$ dalam notasi Anda). Saya tidak punya waktu untuk memberikan semua detailnya sekarang. Namun, setiap buku tentang teori informasi dapat memandu Anda melalui bukti yang menunjukkan bahwa jika

X

$X$ didistribusikan sebagai Gaussian saat itu

I (X; Y)

$I(X;Y)$ (informasi timbal balik dari

X

$X$ dan

Y

$Y$ ) dimaksimalkan. Sebagai contoh, lihat Elemen Teori Informasi oleh Thomas Cover. Jika Anda belum membacanya, risalah asli Shannon A The Mathematical Theory of Communication adalah bacaan yang bermanfaat dengan alasan yang jelas.

— hop
sumber

Tidak ada alasan untuk pemungutan suara?

— hop