Untuk kasus modulasi linier pada saluran AWGN dengan simbol yang dapat dilengkapi (kasus yang sangat umum) pendekatan optimal adalah dengan benar-benar menggunakan filter yang cocok dengan bentuk gelombang simbol, yaitu:
q(x)=p(x)
Menggunakan filter yang cocok memberikan rasio signal-to-noise yang optimal pada output filter pada setiap keputusan instan. Ini mudah dilihat ketika Anda ingat bahwa filter yang cocok bertindak seperti korelator silang geser antara sinyal inputnya dan bentuk gelombang simbol yang diharapkan, menghubungkan keduanya pada semua kemungkinan keterlambatan. Pada instance keputusan optimal, respons impuls filter (biasanya ditingkatkan untuk memiliki satuan energi) sejajar persis dengan simbol yang ditransmisikan, analog dengan kondisi nol-lag pada operasi korelasi silang. Pada nilai saat ini, output filter sama dengan jumlah energi dalam simbol yang diterima, diskalakan oleh faktor yang bergantung pada data (misalnya untuk BPSK, filter yang cocok akan menampilkan atau ), ditambah istilah noise.Es−Es
Energi noise pada output filter selama pengambilan sampel instan tidak tergantung pada bentuk domain waktu dari respons impuls filter, hanya energi total respon impuls (seperti yang disebutkan sebelumnya, biasanya satu). Oleh karena itu, rasio sinyal terhadap noise dimaksimalkan dengan memaksimalkan jumlah energi sinyal dalam output filter pada saat pengambilan sampel. Dengan memilih filter penerima untuk dicocokkan dengan bentuk simbol, kami telah melakukannya, karena bentuk gelombang simbol memiliki korelasi maksimum dengan respons impuls filter yang memiliki bentuk identik. Jadi, filter yang cocok memberikan SNR maksimum, untuk kasing saluran AWGN.
Dengan pertarungan tangan yang melenceng (Anda pasti bisa melakukannya dengan lebih banyak ketelitian matematis, tapi saya seorang insinyur dan ini adalah layanan gratis; jika Anda ingin menggali rinciannya, periksa teori komunikasi digital apa pun teks), Anda mungkin berpikir bahwa saya lupa bahwa Anda bertanya tentang kasus ISI yang tidak ideal. Jangan takut, karena saya menegaskan bahwa jika Anda mengetahui bentuk pulsa yang ditransmisikan, filter yang cocok masih merupakan pilihan optimal untuk saluran AWGN.
Kuncinya: jika Anda mengetahui respons dari filter pendeteksian pulsa dan penerima, dan , dan simbol "beberapa" terakhir yang ditransmisikan, Anda dapat menghitung apa yang diinduksi ISI oleh simbol-simbol sebelumnya dan bertanggung jawab untuk itup(x)q(x) ; itu adalah kuantitas deterministik. Jumlah riwayat simbol yang Anda perlukan terkait dengan jumlah ISI yang Anda miliki, yaitu berapa banyak periode simbol yang dioleskan oleh tanggapan filter berjenjang.
Tentu saja, Anda biasanya tidak tahu dengan pasti apa beberapa simbol sebelumnya; jika Anda melakukannya, maka Anda mungkin berada pada SNR yang cukup tinggi sehingga ISI Anda dapat diabaikan. Dalam kasus yang lebih menarik, Anda tidak dapat membuat asumsi itu. Sebagai gantinya, pendekatan deteksi urutan kemungkinan maksimum digunakan menggunakan algoritma Viterbi. Proses ini disebut sebagai penyamaan Viterbi , karena dalam model ini Anda memperlakukan ISI yang diinduksi oleh bentuk pulsa seperti kode konvolusional bernilai lunak yang diterapkan pada bentuk gelombang transmisi Anda. Durasi waktu ISI dalam equalizer Viterbi menentukan jumlah status algoritma yang diperlukan, mirip dengan panjang kendala dalam kode konvolusional.
Pendekatan ini sering digunakan dalam sistem yang memiliki bentuk pulsa tidak optimal yang Anda catat; satu contoh penting adalah GSM (yang menggunakan bentuk pulsa Gaussian yang meluas melintasi beberapa interval simbol). Satu referensi bagus tentang topik ini diterbitkan oleh Sklar pada tahun 2003:
B. Sklar, "Bagaimana saya belajar mencintai teralis", IEEE Signal Processing Magazine, hlm. 87-102, Mei, 2003