A Performance Comparison of DSE-MMA and DQE-MMA Adaptive Equalization Algorithm using Dither Signal

Dither 신호를 이용한 DSE-MMA와 DQE-MMA 적응 등화 알고리즘의 성능 비교

Abstract

This paper compares the equalization performance of the DSE-MMA (Dithered Signed Error-MMA) and DQE-MMA (Dithered Quantized Error-MMA) adaptive equalization algorithm based on the dither signal in order to reduce the intersymbol interference occurs at communication channel. These algorithm was emerged in ordr to reduction of arithmetic operation than current MMA, it makes the independent and identical distribute the quantized error component by performing the 1 or N bit quautizer after adding the dither singal in obtaining the error signal for adapting process. It is possible to improve the robustness performance of adaptive algorithm, but degrade the MSE performance in steady state by dither signal. The paper directly compare the DSE-MMA and DQE-MMA adaptive equalization performance of the same concept of dithering in the same communication channel and signal to noise ratio by computer simulation. As a result of simulation, the DQE-MMA has more better in the every performance index, equalizer output constellation, residual isi, MSE and SER performance, but not in convergence speed.

본 논문에서는 채널에서 발생되는 부호간 간섭을 줄이기 위한 적응 등화 알고리즘에서 dither 신호를 이용하는 DSE-MMA와 DQE-MMA 의 등화 성능을 비교하였다. 이들 알고리즘은 기존 MMA의 연산량을 줄이기 위하여 등장하였으며, 적응을 위한 오차 신호를 얻는 과정에서 dither 신호를 부가한 후 1 또는 N 비트의 양자화를 수행함으로서 양자화 오차 성분이 independent and identical 분포하도록 하여 적응 알고리즘의 robustness 성능을 개선할 수 있지만 정상 상태에서 MSE 성능이 열화된다. 논문에서는 동일한 채널과 신호대 잡음비에서 동일한 개념의 dithering에 의한 DSE-MMA와 DQE-MMA의 적응 등화 성능을 시뮬레이션을 통해 직접 비교하였다. 시뮬레이션 결과 DQE-MMA가 수렴 속도를 제외한 모든 성능 지수의 잔여량에서 DSE-MMA보다 우월함을 확인하였다.

Ⅰ. 서 론

디지털 통신 시스템에서 유선과 무선의 통신 채널에서 부호 간 간섭은 비이상적인 펄스 shaping, 다중 경로 전파와 잔류 clock 및 반송파 위상 오차등에 의해 발생되며, 비선형 분산과 고조파 찌그러짐 및 대역 제한등이 공존하는 시분산 환경인 경우 이로 인한 시스템 throughput 은 심각하게 열화된다. 이를 극복할 수 있는 기술적인 대안으로 적응 등화를 들 수 있으며, 채널의 전달 특성이 불변인 경우 학습열을 이용하여 채널 특성을 추정하였고, 무선과 이동 채널 같은 전달 특성이 변동하는 시 변인 경우 학습열에 의존하지 않는 블라인드 적응 등화 방식이 사용된다^[1][3]. 따라서 학습열 비의존 또는 채널 변동에 대한 사전 정보가 없는 블라인드 방식에서는 송신 신호에 대한 통계적 사전 정보와 수신 신호만을 이용하므로 통신 채널 대역폭을 완전하게 사용할 수 있지만, 등화성능이 학습열 의존 방식보다 열화되는 문제점을 갖는다. 블라인드 적응 등화를 위한 알고리즘으로 CMA, RCA, MMA등을 들 수 있으며, 이와 같은 문제점을 극복하기 위하여 다양한 개량 방식들이 등장하였다. 이들 중에서 CMA는 채널에서 발생되는 진폭 찌그러짐에 의한 부호 간 간섭만을 보상하며, 위상에 의한 간섭은 불가능하지만, MMA는 연산량 증가에 의해 채널 진폭과 위상 찌그러짐의 부호간 간섭을 동시에 보상할 수 있는 능력을 갖지만, CMA보다 등화 성능이 열화된다. MMA의 연산량 증가를 줄이기 위해 등화기 탭 계수 갱신 시 오차 신호 극성을 고려하는 SE-MMA, QE-MMA가 등장하였다^[2][4][5]. SE-MMA는 1-bit 양자화기를 사용하여 오차 신호의 극성만을 이용하고, QE-MMA는 SE-MMA의 H/W 응용을 고려하여 고정된 양자화기 비트수에 power-of-two 연산을 적용하여 승산을 천이로 대체하였다. 전체적으로 이들은 기존 방식보다 등화 성능이 열화되므로 일정한 통계적 특성을 갖는 dithering 개념을 양자화 이전 단계에서 적용한 DSE-MMA와 DQE-MMA 가 등장하여 robustness 성능을 기존 방식보다 개선시켰다^[3][6][7].

본 논문에서는 SE-MMA와 QE-MMA에 dithering 개념을 조합한 DSE-MMA와 DQE-MMA 알고리즘의 성능을 동일한 채널과 dithering 관련된 동일 파라메터에서 시뮬레이션을 통해 비교하였다. 논문의 구성으로 2장에서는 적응 등화기를 사용하는 기저 대역 시스템 모델과 dithered 양자화 및 DSE-MMA와 DQE-MMA 알고리즘에 대하여 설명한 후, 3 장에서는 시뮬레이션을 위한 과정과 결과를 제시한 후, 4장에서는 결론을 내리겠다.

Ⅱ. 본 론

1. 기저 대역 통신 시스템 모델

그림 1은 적응 등화기를 사용한 일반적인 수신기의 기저 대역 모델을 나타낸 것으로 채널과 수신 필터, 등화필터 및 결정 장치와 등화 필터의 탭 계수를 계산, 갱신하는 적응 알고리즘의 기능 블럭으로 구성되어 있으며, 다음과 같은 가정이 성립된다.

(1) 송신 필터와 수신 필터는 이상적

(2) 입력 신호 s_k는 평균 0인 2차원 성상도일 것

(3) 미지의 SISO (Single In Single Output) 시스템인 채널 h_k의 영점은 단위원상에 존재

(4) 등화기 필터 fk는 탭 지연선 및 계수와의 승산기, 가산기로 구성되며 유한 차수이고, 부가 잡음 nk는 평균 0, 유한 분산값을 갖는 백색 가우시안 분포

송신측에서 16-QAM 신호 s_k를 전송하면 대역 제한 과 부호간 간섭을 발생시키는 임펄스 응답이 hk인 채널 을 통하여 수신측에 전달되며, 이때 일정한 신호대 잡음 비를 갖는 가우시안 잡음 n_k이 부가된다. 수신측에서는 수신 신호 r_k는 임펄스 응답이 fk인 등화기에 인가되어, 출력 신호 z_k를 얻게 된다. 이때 등화기의 전달 함수는 채널의 역전달 함수를 갖게 되어 z_k에는 부호간 간섭 영향을 최소화시킨 신호를 얻게 되며, 이를 이용하여 결정 장치에서 송신 신호의 추정치 \(\widehat{\mathrm{S}_{\mathrm{k}}}\)를 얻게 됨과 동시에 이 를 이용하여 오차 신호를 얻은 후 적응 알고리즘부에서 새로운 등화기 탭 계수 f_k+1을 얻는다. 이와 같은 과정 들을 주파수 영역에서 관찰해보면 송신 신호 s_k의 스펙 트럼은 S(w), 채널 h_k의 전달 함수를 H(w), 등화 필터 f_k의 전달 함수를 F(w), 결정 장치의 출력 \(\widehat{\mathrm{S}_{\mathrm{k}}}\) 의 스펙트럼을 \(\widehat{S(\omega)}\)라고 하면

\(\widehat{S(\omega)}=\mathrm{S}(\omega) \cdot \quad \mathrm{H}(\omega) \cdot \quad \mathrm{F}(\omega)\)       (1)

가 된다. 여기서 \(\mathrm{F}(\omega) \approx \frac{1}{\mathrm{H}(\omega)}\) 의 관계가 성립되면 이론적으로 \(\widehat{S(\omega)} \approx \mathrm{S}(\omega)\)가 성립되어 수신측에서 신호 복원이 가능하게 된다.

그림 1. 통신 시스템의 기저 대역 모델

Fig. 1. Baseband model of communication system

2. Dithered 양자화

dithered 양자화는 양자화 전에 dither라는 controlled 신호를 입력에 더하여 양자화를 수행함으로서 양자화 잡음의 통계적 특성을 개선하여 객관적 성능을 개선할 수 있는 방법을 말한다. 일반적으로 양자화기의 스텝 크기가 일정한 uniform 양자화기의 경우 비선형 특성으로 인하여 해석이 매우 복잡하므로 양자화 오차를 uniformly distributed random variable 즉 양자화 오차와 입력 신호와의 상관도가 0가 되도록 근사화 시켜선형화함으로서 양자화기의 특성을 해석하는 접근 방식이 시도되었다. Robert는 양자화 전에 랜덤 또는 pseudo random noise를 영상에 더한 후, 재생하기 전에 이들을 뺌으로서 양자화 잡음의 통계적 특성을 변화 시켜 재생 영상을 개선시킬 수 있음을 입증하였다^[3]. 그림 2는 nonsubstractive dither 양자화 개념을 나타낸 것으로 X_n은 양자화 대상이 되는 신호이며, W_n은 X_n 과 통계적으로 무관한 dither process를 나타낸다.

그림 2. Nonsubstractive dither 양자화

Fig. 2. Nonsubstractive dither quantization

이와 같이 X_n을 랜덤화 시키는 dithering에 의해 양자화 후에 얻어지는 양자화 오차는 다음과 같다.

\(e_{n}=q\left(X_{n}+W_{n}\right)-\left(X_{n}+W_{n}\right)\)       (2)

또한 양자화 잡음은 식 (2)를 더욱 확장하여 다음과 같다.

\(\epsilon_{\mathrm{n}}=\mathrm{q}\left(\mathrm{X}_{\mathrm{n}}+\mathrm{W}_{\mathrm{n}}\right)-\mathrm{X}_{\mathrm{n}}=\mathrm{e}_{\mathrm{n}}+\mathrm{W}_{\mathrm{n}}\)       (3)

따라서 SE-MMA와 같은 오차 함수를 얻기 위해서는 부호만을 고려하는 1-bit 양자화기를 사용한다. 여기서 적당한 dithering 기법을 적용하여 부호만을 얻는 sign 연산에 의한 원치 않는 동작 특성을 제거할 수 있다. 즉 양자화 전에 dither라는 random 신호를 부가하는 것은 양자화 과정에서 발생되는 정보 손실을 최소화할 수 있다. dither 신호를 부가되는 잡음이라는 관점에서 이와 같은 과정은 양자화 대상이 되는 신호 X_n과는 독립적이고 백색, 평균 0의 양자화 잡음이 된다. 이와 같은 과정에서 발생되는 양자화 잡음은 적은 스텝 크기의 적응 알고리즘에서 평균적으로 제거되며, 장기적으로는 부호만을 고려하지않는 unsigned 방식과 유사하다.

3. DSE-MMA 및 DQE-MMA 알고리즘

가. DSE-MMA 알고리즘

DSE-MMA는 SE-MMA 알고리즘에 dithering 과정을 결합한 알고리즘을 말한다. 이들은 기존 MMA에서 유래되었으며, MMA에서 적응 등화기 탭 계수 갱신을 위한 오차 신호와 계수 갱신 식은 다음과 같다.

\(\begin{aligned} &\overline{\mathrm{e}_{\mathrm{kMMA}}}=\mathrm{z}_{\mathrm{kr}}\left(\left|z_{\mathrm{kr}}\right|^{2}-\mathrm{R}_{\mathrm{MMA}}^{2}\right)+\mathrm{j} z_{\mathrm{ki}}\left(\left|z_{\mathrm{ki}}\right|^{2}-\mathrm{R}_{\mathrm{MMA}}^{2}\right) \\ &\mathrm{f}_{\mathrm{k}+1}=\mathrm{f}_{\mathrm{k}}-\mu \overline{\mathrm{e}_{\mathrm{kMMA}}} \mathrm{r}_{\mathrm{k}}^{*} \end{aligned}\)       (4)

SE-MMA는 식 (4)의 MMA 오차 함수에서 이들의 부호만을 이용하여 등화 필터 계수의 갱신에 사용되기 때문에 붙여진 이름으로 연산량을 줄일 수 있는 장점이 있다. SE-MMA에서 오차 함수와 탭 계수 갱신 식은 다음과 같다.

\(\begin{aligned} &\overline{\mathrm{e}_{\mathrm{kSE}-\mathrm{MMA}}}=\operatorname{sgn}\left[z_{\mathrm{kr}}\left(\left|z_{\mathrm{kr}}\right|^{2}-\mathrm{R}_{\mathrm{MMA}}^{2}\right)\right]+\mathrm{j} \operatorname{sgn}\left[z_{\mathrm{ki}}\left(\left|z_{\mathrm{ki}}\right|^{2}-\mathrm{R}_{\mathrm{MMA}}^{2}\right)\right] \\ &\mathrm{f}_{\mathrm{k}+1}=\mathrm{f}_{\mathrm{k}}-\mu \overline{\mathrm{e}_{\mathrm{kSE}}-\mathrm{MMA}} \mathrm{r}_{\mathrm{k}}^{*} \end{aligned}\)       (5)

DSE-MMA는 SE-MMA에 dithering 과정을 부가한 알고리즘을 말하며 이를 그림 3에 나타내었다. 그림에서 오차 함수를 발생할 때 dither signal을 부가한 후 1 비트 양자화를 수행한 후 이를 탭 계수 갱신을 위하여 사용한다.

그림 3. DSE-MMA 내부 구조

Fig. 3. Internal structure of DSE-MMA

이때 부가되는 dithering 신호는 PBE (Pefrect Blind Equalization) 조건인

- source의 정규화 된 kurtosis ks = E[|S_n|⁴]/σ_S⁴ 는 가우시안 프로세스보다 적은 sub-gaussion process 일 것

- identical, independent distribution, 평균 0 인 source의 E[S_n²] = 0 일 것을 만족시키기 위 하여 [-1~1] 사이의 균등 분포하는 랜덤 변수이며, DSE-MMA의 탭 계수 갱신 식은 다음과 같다.

\(\mathrm{f}(\mathrm{n}+1)=\mathrm{f}(\mathrm{n})-\mu \cdot \quad \alpha \cdot \quad \operatorname{csgn}\left(\mathrm{y}_{\mathrm{n}}^{*}\left(\mathrm{R}_{\mathrm{kSE}-\mathrm{MMA}}-\left|\mathrm{y}_{\mathrm{n}}\right|^{2}\right)+\alpha \mathrm{d}_{\mathrm{n}}\right) \mathrm{r}_{\mathrm{n}}\)       (6)

여기서 는 dither amplitude를 나타내며 robustness 와 정상 상태에서 MSE간의 절충점이 되도록 설정하여 \(\alpha>2\left(\mathrm{R}_{\mathrm{SE}-\mathrm{MMA}}^{2} / 3\right)^{1.5}\)가 되며, \(\mathrm{d}_{\mathrm{n}}=\mathrm{d}_{\mathrm{n}}^{(\mathrm{R})}+\mathrm{j} \mathrm{}_{\mathrm{n}}^{(\mathrm{I})}\)로 표현되는 (-1, 1)의 범위 내에서 uniform 분포하는 dither process의 실수부와 허수부의 조합이다.

나. DQE-MMA 알고리즘

DQE-MMA는 QE-MMA 알고리즘에 dithering 과정을 결합한 알고리즘을 말하며 QE-MMA의 오차 신호를 power-of-two 개념의 유한 비트 양자화와 부호만을 취하는 correlation multiplier를 결합하여 탭 계수 갱신을 shift와 가산 연산으로 대체 가능하여 적응 등화와 같은 분야에서 H/W로 응용할 때 복잡도를 줄일 수 있다. QE-MMA 알고리즘에서 탭 계수 갱신은 다음과 같다.
\(\mathrm{f}_{\mathrm{k}+1}=\mathrm{f}_{\mathrm{k}}-\mu \mathrm{Q}\left[\overline{\mathrm{e}_{\mathrm{kSE}-\mathrm{MMA}}}\right] \mathrm{r}_{\mathrm{k}}^{*}\)  (7)

Q[x]는 비선형 power-of-two quantizing 연산자이며 다음과 같이 정의된다.

\(\mathrm{Q}(\mathrm{x})= \begin{cases}\operatorname{sgn}(\mathrm{x}), & |\mathrm{x}| \geq 1 \\ 2^{\vdash \log _{2}|x|_{\dashv}} \operatorname{sgn}(\mathrm{x}), & 2^{-\mathrm{B}+2} \leq|\mathrm{x}|<1 \\ 2^{-\mathrm{B}+1} \operatorname{sgn}(\mathrm{x}), & |\mathrm{x}|<2^{-\mathrm{B}+2}\end{cases}\)       (8)

식(8)에서 B는 양자화 비트수를 나타내며, 기호 ⊢∙ ⊣ 는 ∙ 보다 적은 큰 정수를 나타낸다. 양자화기 는 입력을 “1”을 갖는 곳에 B비트로 대체하게 되며, 이 는 입력 공분산 행렬 Erkrk T이 diagonal일 때 성립한 다. DQE-MMA는 dither라고 하는 controlled noise 를 양자화 전단계에 부가하여 QE-MMA의 robustness 를 개선할 수 있다. 부가되는 dither에 의해 양자화 후 발생되는 잡음은 평균 0의 백색 가우시안 형태가 되며, 이는 양자화 되는 신호와는 독립적이다. DQE-MMA 알 고리즘에서 오차 함수와 탭 계수 갱신 식은 다음과 같다.

\(\begin{aligned} &\overline{\mathrm{e}_{\mathrm{kDQE}-\mathrm{MMA}}}=\alpha \cdot \quad \operatorname{sgn}\left[z_{\mathrm{kr}}\left(\left|z_{\mathrm{kr}}\right|^{2}-\mathrm{R}_{\mathrm{MMA}}^{2}\right)+\alpha \cdot \mathrm{d}_{\mathrm{r}}\right]+\\ &\mathrm{j} \cdot \alpha \cdot \operatorname{sgn}\left[z_{\mathrm{ki}}\left(\left|z_{\mathrm{ki}}\right|^{2}-\mathrm{R}_{\text {MMA }}^{2}\right)+\alpha \cdot \mathrm{d}_{\mathrm{i}}\right]\\ &\mathrm{f}_{\mathrm{k}+1}=\mathrm{f}_{\mathrm{k}}-\mu \mathrm{Q}\left[\overline{\mathrm{e}_{\mathrm{kDQE}-\mathrm{MMA}}}\right] \mathrm{r}_{\mathrm{k}}^{*} \end{aligned}\)       (9)

여기서 d_r, d_i는 (-1, +1) 사이에 균등 분포하는 dithering 신호, α는 dither gain을 나타내는 상수 값이고 그림 4 는 DQE-MMA의 내부 구조를 나타낸 것이다.

그림 4. DQE-MMA의 내부 구조

Fig. 4. Internal structure of DQE-MMA

Ⅲ. 컴퓨터 시뮬레이션 및 결과

dither 신호의 부가에 의한 DSE-MMA와 DQE-MMA 적응 등화 알고리즘의 성능 비교를 확인하기 위하여 컴퓨터 시뮬레이션을 수행하였고, 이를 위한 파라미터로는 동일한 채널에서 신호대 잡음비를 30dB, 스텝 크기로서 DSE-MMA에서 μ = 0.008, DQE-MMA에서는 μ = 0.08 및 dither gain μ = 0.134와 DQE-MMA의 양자화 비트 수 B = 6을 적용하였다. 그림 5는 시뮬레이션을 위한 전체 신호 처리도를 나타낸 것으로 송신측에서는 20000개의 16-QAM 신호를 발생한 후 채널을 통과시키고 원하는 신호대 잡음비를 갖도록 잡음을 부가시켜 수신 신호 r_k를 얻었다. 이를 DSE-MMA와 DQE-MMA 알고리즘을 적용할 때 등화기 출력 성상도, 잔류 isi, MSE 및 SER 성능을 비교하며, 이때 발생되는 지연 시간은 무시한다.

그림 5. 신호 처리도

Fig. 5. Flowdiagram of signal processing

그림 6은 이들 알고리즘에 공통으로 적용되는 dither 신호의 히스토그램을 나타낸 것으로, 그림에서 (-1, +1) 범위내에서 거의 균등 분포함을 알 수 있다.

그림 6. Dither 신호

Fig. 6. Dither signal

이들 알고리즘의 첫 번째 성능을 나타내기 위하여 이들 을 적용할 때 정상 상태의 등화기 출력 신호 성상 도를 그림 7에 나타내었다. 출력 성상도에서는 신호점 폭이 좁고 신호점 간격이 클수록 등화 성능이 우월하여 결정 장치에서 복원 시 오류 발생 가능성을 줄일 수 있다. 그림에서 DQE-MMA가 DSE-MMA보다 신호점의 폭과 거리에서 좁고, 멀어지므로 적응 등화 성능이 개선됨을 알 수 있다.

그림 7. 등화기 출력 신호

Fig. 7. Output signal of equalizer

적응 알고리즘들의 내부 성능을 비교하기 위한 지수로 잔류 isi, MSE를 적용하였으며 채널의 상태 변화에 따른 수렴 속도와 정상 상태 이후의 잔여량을 알 수 있다. 그림 8은 반복 횟수에 대한 잔류 isi 성능을 나타낸 것으로 수렴 속도는 미미하게 DSE-MMA가 DQE-MMA보다 빠르지만, 정상 상태 이후의 잔여량에서는 DQE-MMA가 DSE-MMA보다 약 2dB 정도 개선됨을 알 수 있다. 또한 그림 9는 등화기 출력과 결정 장치의 출력 간의 진폭 차이의 자승치를 나타내는 MSE 성능을 나타낸 것으로 결정 장치에서 발생되는 timing jitter 양을 의미한다. MSE 성능에서도 그림 8의 잔류 isi 성능과 유사한 결과를 얻을 수 있었다. 마지막 성능 비교를 위해 이들 알고리즘의 외부 잡음에 대한 강인성을 확인하기 위하여 신호대 잡음비에 따른 심볼 오류율 (SER) 성능을 비교하였으며 그림 10에 나타내었다. 이를 위하여 채널에서 부가되는 신호대 잡음비를 0 ~ 30dB 까지 5dB 단위로 변화시키면서 20, 000개의 심볼을 7회 반복 시뮬레이션하였으며, 결과 SNR이 낮은 0~5dB 범위에서는 DSE-MMA 가 DQE-MMA보다 우월하지만, SNR이 10dB 이상의 범위에서는 DQE-MMA가 DSE-MMA보다 우월함을 알 수 있으며, dithering에 의해 DQE-MMA가 DSE-MMA 보다 robustness 성능 개선이 더욱 개선됨을 알 수 있다.

그림 8. 잔류 isi 성능

Fig. 8. Residual isi performance

그림 9. MSE 성능

Fig. 9. MSE performance

그림 10. SER 성능

Fig. 10. SER performance

Ⅳ. 결 론

본 논문에서는 부호간 간섭과 잡음을 최소화시켜 통신시스템의 throughput을 향상시킬 수 있는 DSE-MMA 와 DQE-MMA 알고리즘의 등화 성능을 비교하였으며, 이들은 공통적으로 dither 신호에 의한 오차 신호를 발생 시켜 탭 계수를 갱신하는 공통점을 갖는다. DSE-MMA는 SE-MMA 알고리즘에서 dither 신호를 인가한 후 1 bit 양자화기를 사용하지만, DQE-MMA는 H/W 응용을 위한 dither 신호를 인가한 후 power-of-two 연산을 위해 6 bit 양자화기를 사용한다. 이와 같이 dither 신호를부가함으로서 기존 방식들인 SE-MMA와 QE-MMA의 robustness 등화 성능을 개선시킬 수 있다. 이의 개선 등화 능력을 비교하기 위하여 내부 지수인 잔류 isi, MSE와 외부 지수로서 등화기 출력 신호 성상도와 SER 을 사용하였다. 비교 결과 내부와 외부 성능 지수에서 DQE-MMA가 DSE-MMA보다 우월함을 확인하였으나, 정상 상태 까지의 도달을 위한 수렴 속도에서는 DSE-MMA가 DQE-MMA보다 미미하지만 빠름을 알 수 있었다. 향후 이와 같은 연구 결과를 더욱 확장시키기위하여 신호대 잡음비가 낮은 환경에서도 SER 성능을 개선하고 수렴 속도를 더욱 개선할 수 있는 새로운 DQE-MMA 등화 알고리즘에 대한 연구가 필요하다.