A Performance Comparison of mSE-MMA and mDSE-MMA Adaptive Equalization Algorithm in 16-QAM Signal Transmission

16-QAM 신호 전송에서 mSE-MMA와 mDSE-MMA 적응 등화 알고리즘의 성능 비교

Abstract

This paper related with the performance comparison of mSE-MMA and mDSE-MMA adaptive equalization algorithm which is possible to reduce the intersymbol interference that occurs in the nonlinear communication channel transmitting 16-QAM signal. This two algorithm is possible to reduce the computational load compared to the current MMA algorithm, it has the degraded equalization performance due to simplified arithmetic in order to applying the mobile communication terminal. In order to improve the performance degradation, they controls the step size according to the existence of arbitrary radius circle of equalizer output compared to transmitted symbol point. The variation of step size according to this principle is applied to the SE-MMA and DSE-MMA, namely mSE-MMA and mDSE-MMA algorithm, the algorithm's performance were compared in the same channel and noise environment by computer simulation. As a result of simulation, the mSE-MMA has more superior to the mDSE-MMA in residual value of every performance index and SER performance, and the vice versa result in convergence speed.

본 논문은 16-QAM 신호 전송시 비선형 통신 채널에서 발생되는 부호간 간섭을 줄일 수 있는 mSE-MMA와 mDSE-MMA 적응 등화 알고리즘의 성능 비교에 관한 것이다. 이들은 이동 통신 단말에 적용되기 위하여 알고리즘은 기존 MMA의 연산량을 줄일 수 있지만, 이로 인하여 등화 성능의 열화되는 문제점이 있다. 이와 같은 성능 열화를 개선하기 위하여 적응을 위한 스텝 크기를 등화기의 출력이 송신 신호점을 중심으로 임의 반경내의 존재 여부에 따라 조절하게 된다. 이와 같은 원리에 따라 스텝 크기를 변화시키는 개념을 SE-MMA와 DSE-MMA에 적용한 mSE-MMA와 mDSE-MMA 알고리즘의 성능을 비교하였으며, 이를 위하여 동일 채널과 잡음 환경에서 컴퓨터 시뮬레이션을 수행하였다. 시뮬레이션 결과 모든 성능 지수의 잔여량과 SER 성능에서 mSE-MMA가 mDSE-MMA 보다 우월하였으나, 수렴 속도에서는 mDSE-MMA가 mSE-MMA보다 약간 우월하였다.

Ⅰ. 서론

지난 수년 동안 디지털 이미지, 동영상 및 비디오 같은 멀티미디어 데이터를 무선 및 이동 멀티미디어 통신시스템에서 대역폭 제한 및 부호간 간섭 등의 채널 손상을 최소화시키거나 보상하여 전송 효율 및 throughput 을 높이기 위한 기술적인 연구가 지속되어 왔다. 또한 차세대 이동/무선 통신망에서는 유비쿼터스 컴퓨팅과 같은 개인화된 이동 통신을 향하여 지속적인 발전이 예상되는 현 시점에서 상기의 채널 손상을 극복할 수 있는 기술적 대안의 중요성이 증대되고 있다. 현재 기술적인 대안으로는 시스템 내부에서는 정보의 압축/신장과 고효율 및부분 응답 신호 방식, 시스템 외부에서는 다이버시티와 등화기 기술등을 들 수 있다. 이와 같은 대안 기술들은 송신 출력 및 시스템 성능과 전송 효율을 그대로 유지해야 하므로 많은 시스템 설계자들에게 높은 관심사이었으며, 이들을 만족시킬 수 있는 유일한 기술로는 적응 등화기를 들 수 있다^[1][3]. 고속, 광대역 멀티미디어 데이터를전송할 때 발생되는 대표적인 채널 손상으로는 부호간 간섭을 들 수 있으며, 이는 적응 등화기(adaptive equalizer)를 사용하여 보상이 가능하다. 초기의 등화기는 송수신국간에 약속된 학습열에 의한 채널 전달 함수를 추정하여 이의 역특성을 갖도록 등화기의 필터 계수를 설정한 후, 데이터 전송을 개시하는 방식이다. 그러나 무선/이동 채널과 같이 시변 특성 채널인 경우 전달 함수가 변동하므로 등화기 필터 계수를 수시로 변화시키기 위한 학습열 전송이 데이터 전송 중에 수시로 이루어져야 한다^[2][5]. 이로 인한 채널 용량을 충분히 이용할 수 없으며, 전송 효율이 저하되므로 이를 개선키 위해 블라인드 적응 등화기가 사용되었다.

대표적인 블라인드 방식으로 진폭과 위상의 동시 보상이 가능한 MMA를 들 수 있으나, 등화 성능이 기존의 CMA보다 열화되므로 이를 극복하기 위한 다양한 알고리즘이 등장하게 된다. MMA의 이와 같은 장점에도 불구하고 연산량이 CMA보다 증대되므로 이를 줄이기 위하여 SE-MMA와 DSE-MMA가 등장하였으며^[2][4], 연산량경감에 따른 성능 개선을 위하여 mSE-MMA와 mDSE-MMA가 등장하여 등화기의 출력을 송신 심볼점을 중심으로 일정 반경내에 존재하도록 적응 스텝 크기를 조절한다^[3][4].

논문에서는 16-QAM 신호 방식을 이용하는 개인 이동 통신 단말과 같은 전력 제한 시스템에 적용 가능한 적응 등화 알고리즘으로 MMA 계열에서 연산량 최소화 및이로 인한 등화 성능 열화를 보완할 수 있도록 modified step size 개념을 적용하는 mSE-MMA와 mDSE-MMA 의 등화 성능를 비교하였다. 이를 위해 2장에서는 블라인드 적응 등화기를 사용하는 기저 대역 통신 모델과 mSE-MMA 와 mDSE-MMA 알고리즘에 대해 설명한다. 3장에서는 컴퓨터 시뮬레이션을 위한 환경과 파라메터 값의 정의 및 적응 등화기의 성능에 대한 시뮬레이션결과를 제시하고, 4장에서는 결론을 내리겠다.

Ⅱ. 본론

1. 통신 시스템 모델

그림 1은 적응 등화기를 사용한 송수신 시스템의 기저대역 모델을 나타낸 것으로 송신측에서 기저 대역 신호 s_k를 발생하면 이는 송신 필터를 통과된 후, 부호간 간섭을 발생하는 임펄스 응답 계수가 h_k인 채널을 통하여 수신측에 전달된다. 이때 채널에서는 일정한 신호대 잡음전력비를 갖는 부가 잡음 n_k 및 다른 간섭 신호가 더해진후 수신측으로 전송된다. 수신측에서는 수신 필터를 통과한 후, 등화기에 인가된다. 이때 계수가 f_k인 등화기의 전달 함수 F(ω)는 통신 채널의 역함수 1/H(ω)를 갖도록 설정된다. 이 과정에서 학습열 없이도 등화기의 출력 Z_k 를 이용하여 오차 신호를 발생한 후 적응을 위한 새로운 등화기 탭 계수 f_k+1을 얻으며, 등화기 출력은 결정 장치를 통해 송신 신호의 추정치 \(\widehat{\mathrm{s}_{\mathrm{k}}}\)를 얻게 된다. 완전 등화 상태에서 채널의 임펄스 응답 h_k와 등화기의 디지털 필터 계수 f_k의 선형 convolution 결과는 시간 영역에서는 임펄스, 주파수 영역에서는 평탄한 전달 특성이 된다.

그림 1. 통신 시스템 모델

Fig. 1. Communication system model

2. mSE-MMA

SE-MMA는 기존의 MMA 적응 등화 알고리즘에서는 다음과 같이 정의되는 비용 함수 J를 최소화시키도록 SGA (Stochastic Gradient Algorithm)을 적용한다.

\(\begin{array}{c} \mathrm{J}=\mathrm{E}\left[\left(\left|z_{\mathrm{kr}}\right|^{2}-\mathrm{R}_{\mathrm{MMA}}^{2}\right)^{2}+\left(\left|z_{\mathrm{ki}}\right|-\mathrm{R}_{\mathrm{MMA}}^{2}\right)^{2}\right] \\ \mathrm{R}_{\mathrm{MMA}}^{2}=\frac{\mathrm{E}\left(\left|\mathrm{S}_{\mathrm{kr}}^{4}\right|\right)}{\mathrm{E}\left(\left|\mathrm{s}_{\mathrm{kr}}^{2}\right|\right)}=\frac{\mathrm{E}\left(\left|\mathrm{s}_{\mathrm{ki}}^{4}\right|\right)}{\mathrm{E}\left(\left|\mathrm{s}_{\mathrm{ki}}^{2}\right|\right)} \end{array}\)       (1)

여기서 z_kr,z_ki은 z_k의 실수와 허수를, s_kr, s_ki은 s_k의 실수와 허수를 각각 나타내며, \(\mathrm{r}_{\mathrm{mma}}^{2}\) 는 MMA의 dispersion constant를 의미한다. 식(1)의 비용 함수는 1차원 CMA 비용 함수를 2개 더한 형태로 표시되며 오차 함수와 등화 필터 계수의 갱신식은 다음과 같이 된다.

\(\begin{array}{l} \overline{\mathrm{e}_{\mathrm{kMMA}}}=z_{\mathrm{kr}}\left(\left|z_{\mathrm{kr}}\right|^{2}-\mathrm{R}_{\mathrm{MMA}}^{2}\right)+\mathrm{j} z_{\mathrm{ki}}\left(\left|z_{\mathrm{ki}}\right|^{2}-\mathrm{R}_{\mathrm{MMA}}^{2}\right) \\ \mathrm{f}_{\mathrm{k}+1}=\mathrm{f}_{\mathrm{k}}-\mu \overline{\mathrm{e}_{\mathrm{kMMA}}} \mathrm{r}_{\mathrm{k}}^{*} \end{array}\)       (2)

반면 SE-MMA는 식(2)의 MMA 오차 함수에서 이들의 부호만을 이용하여 등화 필터 계수의 갱신에 사용되기 때문에 붙여진 이름으로 다음과 같다.

\(\begin{array}{l} \overline{\mathrm{e}_{\mathrm{kSE}-\mathrm{MMA}}}=\operatorname{sgn}\left[z_{\mathrm{kr}}\left(\left|z_{\mathrm{kr}}\right|^{2}-\mathrm{R}_{\mathrm{MMA}}^{2}\right)\right]+\mathrm{j} \operatorname{sgn}\left[z_{\mathrm{ki}}\left(\left|z_{\mathrm{ki}}\right|^{2}-\mathrm{R}_{\mathrm{MMA}}^{2}\right)\right]\\ \mathrm{f}_{\mathrm{k}+1}=\mathrm{f}_{\mathrm{k}}-\mu \overline{\mathrm{e}_{\mathrm{kSE}-\mathrm{MMA}}} \mathrm{r}_{\mathrm{k}}^{*} \end{array}\)       (3)

여기서 sgn은 signium 함수를 나타내며, SE-MMA 알고리즘에서는 등화 필터의 출력 z_k는 복소 평면에서 4 개의 점 ±R_MMA±j R_MMA주위로 존재하도록 탭 계수를 갱신하게 된다. SE-MMA는 적응 상수가 고정될 때 탭갱신을 위한 오차 함수를 곱하는 과정을 단순히 부호만을 고려하게 되어 알고리즘의 연산량을 줄일 수 있게 되어 수렴 속도를 개선시킬 수 있는 장점이 있지만, 정상 상태 이후의 잔여량이 증대되어 등화 성능이 열화되는 단점이있다. 이와 같은 단점을 개선하기 위하여 mSE-MMA에서는 식(3)의 고정 step size μ의 값을 등화기 출력과 송신 신호점 간의 거리를 비교하여 threshold 범위 내에 들면 적은 step size로 변화시키는 modified step size 개념을 적용하는 원리를 가지며 그림 2에 이를 나타내었다.

그림 2. modified step size 개념

Fig. 2. modified step size concept

mSE-MMA에서 식(3)과 같은 탭 계수 갱신식은 식(4) 와 같으며, 이의 내부 구조는 그림 3과 같다.

\(\begin{array}{l} \text { if }\left(z_{\mathrm{k}}-\mathrm{s}_{\mathrm{k}}\right)<\mathrm{d}, \mu_{1}=\mu / 5 ; \text { else } \mu_{1}=\mu ; \text { end; }\\ \mathrm{f}_{\mathrm{k}+1}=\mathrm{f}_{\mathrm{k}}-\mu_{1} \overline{\mathrm{e}_{\mathrm{kse}-\mathrm{mma}}} \mathrm{r}_{\mathrm{k}}^{*} \end{array}\)       (4)

그림 3. mSE-MMA의 내부 구조

Fig. 3. Internal structure of mSE-MMA

3. mDSE-MMA

DSE-MMA는 적응 등화 알고리즘의 탭 계수를 갱신하기 위한 오차 신호를 얻는 과정에서 SE-MMA와 dither 신호를 조합한 형태를 말하며 이들은 기존 MMA 를 변형시켰다. 이와 같이 dither라는 랜덤 신호를 부가하므로 양자화에 의한 정보 손실을 보상할 수 있으며, 이는 적은 스텝에서는 평균적으로 무시할 수 있어서 SE-MMA 보다 개선된 등화 성능을 보장한다. DSE-MMA에서 오차 함수와 갱신식은 다음과 같다.

\(\begin{aligned} \overline{\mathrm{e}_{\mathrm{kDSE}-\mathrm{MMA}}}=& \alpha \cdot \operatorname{sgn}\left[z_{\mathrm{kr}}\left(\left|z_{\mathrm{kr}}\right|^{2}-\mathrm{R}_{\mathrm{MMA}}^{2}\right)+\alpha \mathrm{d}_{\mathrm{kr}}\right] \\ &+\mathrm{j} \alpha \cdot \operatorname{sgn}\left[z_{\mathrm{ki}}\left(\left|z_{\mathrm{ki}}\right|^{2}-\mathrm{R}_{\mathrm{MMA}}^{2}\right)+\alpha \mathrm{d}_{\mathrm{ki}}\right] \\ \mathrm{f}_{\mathrm{k}+1}=\mathrm{f}_{\mathrm{k}}-\mu & \cdot \alpha \cdot \operatorname{csgn}\left(\mathrm{y}_{\mathrm{k}}^{*}\left(\mathrm{R}_{\mathrm{MMA}}-\left|\mathrm{y}_{\mathrm{k}}\right|^{2}\right)+\alpha \mathrm{d}_{\mathrm{k}}\right) \mathrm{r}_{\mathrm{k}}^{*} \end{aligned}\)       (5)

여기서 d_k = d_kr + jd_ki는 (-1, 1)의 범위내에서 uniform 분포하는 dither process의 실수부와 허수부의 조합을 나타내며, α는 dither amplitude를 나타내며 MMA와 같은 Roburstness와 정상 상태 MSE 간의 절충점이 되도록 설정한다. 식(5)의 DSE-MMA에 그림 2의 modified step size 개념을 조합한 mDSE-MMA의 탭계수 갱신식은 식(6)과 같으며, 이의 내부 구조는 그림 4 와 같다.

\(\text { if }\left(z_{\mathrm{k}}-\mathrm{s}_{\mathrm{k}}\right)<\mathrm{D}, \mu_{1}=\mu / 5 ; \text { else } \mu_{1}=\mu ; \text { end; } \\ \mathrm{f}_{\mathrm{k}+1}=\mathrm{f}_{\mathrm{k}}-\mu_{1} \cdot \alpha \cdot \operatorname{csgn}\left(\mathrm{y}_{\mathrm{k}}^{*}\left(\mathrm{R}_{\mathrm{MMA}}-\left|\mathrm{y}_{\mathrm{k}}\right|^{2}\right)+\alpha \mathrm{d}_{\mathrm{k}}\right) \mathrm{r}_{\mathrm{k}}^{*}\)        (6)

그림 4. mDSE-MMA 내부 구조

Fig. 4. Internal structure of mDSE-MMA

Ⅲ. 컴퓨터 시뮬레이션 및 결과

modified step size 개념을 적용한 mSE-MMA와 mDSE-MMA 알고리즘의 성능 비교를 위하여 컴퓨터 시뮬레이션을 수행하였다. 시뮬레이션을 위한 파라미터로는 동일 채널에 의한 부호간 간섭을 부가하며 필터 계수를 표 1에 나타내었으며, 신호대 잡음비를 27dB, 고정스텝의 크기를 μ = 0.0013, modified step size 적용을 위한 threshold D=0.25와 이를 만족 시 μ₁ = 0.00026 이었고, 등화 필터는 안정성을 갖는 17차 FIR 필터를 적용하였다.

표 1. 채널의 계수

Table 1. Coefficient of channel

그림 5는 신호대 잡음비 27dB 인 경우 수신된 신호의 성상도를 나타낸 것으로 채널의 비선형성에 의하여 부호간 간섭 및 마름모 모양의 위상 회전이 불규칙하게 발생됨을 알 수 있다. 이와 같은 신호를 그림 6의 시뮬레이션 과정을 통하여 이들 알고리즘의 등화 성능을 비교하였다.

그림 5. 수신 신호 성상도

Fig. 5. Received signal constellation

그림 6. 신호 처리 과정

Fig. 6. Signal processing process

그림 7은 이들 알고리즘을 첫 번째 성능 비교를 위하여 정상 상태 이후의 등화기 출력 신호의 성상도를 나타낸 것이다. 성상도에서 각 신호점들의 폭이 좁고, 신호점간 거리가 멀수록 우수한 성능의 알고리즘이 된다. 그림에서 정성적으로 mSE-MMA가 mDSE-MMA보다 신호점 폭이 좁고 신호점 간 거리가 멀어짐을 알 수 있어서 mSE-MMA가 양호한 성능을 가짐을 알 수 있다.

그림 7. 등화기 출력 신호 성상도

Fig. 7. Output signal constellation of equalizer

두 번째 성능 비교를 위한 지수로 잔류 isi와 MD, MSE 를 사용하였으며, 초기 과도 과정을 지나 정상 상태에 도달할때까지의 수렴 속도와 정상 상태에서의 잔류량을 알 수 있다. 잔류 isi는 통신 채널과 적응 등화기가 완전 등화 시 이들의종합 특성은 시간 영역에서는 임펄스 특성이 된다. 이는 이론적이며 실제적으로는 완전 임펄스 특성을 갖지 못하고 잔류성분들이 존재하게 되므로 이들의 전력 크기를 의미한다.

그림 8은 잔류 isi 성능을 나타낸 것으로서 -20dB를 정상 상태로 정할 때 mSE-MMA는 3678회, mDSE-MMA 는 3483회에 달성하므로, 수렴 속도는 mSE-MMA 가 mDSE-MMA보다 조금 느리지만 정상 상태 이후의 잔여양에서는 상당히 개선됨을 알 수 있다.

그림 8. 잔류 isi 성능

Fig. 8. Residual isi performance

그림 9는 잔여 isi 성분들의 크기를 전압으로 나타내는 MD 성능을 dB 단위를 적용하여 나타내었으며, 그림 8의 잔류 isi와 거의 유사하게 분포함을 알 수 있다.

그림 9. 최대 찌그러짐 성능

Fig. 9. Maximum distortion performance

그림 10은 등화기 출력과 결정 장치의 출력간에 발생되는 진폭의 차이를 나타내는 평균 자승 오차 (MSE) 성능을 나타낸 것이다. 여기서 정상 상태를 -19dB로 설정할 때 mSE-MMA는 3938회, mDSE-MMA는 3751회가 소요되어 수렴 속도에서 mSE-MMA가 mDSE-MMA보다 다소 느리지만, 정상 상태 이후 진폭의 지터값이 감소됨을 알 수 있다.

그림 10. MSE 성능

Fig. 10. MSE performance

마지막으로 통신 채널에서 부가되는 잡음에 대한 강인성을 알아보기 위하여 신호대 잡음비를 0에서 24dB까지 3dB 단위로 변화시킬 때 SER 성능을 그림 11에 나타내었다. 신호대 잡음비가 낮은 0~12dB 에서는 이들이 비슷하지만, 통상적으로 15dB 이상의 이동 통신 무선 환경에서는 mSE-MMA가 mDSE-MMA 보다 SER 성능이 우월하여 개선된 등화 이득을 얻을 수 있었다.

그림 11. SER 성능

Fig. 11. SER performance

Ⅳ. 결론

본 논문은 적응 등화기의 출력과 송신 신호점 간의 거리가 threshold 범위 내의 존재 여부에 따라 step size 크기를 변화시키는 modified step size 개념을 SE-MMA 와 DSE-MMA에 적용한 mSE-MMA와 mDSE-MMA의 성능을 비교하였다. 컴퓨터 시뮬레이션 결과 등화기의 출력 성상도, 잔류 isi, MD, MSE 성능 곡선에서 정상 상태에 도달하기 위한 수렴 속도에서는 mDSE-MMA가 mSE-MMA보다 약간 빠름을 알 수 있었으며, 정상 상태이후의 잔여량과 외부 잡음에 대한 robustness를 나타내는 SER 성능에서도 15dB 이상의 실제 이동 통신 환경에서 mSE-MMA가 mDSE-MMA보다 우월하였다. 따라서 modified step size를 적용하므로서 얻어지는 전체적인 적응 등화의 효과는 mSE-MMA가 우월함을 확인하였으며, 특히 dither 신호의 삽입에 의한 경우 수렴 속도에서만 개선되는 점을 알 수 있었다. 이들 두 알고리즘은 기존 MMA 알고리즘의 연산량을 줄여서 실시간의 저소비 전력 응용을 목적으로 하지만, 연산량 감소로 인한 성능 저하를 방지하기 위하여 등장하였다. 그러나 개인 이동 통신 단말과 같은 무선 환경에서 mDSE-MMA보다는 mSE-MMA가 소비 전력 최소화 및 개선된 등화 성능을얻는데 더욱 유용하게 적용될 수 있음을 확인하였다. 향후 이들 연구 결과를 더욱 확장시켜 저소비 전력으로 고속, 광대역 데이터 전송에 적용될 수 있도록 하는 알고리즘 개발에 대한 지속적인 연구가 필요하다.