Spectral Effects on The Rate of Convergence of The LMS Adaptive Algorithm
Luận án · Tiến sĩ · năm 2006 · đề tài tham khảo
| Loại tài liệu | Luận án |
|---|---|
| Bậc học | Tiến sĩ |
| Tác giả | Aaron E Flores |
| Cơ sở đào tạo | Đại học Quốc gia TP. Hồ Chí Minh |
| Năm | 2006 |
| Nguồn | Thư viện số Đại học Quốc gia TP. Hồ Chí Minh · trang gốc |
Tóm tắt
In the field of statistical signal processing, a fundamental problem is that of linearly estimating a random process given observations of a related random process. The usual objective is to find the weights of the linear estimation that minimizes on average the square of the error. Adaptive algorithms are used to iteratively update a weight vector, an approximation of the optimal solution (also called Wiener solution), as input data is presented in a streaming way. The Least Mean Square (LMS) algorithm is one of the most popular adaptive algorithms because it is simple and robust, as it is used in a wide variety of applications, including digital communications, echo cancellers, system identification, GPS systems, noise canceling, antenna arrays, adaptive control, active vibration suppression systems, and many other commercial applications of significance. However, the perfor¬mance of LMS may vary greatly when the autocorrelation matrix of its input has a high eigenvalue spread, so there is a need to be able to predict its performance in practice. The LMS/Newton algorithm is a variation of the LMS algorithm, it linearly pre-transforms the input so that the eigenvalues of the new input autocorrelation matrix are equal to each other. This makes the LMS/Newton algorithm immune to the eigenvalue spread problem of LMS. However, since it requires knowledge of the input statistics often not available in practice, the LMS/Newton algorithm is mainly used as a theoretical benchmark for adaptive algorithms. In this thesis, we study the performance of LMS relative to LMS/Newton. The performance of LMS is assessed in terms of the mean square error (MSE), and the mean square deviation (MSD) of its weight vector from the Wiener solution. The analysis is done for stationary and nonstationary signal statistics. In the stationary case, transient behavior results when the adaptive weight vector starts from initial conditions and proceeds toward the Wiener solution, reaching a steady-state where the adaptive weight vector hovers randomly about the Wiener solution. The transient phase is thoroughly analyzed under uniform random initial conditions to evaluate how fast LMS converges to a good approximation of the Wiener solution. For general statistics of the initial conditions, including deterministic initial conditions as a special case, the areas under the MSE and MSD learning curves are used as the convergence speed criteria. Simple expressions are obtained for the transient performance of LMS relative to LMS/Newton's in terms of the statistics of the input and initial conditions. In the nonstationary case, the Wiener solution varies randomly according to a random walk model, and the adapting weight vector is tracking a moving target. In this case, a steady state MSE and MSD criteria is used, obtaining simple expressions for the tracking performance of LMS relative to that of LMS/Newton in terms of the statistics of the input and changes of the Wiener solution. The expressions found for the stationary and nonstationary cases have a striking resemblance, showing some connections between transient and tracking behavior of the LMS and LMS/Newton algorithms. When a transversal adaptive filter is considered, the input autocorrelation matrix is Toeplitz; this allows the expressions found for the performance of LMS to be translated into the frequency domain. Regarding the Wiener solution as an impulse response, we refer to the magnitude square of its Fourier transform as the Wiener solution spectrum. For the Transient analysis, it is found that when adapting from zero initial conditions, the ratio between the areas under the learning curves of LMS and LMS/Newton is given by the inner product of the normalized input power spectrum and Wiener solution spectrum. With our model of nonstationarity, the Wiener impulse response changes from sample time to sample time. Take the Fourier transform of the average changes and take the magnitude square of this Fou
Bản toàn văn lưu tại thư viện Đại học Quốc gia TP. Hồ Chí Minh
Thông tin và tóm tắt ở trên lấy từ kho số mở của thư viện trường. Bản toàn văn do thư viện trường quản lý — có nơi cho đọc trực tuyến, có nơi cần tài khoản bạn đọc của trường.
Mở tại thư viện trường ↗
Dùng tài liệu tham khảo cho đúng
- Đọc để hiểu cách người trước đặt câu hỏi, chọn phương pháp, trình bày số liệu — rồi tự làm với dữ liệu và bối cảnh của bạn.
- Ý, số liệu, bảng biểu lấy từ tài liệu này phải trích dẫn (tác giả, năm, tên đề tài, cơ sở đào tạo).
- Đề tài trùng tên vẫn làm được nếu khác đơn vị khảo sát, thời gian hoặc cách tiếp cận — nêu rõ điểm khác trong phần mở đầu.
Đề tài cùng ngành
- Ứng dụng kỹ thuật Loop Mediated Isothermal Amplification (LAMP) để phát hiện Listeria monocytogenes trong thực phẩm
- Nghiên cứu đánh giá liều trong chẩn đoán CT bằng mô phỏng Monte Carlo
- Phân loại và xác định tự động yếu tố bất thường trong tin tuyển dụng tiếng Việt
- Nghiên cứu sự hủy Positron trong kim loại và hợp kim
- Weil-etale topology over local rings
- Hủy phán quyết trọng tài
- Nghiên cứu xác định Tinopal CBS-X trong gạo và sản phẩm từ gạo bằng hệ thống sắc ký lỏng hiệu năng cao ghép nối đầu dò huỳnh quang (HPLC-FLD)
- Điều chế và khảo sát đặc tính của MnO2 đơn và MnO2 trên chất mang TiO2 từ phản ứng ozon hóa dung dịch MnSO4
Tác giả muốn gỡ, sửa thông tin hoặc bổ sung bản toàn văn: gửi yêu cầu qua trang Liên hệ, kèm đường dẫn trang này.