Pada awal tahun 1960-an, profesor Universitas Stanford Bernard Widrow dan mahasiswa doktoralnya Ted Hoff melakukan penelitian revolusioner di bidang pemrosesan sinyal dan jaringan saraf. Pekerjaan mereka memelopori metode penyaringan adaptif baru, algoritma least mean square (LMS), yang berdampak besar pada banyak teknologi dan aplikasi berikutnya. Teknologi ini tidak hanya meningkatkan efisiensi teknologi pemrosesan sinyal, tetapi juga membuka jalan bagi pengembangan komunikasi elektronik modern dan sistem kontrol otomatis.
Penelitian Widrow dan Hoff awalnya didasarkan pada eksplorasi mereka terhadap jaringan saraf satu lapis — khususnya sistem yang disebut ADALINE (Adaptive Linear Neuron). "Aturan δ (Delta)" yang mereka usulkan adalah menggunakan penurunan gradien untuk melatih model sehingga dapat mengenali pola. Ide inti dari teknik baru ini adalah bahwa mereka dapat membuat jaringan beradaptasi dengan masukan baru dengan terus-menerus menyesuaikan bobot neuron untuk meminimalkan kesalahan antara nilai prediksi dan nilai aktual.
Keberhasilan mereka dalam menggunakan ADALINE membuat mereka menerapkan prinsip ini pada respons filter, yang akhirnya berkembang menjadi algoritma LMS.
Algoritma LMS adalah teknologi penyaringan adaptif yang terutama digunakan untuk menyesuaikan nilai kuadrat rata-rata sinyal kesalahan untuk meminimalkan sinyal kesalahan. Dengan menghitung kesalahan antara keluaran aktual filter dan keluaran yang diharapkan, lalu menyesuaikan parameter filter berdasarkan kesalahan ini, metode ini dapat membuat filter secara bertahap mendekati solusi optimal. Kunci dari proses ini adalah mekanisme umpan balik, karena penyesuaian filter bergantung pada sinyal kesalahan pada saat itu.
Teknik filter adaptif berbasis penurunan gradien ini tidak hanya mudah digunakan, tetapi juga berkinerja baik dalam menangani perubahan sistem yang dinamis.
Dalam banyak hal, algoritme LMS dapat dilihat sebagai implementasi filter Wiener, tetapi ketergantungan kesalahan yang diminimalkan tidak memerlukan perhitungan korelasi silang atau autokorelasi. Filter Wiener mencapai penyaringan optimal dengan meminimalkan kesalahan kuadrat rata-rata, yang dipinjam dari algoritme LMS. Yang terpenting, keunggulan LMS adalah dapat menyesuaikan parameter filter untuk beradaptasi dengan perubahan lingkungan tanpa mengetahui distribusi sinyal.
Kemunculan algoritme LMS tidak hanya mengubah arah pengembangan teknologi penyaringan, tetapi juga mendorong terwujudnya sejumlah besar aplikasi, terutama di bidang komunikasi, pemrosesan audio, dan pemrosesan gambar. Dengan memungkinkan penyesuaian instan dan pembelajaran mandiri, LMS memberikan sistem fleksibilitas dan kemampuan beradaptasi yang lebih besar. Baik itu penyaringan kebisingan lingkungan atau peningkatan sinyal, skenario penerapannya sangat diperlukan.
Dengan kemajuan pesat kecerdasan buatan dan pembelajaran mesin, banyak teknologi masih berinovasi dan meningkatkan algoritme LMS. Dalam batas teknologi yang terus berubah, bagaimana filter adaptif masa depan akan lebih dioptimalkan dan diintegrasikan dengan teknologi algoritmik baru? Ini adalah pertanyaan penting bagi peneliti masa depan untuk dipertimbangkan.