Dalam proses penyelesaian masalah optimasi terbatas, metode Lagrangian yang disempurnakan telah menjadi topik penelitian yang menarik. Metode ini disukai karena kemampuannya untuk mengubah masalah terbatas menjadi serangkaian masalah yang tidak terbatas, dan selanjutnya memainkan peran penting dalam teori dan aplikasi optimasi. Metode Lagrangian yang disempurnakan pertama kali diusulkan oleh Hesternes dan Powell pada tahun 1969. Penelitian mereka kemudian menarik perhatian luas dan eksplorasi mendalam terhadap metode ini.
Fitur utama metode Lagrangian yang disempurnakan adalah menggabungkan konsep istilah penalti dan pengali Lagrangian, sehingga lebih stabil dan efisien saat menangani masalah terbatas.
Metode Lagrangian yang disempurnakan bukan sekadar perluasan dari metode penalti, tetapi juga mencakup istilah tambahan untuk mensimulasikan pengali Lagrangian. Hal ini membuat metode ini efektif dalam menyelesaikan banyak masalah teknik yang rumit, terutama untuk aplikasi di bidang seperti optimasi struktural dan pembelajaran mesin. Seiring dengan kemajuan penelitian, metode Lagrangian yang diperbesar secara bertahap berkembang, memperkenalkan berbagai perluasan dan perbaikan, termasuk penerapan fungsi regularisasi non-kuadrat.
Metode-metode ini dieksplorasi lebih lanjut selama tahun 1970-an dan 1980-an. R. Tyrrell Rockafellar telah memberikan kontribusi yang sangat penting dalam bidang ini. Melalui studi dualitas Fenchel dan penerapannya dalam proses optimasi struktur, ia selanjutnya mendorong pengembangan metode Lagrangian yang disempurnakan. Secara khusus, ia mengeksplorasi operator monotonik maksimal terkait dan tempatnya dalam masalah optimasi modern, menggabungkan konsep-konsep ini dengan aplikasi praktis untuk membuat landasan teoritis metode Lagrangian yang diperbesar lebih kokoh.
Faktanya, keuntungan dari metode Lagrangian yang disempurnakan adalah tidak perlu mendorong faktor penalti hingga tak terhingga untuk menyelesaikan masalah kendala asli, sehingga menghindari ketidakstabilan numerik dan meningkatkan kualitas dan akurasi solusi.
Selanjutnya, dengan peningkatan daya komputasi, teknologi Lagrangian yang disempurnakan secara bertahap telah diperkenalkan ke dalam berbagai aplikasi yang lebih luas, terutama dalam konteks perkembangan pesat teknologi matriks renggang. Misalnya, sistem pengoptimalan seperti LANCELOT, ALGENCAN, dan AMPL meningkatkan efektivitas metode Lagrangian yang diperbesar dengan memungkinkan penggunaan teknik matriks renggang pada masalah yang tampaknya padat tetapi "dapat dipisahkan sebagian".
Baru-baru ini, metode ini juga telah digunakan dalam teknologi pemrosesan gambar modern seperti pengurangan derau variasi total dan penginderaan terkompresi. Secara khusus, munculnya metode pengganda arah bergantian (ADMM) telah menyuntikkan vitalitas baru ke dalam metode Lagrangian yang disempurnakan, yang memungkinkan teknologi komputasi ini untuk menangani masalah pengoptimalan berdimensi tinggi secara lebih efektif.
Kombinasi metode Lagrangian yang disempurnakan dan metode pengganda arah bergantian merupakan pengembangan terobosan dalam bidang optimasi saat ini, karena dapat secara efektif memecahkan masalah pembaruan parsial pengganda dalam aplikasi praktis.
Pada tahun-tahun berikutnya, metode Lagrangian yang disempurnakan tidak hanya berkinerja baik dalam analisis numerik, tetapi landasan teoritis dan kinerjanya dalam berbagai aplikasi praktis membuatnya secara bertahap menjadi metode lain untuk memecahkan masalah optimasi stokastik berdimensi tinggi. Strategi penting. Terutama dalam skenario optimasi stokastik berdimensi tinggi, metode ini dapat secara efektif mengatasi masalah yang tidak diinginkan dan memberikan solusi terbaik dengan kelangkaan dan peringkat rendah.
Selain itu, banyak paket perangkat lunak modern seperti YALL1, SpaRSA, dan SALSA telah menerapkan ADMM untuk pencarian dasar tingkat lanjut dan variannya, dan telah menunjukkan kinerja yang unggul. Sekarang, baik diimplementasikan dalam perangkat lunak sumber terbuka maupun versi komersial, metode Lagrangian yang disempurnakan masih merupakan alat penting dalam bidang optimasi dan terus diteliti dan dikembangkan.
Secara umum, kontribusi Hesterness dan Powell terhadap metode Lagrangian yang disempurnakan tidak diragukan lagi telah meletakkan dasar bagi penelitian tentang optimasi terbatas, tetapi yang perlu kita pikirkan adalah ke mana penelitian optimasi matematika di masa mendatang akan mengarah. Pengembangan di mana-mana?