Новый гибридный алгоритм сопряженного градиента для оптимизации без ограничений

 pdf (262K)

Хорошо известно, что методы сопряженного градиента полезны при решении масштабных задач нелинейной оптимизации без ограничений. В данной работе мы рассматриваем объединение лучших свойств двух методов сопряженного градиента. В частности, мы даем новый метод сопряженного градиента, основанный на гибридизации полезных методов DY (Dai-Yuan) и HZ (Hager-Zhang). Параметры гибрида выбираются таким образом, чтобы предложенный метод удовлетворял условиям сопряженности и достаточного спуска. Показано, что новый метод сохраняет свойство глобальной сходимости двух вышеупомянутых методов. Описаны численные результаты для набора стандартных тестовых задач. Показано, что в большинстве случаев эффективность предложенного метода выше, чем у DY и HZ.

Ключевые слова: оптимизация без ограничений, методы сопряженного градиента, условия сопряженности и достаточные условия спуска
Цитата: Вестник Удмуртского университета. Математика. Механика. Компьютерные науки, 2023, т. 33, вып. 2, с. 348-364
DOI: 10.35634/vm230211

A new hybrid conjugate gradient algorithm for unconstrained optimization

It is well known that conjugate gradient methods are useful for solving large-scale unconstrained nonlinear optimization problems. In this paper, we consider combining the best features of two conjugate gradient methods. In particular, we give a new conjugate gradient method, based on the hybridization of the useful DY (Dai-Yuan), and HZ (Hager-Zhang) methods. The hybrid parameters are chosen such that the proposed method satisfies the conjugacy and sufficient descent conditions. It is shown that the new method maintains the global convergence property of the above two methods. The numerical results are described for a set of standard test problems. It is shown that the performance of the proposed method is better than that of the DY and HZ methods in most cases.

Keywords: unconstrained optimization, conjugate gradient methods, conjugacy conditions and sufficient descent conditions
Citation in English: Vestnik Udmurtskogo Universiteta. Matematika. Mekhanika. Komp'yuternye Nauki, 2023, vol. 33, issue 2, pp. 348-364

Журнал индексируется в Web of Science (Emerging Sources Citation Index)

Журнал индексируется в Scopus

Журнал входит в базы данных zbMATH, MathSciNet

Журнал включен в базу данных Russian Science Citation Index (RSCI) на платформе Web of Science

Журнал включен в перечень ВАК.

Электронная версия журнала на Общероссийском математическом портале Math-Net.Ru.

Журнал включен в Crossref