Метод покоординатного спуска
Поможем в ✍️ написании учебной работы
Поможем с курсовой, контрольной, дипломной, рефератом, отчетом по практике, научно-исследовательской и любой другой работой

Пусть требуется найти минимум . Выберем нулевое значение . Рассмотрим функцию одной переменной  и найдем её минимум. Пусть этот минимум оказался в точке . Теперь точно так же будем искать минимум функции одной переменной . Этот минимум окажется в точке . Одна итерация спусков завершена. Будем повторять циклы, постепенно приближаясь ко дну котловины, пока не выполниться, например, условие .

Сходимость метода зависит от вида функции и выбора нулевого (начального) приближения. Вблизи невырожденного минимума гладкой функции спуск по координатам линейно сходится к минимуму. Если линии уровня образуют истинный овраг, возможен случай, когда спуск по одной координате приводит на дно оврага, а любое движение последующей координате ведет на подъём. Процесс координатного спуска в данном случае не сходится к минимуму.

    При попадании траектории спуска в разрешимый овраг сходимость становится чрезвычайно медленно. В физических задачах овражный рельеф указывает на то, что не учтена какая-то закономерность, определяющая связь между переменными. Явный учет этой закономерность облегчает использования численных методов.

Виды рельефа:

Котловинный (гладкая функция) Истинный овраг Разрешимый овраг Неупорядоченный
 

Задача нелинейного программирования

,     (1)

(2а) (2b)

В (1), (2) хотя бы одна из функций  – нелинейная.

 

Необходимые и достаточные условия оптимальности

 

 

А – множество допустимых решений задачи (1), (2).
B – множество оптимальных решений задачи (1), (2).
С – множество допустимых решений, для которых выполняется необходимые условия оптимальности.
D – множество допустимых решений, для которых выполняется достаточные условия оптимальности.

 




Задача безусловной оптимизации

,     (3)

 

Теорема №1 (необходимое условие).   

Пусть  непрерывно дифференцируемая функция в точке  по .

Если  – локальное решение задачи (3), то

 где     (4)



Стационарные точки.

Теорема 2 (достаточное условие).

Пусть:

1)  – дважды непрерывно дифференцируема в  по ;

2)   стационарная точка.

Для того чтобы  была решением задачи (3), достаточно, чтобы матрица Гессе Н в точке  была:

1) Положительно определенной ( );

2) Отрицательно определенной ( ).

 

 

Теорема (Критерий Сильвестра).

Для того чтобы симметричная матрица Н была положительно определенной, необходимо и достаточно, чтобы все главные миноры матрицы были положительны:

Для отрицательно определённых матриц знаки главных миноров чередуются, начиная со знака  для :

Замечание. Если Н знакоопределенная, то все её главные миноры .

Дата: 2019-05-28, просмотров: 185.