Вернемся к рассмотрению уравнения (1), где . После замены  получим уравнение (2), которое, используя разложение в ряд Тейлора, запишем в виде

, (8)

где  при . (9)

Теорема 5. Пусть  — постоянная матрица, предельный переход в (9) выполняется равномерно по  и вещественные части собственных чисел матрицы  отрицательны. Тогда решение  уравнения (8) асимптотически устойчиво.

Теорема 6. Пусть  — постоянная матрица, предельный переход в (9) выполняется равномерно по . Для устойчивости по Ляпунову нулевого решения уравнения (8) необходимо, чтобы вещественные части собственных чисел матрицы  были неположительны.

Рассмотрим теперь автономное уравнение (1): ,       (10)

где функция  непрерывно дифференцируема при , причем . Тогда  является положением равновесия уравнения (10). После замены  уравнение (10) принимает вид , где , функция  непрерывно дифференцируема при  и

 при . (11)

Из (11) и теорем 5 и 6 вытекает следующее утверждение.

Теорема 7. Если все собственные числа матрицы  имеют отрицательные вещественные части, то положение равновесия  асимптотически устойчиво; если же хоть одно из собственных чисел имеет положительную вещественную часть, то оно неустойчиво.

Пример. Рассмотрим систему двух уравнений  Координаты положений равновесия определяются из уравнений . Положения равновесия:

Соответствующие матрицы  имеют вид

, или .

Собственные числа определяются уравнением . При k четном , при k нечетном . По теореме 7 при k четном решения  асимптотически устойчивы, а при k нечетном неустойчивы.

Предположим теперь, что правая часть уравнения (1) и решение  периодичны по t с одним и тем же периодом . Тогда в уравнении (8) , . Далее, так как  равномерно непрерывна на компакте , то в силу периодичности  выполняется равномерно по . Поскольку  — периодическая матрица, то существует замена переменных ,    (12)

где  — периодическая с периодом  функция класса , причем , переводящая уравнение  в  с постоянной матрицей коэффициентов , определяемой теоремой Флоке. Следовательно, замена (12) переводит (8) в уравнение

,    (13)

причем функция  определена и непрерывна в области вида . Условие (9) также выполняется. Действительно,  в силу (9), ограниченности  и  и поскольку  эквивалентно . При этом, как отмечалось, имеет место равномерность по t.

Согласно лемме из п. 2.1. вопрос об устойчивости тривиального решения уравнения (8) эквивалентен вопросу об устойчивости тривиального решения уравнения (13). Так как , где  — собственные числа матрицы , а  — мультипликаторы линейного уравнения , называемые также мультипликаторами периодического решения , то из теорем 5 и 6 вытекает следующая теорема:

Теорема 8. Если модули всех мультипликаторов периодического решения периодического уравнения (1) меньше единицы, то это решение асимптотически устойчиво. Если же модуль хоть одного из мультипликаторов больше единицы, то оно неустойчиво.

Рассмотрим смешанный случай, когда исследуется устойчивость -периодического решения  автономного уравнения (10). Дифференцируя тождество , получаем . Следовательно, функция  является -периодическим решением уравнения в вариациях . По следствию 1 п. 1.5. один из мультипликаторов равен единице. Если среди остальных мультипликаторов имеются такие, модули которых больше единицы, то решение  неустойчиво по теореме 8. В противном случае теорема 8 неприменима.

Теорема 9. (Андронова-Витта) Если  мультипликаторов периодического решения уравнения (10) имеют модули, меньшие единицы, то это решение устойчиво по Ляпунову.

Замечание. Уравнение (10) автономно, поэтому наряду с решением  имеются и решения , , следовательно, решение  не может быть асимптотически устойчивым.