Пусть даны два линейных пространства  и . Если каждому элементу  поставлен в соответствие элемент , то говорят, что задано отображение  в . Это отображение называется также функцией, определенной на  со значениями в . Любое отображение (или функцию) обозначают

или .

Запись вида  означает элемент из , соответствующий  при отображении . Числовая функция, заданная на пространстве , часто называется функционалом.

Отображение , обладающее свойством

,

где  – любые числа, называется линейным. Каждое однородное линейное отображение может быть записано как умножение вектора  на линейный оператор  (линейную операцию), т.е. в виде

,

причем

.

Функция вида , где  – линейный оператор, называется линейной функцией.

Пространство линейных операторов, действующих из  в , обозначается .

Если элемент  преобразуется в элемент  с помощью оператора , элемент  преобразуется в элемент  с помощью оператора , то такое преобразование можно заменить одним преобразованием (оператором)  и записать

.

Оператор  в этом случае называется суперпозицией операторов  и .

Если  и , где  – операторы, действующие из  в , то оператор , действующий из  в  в соответствии с выражением

,

называется суммой операторов  и обозначается .

Если операторы  и  таковы, что

,

то оператор  называется обратным к оператору  и обозначается . В этих обозначениях предыдущее равенство приобретает вид

.

Оператор  называется единичным, если . Единичный оператор обозначается как . В этих обозначениях мы имеем . Вполне понятно, что суперпозиция прямого и обратного оператора дает единичный оператор,

.

Оператор  называется ограниченным, если существует такая постоянная величина , что для всякого

.

Наименьшее из чисел , удовлетворяющее этому неравенству, называется нормой оператора  и обозначается . Определенная таким образом норма  оператора  называется согласованной с нормой  вектора . Таким образом, согласованная норма оператора – это норма, подчиняющаяся условию

для . Наиболее простой способ добиться согласованности нормы оператора с нормой вектора , уже введенной в , – это принять определение

.

Такая норма называется операторной. Всякая операторная норма обладает свойством

,

где  – единичный оператор. Норма оператора обладает следующими свойствами. Если операторы  и  ограничены, то операторы  и  также ограничены, причем

,

,

,

.

Функция  называется непрерывной в точке , если  при . Понятно, что пространства  и  должны быть нормированными.

Функция  называется дифференцируемой в точке , если существует линейный оператор  такой что

,

где

.

Указанный здесь оператор  называется полной производной или производной Фреше функции  в точке , а функция, имеющая производную Фреше, называется дифференцируемой по Фреше в точке . Выражение  называется линейной частью приращения функции  в точке .

Итак, производная Фреше функции  в точке  определена как линейный оператор,

.

Если функция  дифференцируема по Фреше во всех точках пространства , то это означает, что каждому элементу  поставлен в соответствие линейный оператор, т.е. задана функция

.

Аналогично определяются производные Фреше более высоких порядков. Так, производной Фреше второго порядка функции  в точке  на-

зывается линейный оператор  такой что

,

где

.

В соответствии с этим определением вторая производная Фреше в любой точке  есть линейное отображение пространства  в пространство линейных операторов, действующих из  в :

.

Приведем некоторые свойства производной Фреше.

1. Если , где  – константа, то  (производная константы).

2. Если  – линейный оператор, то  (производная линейного оператора).

3. Если , где , т.е. , то  (производная сложной функции или суперпозиции функций).

Формула Тейлора для отображения выражается, например, следующей теоремой из [27]: "пусть  – отображение, действующее из  в , определенное в некоторой области  и такое, что  существует и представляет собой равномерно непрерывную функцию от  в . Тогда имеет место равенство

, (1.2.1)

где

", .

В приведенной теореме  – производная Фреше, , , – производные Фреше высших порядков.

Формула (1.2.1) отличается краткостью и лаконичностью. Однако она имеет скорее теоретический, чем прикладной характер. Это связано с символичностью обозначений, которые не конкретизированы и в случае конечномерных пространств. Впрочем, в работе [27] отмечается, что в случае конечномерных евклидовых пространств  и  производная  отображения , действующего из  в , есть зависящая от -матрица (  – размерность пространства ,  – размерность пространства ). "Вторая производная  определяется в этом случае совокупностью  величин " [27]. Производные Фреше более высоких порядков в работе [27] не комментируются.

Как видно из приведенного обзора, функциональный анализ является весьма общим (обладающим теоретической общностью) и мощным, но и весьма абстрактным математическим аппаратом. Он приспособлен для теоретических исследований и совсем не приспособлен для практических расчетов. С точки зрения приведенных в разделах (1.1.2), (1.1.3) соображений этот подход следует считать плохо формализованным и вследствие этого не обладающим алгоритмической общностью.