Для выполнения инженерных расчетов, связанных с прогнозированием по массовым случайным явлениям и основанных на методах теории вероятностей, необходимо знать параметры случайных величин, участвующих в этих расчетах: математическое ожидание, дисперсию и т.д.

1. Оценка  называется состоятельной, если при неограниченном увеличении объема выборки  сходится по вероятности к истинному значению параметра :

Это означает: при достаточно большом объеме выборки с практической достоверностью (с вероятностью, близкой к единице)  практически совпадает с истинным значением .

2. Оценка  называется несмещенной, если ее математическое ожидание совпадает с истинным значением параметра : .

3. Оценка  называется эффективной, если она несмещенная и при этом имеет наименьшую дисперсию (наименьший разброс относительно ) по сравнению с другими несмещенными оценками параметра .

Пусть с испытанием связана случайная величина  с неизвестными числовыми характеристиками (а, D) и пусть набрана независимая выборка .

В дальнейшем будем употреблять следующий удобный термин: любую функцию  от выборки  будем называть статистикой.

Лемма 1. Статистика

является состоятельной несмещенной оценкой математического ожидания а.

Доказательство

 1. Мы знаем, что элементы выборки  являются независимыми случайными величинами с одним и тем же законом распределения, совпадающим с законом распределения случайной величины , а значит, имеют те же числовые характеристики (а, D).

       По теореме Чебышева среднее арифметическое независимых случайных величин с одинаковыми параметрами (а, D), при неограниченном возрастании числа слагаемых сходится по вероятности к общему математическому ожиданию

что и означает состоятельность оценки.

2. Имеем       

Это означает несмещенность оценки .

Лемма 2. Статистика

является состоятельной несмещенной оценкой дисперсии D. (Доказывается аналогично лемме 1).

Замечание 1. Если в формуле заменить (n - 1) на n , то оценка останется состоятельной, но будет смещенной. Величина S² называется исправленной дисперсией.

Замечание 2. Из леммы 2 следует, что статистика:

является состоятельной оценкой для СКО ). Можно доказать, что , т.е. оценка S является смещенной оценкой для .

       Пусть по данным опыта получим ряд значений случайной точки ( ) (выборка):

(х₁, у₁) (х₂, у₂), …, (х_n, у_n).

Справедлива следующая

Лемма 3. Состоятельной несмещенной оценкой для cov( ) является выборочная ковариация

где