Анализ значимости параметров модели парной регрессии

Поможем в ✍️ написании учебной работы

Имя

Поможем с курсовой, контрольной, дипломной, рефератом, отчетом по практике, научно-исследовательской и любой другой работой

Нажимая кнопку "Продолжить", я принимаю политику конфиденциальности

Значения y_i, соответствующие данным х _i при теоретических значениях а и b модели парной регрессии являются случайными.

Случайными являются и рассчитанные по ним значения коэффициентов а и b. Надёжность получаемых оценок а и b зависит от дисперсии случайных отклонений (ошибок).

По данным выборки эти отклонения и соответственно их дисперсия не оцениваются. В расчётах используются отклонения зависимой переменной y_i от её расчётных значений :

Так как предполагается, что ошибки (остатки) e _i нормально распределены, то среднеквадратическое отклонение ошибок используется для измерения этой вариации.

Среднеквадратические отклонения коэффициентов известны как стандартные ошибки (отклонения):

где – оценка математического ожидания (среднего значения) независимой переменной Х;

– стандартная ошибка оценки регрессии.

Проверка значимости отдельных коэффициентов регрессии связана с определением наблюдаемых (расчётных) значений Т–критерия (Т–статистики) для соответствующих коэффициентов регрессии.

Нулевая (проверяемая) гипотеза в данном случае имеет вид:

Наблюдаемые значения критерия

сравниваются с табличными (при двухсторонней критической области)

Если расчётное значение критерия превосходит его табличное значение при заданном уровне значимости a (0,1; 0,05; 0,01), коэффициент регрессии считается значимым.

В противном случае фактор, соответствующий этому коэффициенту, следует исключить из модели (при этом её качество не ухудшится).

5. Для значимого уравнения регрессии представляет интерес построение интервальных оценок для параметра b и свободного члена а.

;

где определяется по таблице распределения Стьюдента для уровня значимости a и числа степеней свободы ν = п – 2;

– стандартные отклонения свободного члена и коэффициента регрессии соответственно;

n – число наблюдений.

Пример 5.1. Статистическая обработка наблюдений показателей ( ) дала следующие промежуточные результаты:

; ; ; ; .

Определить тесноту связи между показателями и получить уравнение линейной регрессии. Проверить гипотезу о предварительной (экспертной) оценке коэффициента регрессии, предполагаемого равным единице.

Решение. Тесноту связи между показателями оценим с помощью линейного коэффициента корреляции. Для этого вычислим оценки корреляционного момента, дисперсии и средних квадратических отклонений.

Получаем, что

; ; ; ;

Уравнение регрессии ищем в виде

Оценку параметров регрессии выполним по формулам:

Имеем уравнение:

Вычислим сумму квадратов остатков:

Тогда дисперсия ошибок равна:

Значит .

Проверим гипотезу при конкурирующей .

Дисперсия коэффициента вычисляем по формуле:

тогда

Проверим значимость отклонения коэффициента b:

Так как , то гипотезу отвергаем, т.е. отклонение коэффициента значимо.

Проверим значимость коэффициента при .

Проверяемая гипотеза : коэффициент – не значим ( ).

Конкурирующая гипотеза .

Тогда

;

Так как , то коэффициент значим.

Пример 5.2. За прошедший год собраны данные о затратах на рекламу (Х, долл./нед.) и объёме реализации продукции (Y, кг/нед.).

Получили следующие данные:

	1200 – 1300	1300 – 1400	1400 – 1500	1500 – 1600	1600 – 1700
40 – 45	1
45 – 50	3	2	3
50 – 55	2	4	4	3
55 – 60		4	5	6	2
60 – 65			3	4	2
65 – 70					2

Есть ли взаимосвязь между вложениями в рекламу и объёмом продаж? Если взаимосвязь есть, то найти уравнение связи. Спрогнозировать объём продаж, если вложения в рекламу составят 80 долл./нед.

Сколько средств надо вкладывать в рекламу, чтобы получить объём реализации продукции в 1000 кг?

Фирма надеется, что вкладывая в рекламу 100 долл. еженедельно объём реализации продукции составит не менее 2100 кг. Какова вероятность этого?

Решение. Пусть и – количество интервалов группировки исходных показателей и . Имеем: , .

Тогда общее количество наблюдений

Вычислим основные характеристики, взяв за и соответствующие середины интервалов:

; ;

Определим, есть ли взаимосвязь между вложениями в рекламу и объёмом продаж с помощью линейного коэффициента корреляции.

1) Проверка гипотезы о значимости коэффициента корреляции

осуществляется с использованием − распределения Стьюдента.

Вычислим наблюдаемое значение критерия:

По таблице квантилей − распределения Стьюдента найдём критическую точку для двухсторонней критической области.

Так как , то гипотезу отвергаем, т.е. коэффициент корреляции при уровне значимости значим.

2) Получим уравнение регрессии:

3) Для проверки гипотезы о значимости полученных моделей регрессии ( уравнение не значимо) вычислим значение –критерия:

где – количество наблюдений, – количество показателей.

По таблице квантилей – распределения найдём критическую точку.

Так как , то гипотезу отвергаем, т.е. уравнения регрессии значимы при уровне значимости .

4) Прогнозную величину еженедельных продаж, если расходы на рекламу составят 80 долл./нед., определим по уравнению регрессии:

5) По уравнению регрессии для вычислим сколько надо вкладывать в рекламу, чтобы объём продаж составил 1000 долл./нед.

6) Определим объём реализации при х =100 долл.

Тогда вероятность того, что

Пример 5.3. Месячные объёмы продаж ткани ( , тыс. м.) и величины премиального фонда ( , тыс. руб.) в девяти филиалах торговой фирмы характеризовались следующими данными:

1	2	3	4	5	6	7	8	9
2,3	2,8	1,9	3,4	2,6	3,3	4,2	3,0	1,7
6,1	8,2	7,1	14,9	9,1	9,0	15,8	8,2	7,7

Исследовать зависимость премиального фонда от объёма продаж.

Получить прогноз объёма премиального фонда при продажах 3,4 тыс. м ткани. Оценить качество прогноза.

Продавцы полагают, что если объём продаж составит 5 тыс. метров, то их премия будет свыше 18 тыс. руб. в месяц. Какова вероятность этого?

Решение.

1. Найдём основные характеристики исследуемых величин:

2. Исследуем тесноту линейной зависимости показателей.

Вычислим корреляционный момент показателей и .

Линейный коэффициент корреляции:

Исследуем найденный коэффициент на значимость.

Воспользуемся – критерием Стьюдента.

Гипотеза , конкурирующая гипотеза .

Возьмём уровень значимости .

Так как , то принимаем гипотезу , т.е. линейный коэффициент корреляции значим, и между и существует линейная зависимость.

3. Найдём линейную зависимость в виде:

где и находятся по формулам:

Уравнение регрессии имеет вид:

Вычислим значения по полученному уравнению регрессии:

	2,300	2,800	1,900	3,400	2,600	3,300	4,200	3,000	1,700
	7,790	9,570	6,366	11,706	8,858	11,350	14,554	10,282	5,654

Проверим полученное уравнение регрессии на значимость при уровне значимости . Для этого воспользуемся −критерием.

Гипотеза : уравнение не значимо, конкурирующая гипотеза : уравнение значимо.

Вычислим значение критерия по формуле:

где − количество наблюдений,

− количество независимых переменных .

Так как , то принимаем гипотезу , т.е. уравнение регрессии значимо.

Проверим на значимость коэффициенты уравнения регрессии.

Для этого вычислим стандартную ошибку по соотношению

Вычислим соответствующую сумму квадратов отклонений.

Тогда:

Проверим на значимость коэффициент .

Гипотеза : коэффициент не значим ( ), конкурирующая гипотеза : коэффициент значим ( ).

Возьмём уровень значимости .

Вычислим наблюдаемое значение критерия по формуле:

где

Тогда

Так как , то принимаем гипотезу : коэффициент значим.

Для коэффициента можно получить доверительный интервал:

для .

Проверим на значимость коэффициент .

Гипотеза : ( ), конкурирующая гипотеза : ( ).

Вычислим значение критерия по формуле:

где

Тогда

Так как , то нет оснований отвергать гипотезу , т.е. коэффициент не значим.

4. Получим прогноз объёма премиального фонда при .

По уравнению регрессии найдём:

Получим доверительный интеграл для уравнения регрессии:

5. Получим прогноз объёма премиального фонда при .

По уравнению регрессии найдём:

Доверительный интервал для данного индивидуального прогноза:

Искомую вероятность определим с использованием условного нормального закона распределения с параметрами

Нелинейная парная регрессия

Если между явлениями существуют нелинейные соотношения, то они выражаются с помощью соответствующих нелинейных функций.

Различают 2 класса моделей нелинейных регрессий:

1) регрессии, нелинейные относительно переменных, но линейные по параметрам (полиномы разных степеней, гипербола и др.);

2) регрессии, нелинейные по оцениваемым параметрам (степенная, показательная, экспоненциальная и др.);

Параметры уравнения регрессии, нелинейного относительно переменных, определяются (как и линейного) на основе МНК.

Так в случае поиска уравнения регрессии в виде полинома k–й степени, исходя из основного принципа МНК

вычисляя и приравнивая частные производные критерия Z по каждому неизвестному параметру к нулю ( ), получим систему уравнений

Решая эту систему, найдём неизвестные параметры .

Регрессии, нелинейные по оцениваемым параметрам, подразделяются на:

1) нелинейные модели внутренне линейные;

2) нелинейные модели внутренне нелинейные.

Если модель нелинейна относительно параметров регрессии, то она в ряде случаев с помощью соответствующих преобразований может быть приведена к линейному виду (табл. 5.1)

Если же модель внутренне нелинейная, то она не может быть приведена к линейному виду.

Для оценки параметров в этом случае используются итеративные (итерационные) процедуры, успешность которых зависит от вида уравнения и особенностей применяемого метода.

Таблица 5.1

Подстановки для перехода от нелинейных зависимостей к линейным

№	Вид нелинейной зависимости	Подстановка
1
2
3
4		;
5
6
7		;
8
9		;

Пример 5.4. Исследовать зависимость урожайности капусты Y (ц/га) от количества использованной воды при искусственном поливе X (м³/га) в период роста культур.

Опытные данные по 9 полям представлены ниже в таблице:

№ поля	1	2	3	4	5	6	7	8	9
Кол–во воды при поливе (м³/га)	18,2	16,3	17,0	19,4	20,4	22,1	23,2	24,3	25,1
Урожайность (ц/га)	25,3	23,1	24,2	30,5	35,6	33,7	30,8	28,2	22,5

Выполнить регрессионный анализ исследуемых переменных.

Решение. Можно предположить, что увеличение объёма полива приводит к урожайности до некоторого предела, после чего урожайность будет снижаться.

С учётом расположения точек корреляционного поля (таблица) можно предположить, что наиболее подходящим уравнением регрессии будет уравнение параболы: .

Параметры модели ( ) находим, используя МНК:

Приравняв частные производные критерия по неизвестным параметрам к нулю , получим (после соответствующих преобразований) систему нормальных уравнений:

Для расчёта необходимых сумм составим вспомогательную таблицу:


1	18,2	25,3	331,2	6028,6	109719,9
2	16,3	23,1	265,7	4330,7	70591,2
3	17,0	24,2	289,0	4913,0	83521,0
4	19,4	30,5	376,4	7301,4	141646,9
5	20,4	35,6	416,2	8489,7	173189,1
6	22,1	33,7	488,4	10793,9	238544,4
7	23,2	30,8	538,2	12487,2	289702,3
8	24,3	28,2	590,5	14348,9	348678,4
9	25,1	22,5	630,0	15813,3	396912,6
Итого	186,0	253,9	3925,6	84506,6	1852505,8

1	460,5	8380,4	640,1	29,0	13,7
2	376,5	6137,4	533,6	20,9	4,8
3	411,4	6993,8	585,6	24,4	0,1
4	591,7	11479,0	930,3	32,0	2,3
5	726,2	14815,3	1267,4	33,3	5,3
6	744,8	16459,4	1135,7	32,8	0,8
7	714,6	16577,8	948,6	30,8	0,0
8	685,3	16651,8	795,2	27,4	0,6
9	564,8	14175,2	506,3	24,0	2,3
Итого	5275,7	111670,1	7342,8	254,6	29,8

Теперь система уравнений примет вид:

Решая эту систему (например, методом Гаусса) получим:

Уравнение регрессии будет иметь вид:

1. Оценим значимость (адекватность) полученной модели.

Вычислим необходимые суммы квадратов отклонений.

Тогда значение критерия адекватности модели будет равно:

Здесь m – количество параметров при независимой переменной (m = 2).

Уравнение регрессии значимо.

2. Для оценки тесноты связи между переменными X и Y вычислим индекс корреляции:

Полученная зависимость весьма веская и значимая.

Коэффициент детерминации показывает, что вариация урожайности зерновых культур на 83,44% обусловлена регрессией, т.е. изменчивостью количества воды при поливе.

3. Точность модели оценим стандартной ошибкой уравнения регрессии: .

Пример 5.5. По семи предприятиям лёгкой промышленности региона получена информация, характеризующая зависимость объёма выпуска продукции (Y, млн. руб.) от объёма капиталовложений (X, млн. руб.):

Предприятие	1	2	3	4	5	6	7
Выпуск	152	148	146	134	137	136	134
Капвложения	86	94	100	96	93	104	122

Для характеристики связи объёма выпуска продукции от объёма капиталовложений построить следующие модели: линейную, степенную, показательную, гиперболическую. Оценить качество каждой модели, определив индекс корреляции, среднюю относительную ошибку, коэффициент детерминации, F–критерий Фишера.

Решение. Имеем – количество наблюдений, – количество независимых показателей.

1. Уравнение линейной регрессии имеет вид:

Рассчитаем основные средние величины показателей.

Значение параметров и линейной модели определим, используя вычисленные средние значения по данным исходной таблицы.

Получаем уравнение линейной регрессии:

Это означает, что предприятие работает не эффективно.

При увеличении капиталовложений на 1 млн. руб. объём выпускаемой продукции уменьшится на 424 тыс. руб.

Возможно, это связано с реконструкцией предприятия, когда основное внимание уделяется техническому и технологическому переоборудованию производства, а не максимальному выпуску продукции в рассматриваемый период времени.

Определим линейный коэффициент корреляции по формуле:

Можно сказать, что связь между объёмом капиталовложений и объёмом выпуска продукции не очень сильная и обратно–пропорциональная.

Рассчитаем коэффициент детерминации:

Вариация объёма выпуска продукции на 37,2% объясняется вариацией фактора объёма капиталовложений.

Оценку значимости уравнения регрессии ( уравнение не значимо) проведём с помощью F–критерия Фишера.

Вычислим наблюдаемое значение критерия:

По таблице – распределения найдём критическую точку.

Так как , то нет оснований отвергать гипотезу , т.е. уравнение регрессии не значимо при уровне значимости .

Для построения значимого линейного уравнения необходимы дополнительные данные или поиск нелинейной зависимости межу исследуемыми показателями.

Определим среднюю относительную ошибку:

Промежуточные расчёты сведены в таблицу с используемой анализируемой моделью регрессии

Предприятие
1	86	152	146,676	0,035
2	94	148	143,284	0,032
3	100	146	140,740	0,036
4	96	134	142,436	0,063
5	93	137	143,708	0,049
6	104	136	139,044	0,022
7	122	134	131,412	0,019
Итого:				0,257

В среднем расчётные значения объёма выпуска продукции для линейной модели отличаются от фактических значений на 3,67 %.

2. Уравнение степенной модели имеет вид:

Для построения этой модели целесообразно (необходимо) произвести линеаризацию переменных.

Для этого произведём десятичное логарифмирование обеих частей уравнения:

Обозначим , , .

Тогда уравнение примет линейный вид:

Промежуточные расчёты для получения линеаризованной модели регрессии сведены в таблицу:


1	152	86	2,182	1,935	4,221	3,742
2	148	94	2,170	1,973	4,282	3,893
3	146	100	2,164	2,000	4,329	4,000
4	134	96	2,127	1,982	4,217	3,929
5	137	93	2,137	1,969	4,206	3,875
6	136	104	2,134	2,017	4,303	4,068
7	134	122	2,127	2,086	4,438	4,353
Итого	987	695	15,041	13,962	29,996	27,861
Ср.знач.	141	99,3	2,149	1,995	4,285	3,980

Рассчитаем параметры уравнения, используя данные таблицы:

;

Уравнение линейной регрессии будет иметь вид:

Перейдём к исходным переменным и , выполнив потенцирование данного уравнения:

Получим уравнение модели регрессии в виде:

Для оценки качества модели промежуточные расчёты сведём в следующую таблицу:

Предприятие
1	86	146,370	31,692	121	0,037
2	94	142,554	29,656	49	0,037
3	100	139,959	36,500	25	0,041
4	96	141,666	58,763	49	0,057
5	93	143,008	36,094	16	0,044
6	104	138,338	5,465	25	0,017
7	122	131,932	4,276	49	0,015
Итого			202,446	334	0,249

Определим индекс корреляции:

где

Тогда, используя данные таблицы, получим:

Связь между показателями не очень сильная.

Коэффициент детерминации

Вариация результата Y (объёма выпуска продукции) по степенной модели на 39% объясняется вариацией фактора X (объёма капвложений).

Оценку значимости уравнения регрессии ( уравнение не значимо) проведём с помощью F–критерия Фишера.

Вычислим наблюдаемое значение критерия:

При этом

Так как , то нет оснований отвергать гипотезу , т.е. уравнение регрессии не значимо при уровне значимости .

Определим среднюю относительную ошибку:

где

В среднем расчётные значения результирующего показателя для степенной модели отличаются от фактических значений на 3,56 %.

3. Уравнение показательной модели(зависимости): .

Для построения этой модели необходимо произвести линеаризацию переменных. Для этого осуществим логарифмирование обеих частей уравнения: .

Обозначим:

Получим линейное уравнение регрессии:

Промежуточные расчёты для получения линеаризованной модели регрессии сведены в таблицу:

Предприятие
1	152	86,0	2,182	187,639	7396
2	148	94,0	2,170	204,005	8836
3	146	100,0	2,164	216,435	10000
4	134	96,0	2,127	204,202	9216
5	137	93,0	2,137	198,715	8649
6	136	104,0	2,134	221,888	10816
7	134	122,0	2,127	259,507	14884
Итого	987	695,0	15,041	1492,390	69797
Средн. знач.	141	99,3	2,149	213,200	9971

Рассчитаем параметры уравнения, используя данные таблицы:

Линейное уравнение будет иметь вид:

Перейдём к исходным переменным, выполнив потенцирование данного уравнения:

Определим индекс корреляции:

где

Для оценки качества модели расчёты сведём в таблицу:

Предприятие
1	152	86	143,184	77,728	121	0,056
2	148	94	139,783	67,518	49	0,054
3	146	100	137,286	75,938	25	0,058
4	134	96	138,946	24,459	49	0,039
5	137	93	140,204	10,264	16	0,026
6	136	104	135,646	0,126	25	0,001
7	134	122	128,505	30,198	49	0,039
Итого				286,231	334	0,271

Тогда, используя данные таблицы, получим:

Связь между показателями слабая.

Коэффициент детерминации

Вариация результата объёма выпуска продукции на 20,25% объясняется вариацией объёма капиталовложений.

Вычислим наблюдаемое значение F–критерия Фишера для модели:

При этом

Так как , то нет оснований отвергать гипотезу , т.е. уравнение регрессии не значимо при уровне значимости .

Определим среднюю относительную ошибку:

где

В среднем расчётные значения результирующего показателя для степенной модели отличаются от фактических значений на 3,88%.

4. Уравнение гиперболической функции: .

Произведём линеаризацию модели путём замены .

В результате получим линейное уравнение регрессии: .

Промежуточные расчёты для получения линеаризованной модели регрессии сведены в таблицу:

Предприятие
1	152	86,0	0,012	1,767	0,0001
2	148	94,0	0,011	1,575	0,0001
3	146	100,0	0,010	1,460	0,0001
4	134	96,0	0,010	1,396	0,0001
5	137	93,0	0,011	1,473	0,0001
6	136	104,0	0,010	1,308	0,0001
7	134	122,0	0,008	1,098	0,0001
Итого	987	695,0	0,071	10,077	0,0007
Средн. знач.	141	99,3	0,010	1,440	0,0001

Рассчитаем параметры модели по данным таблицы.

Получим следующее уравнение гиперболической модели:

Для оценки качества модели расчёты сведём в таблицу:

Предприятие
1	86	152	142,489	35,476	121
2	94	148	139,105	29,168	49
3	100	146	136,619	31,613	25
4	96	134	138,271	61,275	49
5	93	137	139,523	35,969	16
6	104	136	134,987	9,234	25
7	122	134	127,881	0,010	49
Итого				202,744	334

Определим индекс корреляции:

где

Тогда индекс корреляции будет равен величине

Связь между показателями и в этой модели слабая.

Коэффициент детерминации незначителен:

Вычислим наблюдаемое значение F–критерия Фишера:

При этом

И эта модель регрессии не значима при уровне значимости .

Определим среднюю относительную ошибку:

где

Тогда получим:

В среднем расчётные значения результирующего показателя для степенной модели отличаются от фактических значений на 3,42%.

Для экономических задач эта величина (модель) считается достаточно точной, но модель не значима, так как мало наблюдений.

Следует увеличить объём исходных данных.

Множественная регрессия

B множественном (многомерном) регрессионном анализе пытаются найти зависимость одной зависимой переменной от нескольких независимых: .

Связь между переменной и m независимыми факторами можно охарактеризовать функцией регрессии , которая показывает, каково будет в среднем значение переменной , если переменные примут конкретные значения.

Практика построения многофакторных моделей показывает, что реально существующие в экономике (на практике) зависимости можно описать, используя следующие типы моделей:

1) линейная ;

2) степенная ;

3) экспоненциальная ;

4) параболическая ;

5) гиперболическая .

Основное значение имеют линейные модели (относительно параметров регрессии) в силу своей простоты. Нелинейные формы зависимости часто преобразуются к линейным путём линеаризации.

Наиболее приемлемым способом определения вида уравнения регрессии является метод перебора различных уравнений регрессии.

Наилучшие значения параметров регрессии определяются методом наименьших квадратов.