Проверка гипотезы H₀: b _j = 0

Статистическая значимость коэффициентов множественной линейной регрессии с k объясняющими переменными проверяется на основе t-статистики:

,

имеющей распределение Стьюдента с n = n – k – 1 степенями свободы.

t-тесты для коэффициентов множественной регрессии выполняются так же, как и в парном регрессионном анализе. Отметим, что критический уровень t при любом уровне значимости зависит от числа степеней свободы, которое равно (n – k – 1): число наблюдений минус число оцененных параметров (один коэффициент для каждой независимой переменной и постоянный член). Доверительные интервалы определяются точно так же, как и в парном регрессионном анализе, в соответствии с указанием относительно числа степеней свободы.

t-статистика обеспечивает эффективную проверку значимости переменной при допущении, что все другие переменные уже включены в уравнение.

Последовательный отсев несущественных факторов составляет основу многошагового регрессионного анализа.

Однако на основе коэффициентов регрессии нельзя сказать, какой из факторов оказывает наибольшее влияние на зависимую переменную, т. к. коэффициенты регрессии между собой несопоставимы (они измерены разными единицами).

Различия в единицах измерения факторов устраняют с помощью частных коэффициентов эластичности, рассчитываемые по формуле:

,

где  – среднее значение изучаемого фактора.

Частные коэффициенты эластичности показывают, на сколько процентов в среднем изменяется зависимая переменная с изменением на 1 % каждого фактора при фиксированном значении других факторов.

Проверка гипотезы H₀: b₁ = b₂ = … = b _k = 0

Предположим, что в модель множественной регрессии включен свободный член, тогда TSS = ESS + USS, где ESS – объясняющая сумма квадратов отклонения с n₁ = k числом степеней свободы, использованное на её объяснение, а USS – остаточная (необъясненная) сумма квадратов с n₂ = n – k – 1 степенями свободы.

Для определения того, действительно ли объясненный разброс ESS больше случайного USS используется F-тест.

Построим F-статистику:

(для сопоставимости ESS и USS их значения привели на одну степень свободы).

После деления числителя и знаменателя этого выражения на TSS можно вычислить F-статистику на основе R²:

.

Показатели F и R² равны или не равны нулю одновременно, поэтому принятие гипотезы H₀: F = 0 равнозначно статистической незначимости R².

Величина F имеет распределение Фишера с n₁ = k, n₂ = n – k – 1 степенями свободы. Наблюдаемому (расчетному) значению критерия F соответствует определенная значимость F, которую можно определить в Excel с помощью функции FРАСП(F; n₁; n₂).

Из сравнения значимости F с заданным стандартным уровнем значимости, получаем:

- если значимость F > стандартного уровня, то R² незначим;

- если значимость F < стандартного уровня, то R² значим.

Чаще всего F-тест используется для оценки того, значимо ли объяснение, даваемое уравнением в целом.

Проверка гипотезы H₀: F = 0 равнозначно проверке гипотезы

H₀: b₁ = b₂ = … = b _k = 0

об одновременном равенстве нулю всех коэффициентов линейной регрессии, за исключением свободного члена.

Замечание. Если объясняющие способности независимых переменных перекрываются (сильная корреляция между ними), то t-тест для каждой переменной окажется незначим, в то время как F-тест для уравнения в целом вполне может быть значим.

Мультиколлинеарность

Мультиколлинеарность – это коррелированность двух или нескольких объясняющих переменных в уравнении регрессии. При наличии мультиколлинеарности МНК-оценки формально существуют, но обладают рядом недостатков:

1) небольшое изменение исходных данных приводит к существенному изменению оценок регрессии;

2) оценки имеют большие стандартные ошибки, малую значимость, в то время как модель в целом является значимой (высокое значение R²).

Если при оценке уравнения регрессии несколько факторов оказались незначимы, то нужно выяснить, нет ли среди них сильно коррелированных между собой.

При наличии корреляции один из пары связанных между собой факторов исключается либо в качестве объясняющего фактора берется какая-то их функция. Если статистически незначим лишь один фактор, то он должен быть исключен либо заменен другим показателем.

Для отбора факторов в модель регрессии и оценки их мультиколлинеарности можно использовать матрицу парных коэффициентов корреляции (расчет корреляционной матрицы можно выполнить в MS Excel).

В модель регрессии включаются те факторы, которые сильнее связаны с зависимой переменной, но слабо связанные с другими факторами.

Упражнение 4.2. Пусть по данным бюджетного обследования семи случайно выбранных семей изучалась зависимость накопления y от дохода x₁, расходов на питание x₂ и стоимости имущества x₃. Исходные данные (усл. ед.):

Используя инструменты MS Excel, получите матрицу парных коэффициентов корреляции:

Проанализируйте целесообразность включения в модель каждого фактора.