<<
>>

10.6. Проверка гипотез в линейной модели, I

Рассмотрим теперь обобщенную линейную модель у = Х0 + и (см. (5.3)) с матрицей ковариаций ошибок У(и) = SI, где ft — известная положительно определенная симметричная матрица. Мы ослабим это требование в следующем разделе.
Пусть мы хотим проверить гипотезу о том, что выполнена система q (q < к) независимых линейных ограничений R0 — г. Здесь R — известная q х к матрица ранга q, а г — известный q х 1 вектор. В данном разделе мы расмотрим три различных теста для проверки этой гипотезы, основанные на разных подходах.

Выпишем логарифмическую функцию правдоподобия

lnL{0) = const +^\п\П-1\-^{у-Х0)'П-1{у-Х0), (10.28) ее частные производные первого порядка

?*т = Х>П-Ъ-Х0) (10.29)

и информационную матрицу

= (10.30)

ML-оценка для 0 в регрессии без ограничения задается уравнением д]пЬ(0)/д0 — 0, откуда получается GLS-оценка (см. (5.4))

0 = {X'Sl-lX)-lX'U'ly. (10.31)

Вектор остатков равен и = у — Х0, а соответствующее максимальное значение логарифмической функции правдоподобия равно

In L(3) = const + ^ln|«-1| - (10.32)

ML-оценка для 0 в регрессии с ограничением (R0 = г) получается максимизацией функции In L(0) при условии R0 = г.

Чтобы найти эту оценку, запишем функцию Лагранжа

ф{(3) = In Ц З) - 1'{R0 - г), (10.33)

где через I = ,1ЧУ обозначен вектор q множителей Лагран

жа. Условия экстремума имеют вид

дф{(3)/д(3 = О и R(3 = г (10.34)

или

X'Cl-l(y-X0)-R'l = O и Rf3 = г. (10.35) Обозначим через (3 и I решение системы (10.35). Получаем

З = 3 ~ {Х'ЇІ^ХГ^Ч (10.36)

и, следовательно,

r = R]3 = Rp- (R{X'Q-lX)-xR')l. (10.37)

Выразив Т из (10.37):

!= (ЩХ'П-1Х)-*В!)~1(1ф - г), (10.38)

и, подставив это выражение в (10.36), найдем оценку (3 в регрессии с ограничением-

3 = 3- (X/f2"1X)-1Jl/(R(X/f2-1X)-1R/)"1(R3 - г). (10.39)

Обозначим через й = у - Х(3 вектор остатков в регрессии с ограничением.

Тогда максимальное значение логарифмической функции правдоподобия In L((3) равно

InL(3) = const + I In ІП"1! - \v!Sl~lu. (10.40)

Теперь мы готовы сформулировать три теста, о которых шла речь в начале раздела. Во всех этих тестах нулевой гипотезой Но является наличие ограничения R(3 = г.

Тест Вальда (W) (Wald test). Тест Вальда основан на идее, что при выполнении нулевой гипотезы вектор R& должен быть близок к г. Из (10.31) получаем

RP-r~ N(R0 - г,^(X'n^XJ-'R'). (10.41)

Следовательно, если имеет место нулевая гипотеза, то

ДЗ - г ~ N(0, RiX'Q^X)-1 R'). (10.42)

Используя свойство нормального распределения (приложение МС, п. 4, N9), получаем

W = (яЗ - г)'(Л(Х'П-1Х)-|Л')"|(яЗ - г) ~ x2{q)- (10.43)

Отметим, что тест Вальда использует только оценки в модели без ограничения на параметры.

Тест множителей Лагранжа (LM) (Lagrange multiplier test). Тест множителей Лагранжа основан на идее, что при выполнении нулевой гипотезы все множители Лагранжа должны быть равны нулю, поэтому и вектор I должен быть близок к нулю. Из (10.38) и (10.41) получаем, что в том случае, когда выполняется нулевая гипотеза,

l~N(0,(R{X'n-iX)-lR!)~1) (10.44)

и, следовательно,

LM = VR(X'Sl-lX)-lR!i~ X2(q)- (Ю.45)

Поскольку в силу (10.35) X'Q = Д'Т, получаем эквивалентное представление LM статистики

LM = u'Sl-lX{X'Sl-lX)-lX'€l-xu.

В отличие от теста Вальда тест множителей Лагранжа использует только оценки в модели с ограничением на параметры. Тест отношения правдоподобия (LR) (Likelihood ratio test). Тест отношения правдоподобия использует как регрессию с ограничением, так и регрессию без ограничения. Он основан на том, что если ограничение справедливо, то отношение максимальных значений функций правдоподобия для регрессии с ограничением и без ограничения должно быть близко к 1. Таким образом, в качестве критической статистики теста берется разница максимумов логарифмических функций правдоподобия (10.32) и (10.40):

LR = —2(ln L0) - In Ьф)) = и О,-1 и - и хи.

(10.46)

Можно показать, что при выполнении нулевой гипотезы (10.46) имеет Х2{$) распределение. Действительно, поскольку Хр = Хр - Х{р - р), то и = и + Хф - Р). Домножив на ft"1/2, получаем

Q-1'2и = П-^Й + П~1'2Хф - р). (10.47)

Взяв скалярный квадрат обеих частей (10.47) и учитывая, что X'Q~xu = 0 (см. (10.31)), имеем

й'п~1й = й'п^й + ф - рух'п^хф - р). (ю.48)

Из (10.36) вытекает, что

Р - р = {X'n^X^R'l, (10.49)

поэтому из (10.45) следует:

LR = uQ~lu — u'Q~lu =TR{X'SГ1 Х)~*ДЇ~ x*(q). (Ю.50)

Мы видим, что все три критические статистики имеют одно и то же х2(я) распределение. Более того, из (10.50)) следует LR = LM. Из равенства (10.38) вытекает, что W = LM. Следовательно,

LM = LR = W. (10.51)

Однако, это справедливо только в простейшем случае, когда матрица ковариаций ошибок Q полностью известна. Ситуация усложняется в том (более реальном) случае, когда матрица SI неизвестна.

10.7. Проверка гипотез в линейной модели, II

Предположим теперь, что матрица Q неизвестна, однако известна ее структура, т. е. SI = fl(0) является функцией неизвестного р х 1 вектора параметров в, который необходимо оценить. (Эту ситуацию мы рассматривали ранее в главе 5, п. 5.3.) Три критические статистики в этом случае принимают вид:

W = (ЯЗ - Г)'(Я(Х'П"1Х)-1Л')-1(ЯЗ ~ г), (10.52) LM = u,ft"1X(X'ft~1X)-1X,ft"15, (10.53)

LR = -2(ln Ьф, в) - In ьф, в)), (10.54)

где П = П(в) и П = П(6). Теперь мы покажем, что верно знаменитое неравенство

LM < LR < W. (10.55)

Доказательство основано на довольно тонком замечании, принадлежащем Бреушу (Breusch, 1979). Отметим сначала, что /3 является точкой максимума функции In Ь((3,а $ является точкой условного максимума функции In Ь((3,0) при ограничении R(3 = г. Введем теперь два новых^ вектора: /Зи, являющийся точкой максимума функции In Ь((3,в), и /Зг, который является точкой условного максимума функции In L((3, в) при ограничении R(3 = г

Равенства, выведенные в предыдущем разделе (для случая, когда в известно), позволяют получить следующие выражения для статистик W и LM, представив их в виде, аналогичном статистике LR:

W = -2 (in Ьфг,в) - In Ьф, б)) , (10.56)

LM = -2 (in Ьф, в) - In Ьфи, 5)) . (10.57)

Кроме того, критическая статистика теста отношения правдоподобий равна

LR = -2 (in L(3, в) - In L(3, в)) . (10.58)

Отсюда мы получаем, что

LR - LM = 2 (in L(3, в) - In L(3U, 0)) ^ 0, (10.59)

W-LR = 2(lnL(3,0)-lnL(3r,0)) >0. (10.60)

Следовательно, LM < LR < W.

Это неравенство справедливо при нулевой гипотезе. Для конечных выборок уровень значимости тестов, если применять одно и то же критическое значение, будет различен. Неравенство само по себе не дает никакой информации о сравнительной мощности W, LR и LM тестов. Подробное обсуждение этого неравенства и его следствий содержится в работах (Evans and Savin, 1982) и (Godfrey, 1988).

<< | >>
Источник: Магнус Я.Р., Катышев П.К., Пересецкий АЛ. Эконометрика. Начальный курс: Учеб. — 6-е изд., перераб. и доп. — М.: Дело. — 576 с.. 2004

Еще по теме 10.6. Проверка гипотез в линейной модели, I:

  1. 8.3. РЕАКЦИЯ ЛИНЕЙНОЙ МОДЕЛИ НА ВВОД СИНУСОИДАЛЬНЫХ ИЗМЕНЕНИЙ
  2. 8.6. ИНЖЕНЕРНЫЙ ПОДХОД. ЛИНЕЙНЫЕ И НЕЛИНЕЙНЫЕ СИСТЕМЫ
  3. III. Можно ли проверить гипотезу с помощью проверки реалистичности ее предпосылок?
  4. Б. Использование «предпосылок» для косвенной проверки теории
  5. 2.5. Статистические свойства МНК-оценок параметров регрессии. Проверка гипотезы Ь = bo. Доверительные интервалы для коэффициентов регрессии
  6. 3.5. Проверка гипотез. Доверительные интервалы и доверительные области
  7. Включение несущественных переменных
  8. 10.6. Проверка гипотез в линейной модели, I
  9. 13.3. Модель с фиксированным эффектом
  10. 13.6. Выбор модели
  11. 8. Проверка гипотез
  12. 2.4. Формулирование цели, гипотезы, определения задач, предмета и объекта исследования
  13. Геолого-математические модели
  14. Проверка гипотез, предсказывающих отклонение от закона обратных квадратов
  15. Эмпирическая фальсификация: проверка гипотез
  16. Релятивизм и проблема ценностей
  17. 10.3. Построение интерполяционной формулы. Линейная модель неадекватна
  18. 13.1.5. Интерпретация результатов. Принятие решений после построения модели (первая оерия)
  19. 13.1.6. Реализация плана (вторая серия)