<<
>>

5.3. Доступный обобщенный метод наименьших квадратов

Рассмотрим стандартную линейную модель

у = Х0 + є, (5.10)

где

В случае когда ті х п нормированная1 матрица ковариаций П полностью известна, то, кале было показано в разделе 5.2, наилучшая линейная несмещенная оценка (а также оценка максимального правдоподобия для (3) задается формулой (см.

(5.4)) (5.12)

/3 = (Х'П-1*)-1.*'^-1!/ (5.13)

и распределена по нормальному закону:

Напомним (п. 5.2), что оценка (5.12) называется оценкой обобщенного метода наименьших квадратов и может быть получена из решения оптимизационной задачи*

mm (у - Х0)'{1~1(у - Х0). (5.14)

На практике матрица О почти никогда неизвестна. Мы предположим, что нам задана структура матрицы О (т. е. форма ее функциональной зависимости от сравнительно небольшого количества параметров), но не сами значения параметров. Например, мы можем знать (или допустить), что ошибки в (5.10) порождаются авторегрессионным процессом первого порядка, так что

і Л Лп-Г (5.15)

Щр) = р 1

„п-1 'Здесь мы используем нормировку tr(ft) = 1. где р — неизвестный параметр, который следует оценить. (Конечно, на практике мы обычно не знаем структуры ft, но отказ от этого предположения выходит за рамки данной книги.)

Итак, предположим, что О зависит от конечного числа параметров •.. ,0т- Обозначим через в вектор параметров в = (#!,...,вт)' и будем считать, что /3 и (а3, в) функционально независимы. Этим мы исключаем случаи, когда параметры ковариационной матрицы являются функциями от /3.

Пусть в — состоятельная оценка параметра в. Обозначим fl = ft (О). Тогда оценкой доступного обобщенного метода наименьших квадратов (Feasible Generalised Least Squares, FGLS) называется величина

З = (X'rT'jrr^'rTV (5.16)

Если в — состоятельная оценка параметра в, то можно было

бы предположить, что /3 тоже является состоятельной оценкой для /3.

Однако в общем случае это неверно.

Тем не менее можно показать, что если выполнены условия

lim X'a~1X = Q (5.17)

п

(Q — конечная, невырожденная матрица) и

plim*" lg =0, (5.18)

п

то оценка доступного обобщенного метода наименьших квадратов /3 состоятельна.

Оценка максимального правдоподобия2. Напомним, что функция правдоподобия для системы (5.10) при условии (5.11) есть (см. главу 10)

і=(2,r/V)-n/*|n|-/*expp - т^ну - хту

а ее логарифм равен

In L = 1п(2тг)-^1п(0+| In | trx\~{y-Xpyor\y-Xp).

Приравнивая к нулю производные In L по /3 и по о2, получаем

/3 = (JC/0-1JC)-1JC/fi-1y, (5.19)

с? = -(у - ХР)'Я~\у - Х0), (5.20)

п

дифференцирование по 6j (j = 1,... ,m) дает

= (C,fi)f (5.21) e'fl е п

где

~ ^ да-1 (в)

е = у - Х(3, = —1І.

Решением системы уравнений (5.19)-(5.21) являются оценки максимального правдоподобия /3, 0, а2. В этой системе только решение уравнений (5.21) может представлять трудность. В некоторых случаях (5.21) удается решить явно, но в большинстве случаев необходимо применять численные итерационные процедуры.

Интересно заметить, что из (5.21) и симметричности распределения є следует, что (/3 — /3) и — (/3 — /3) имеют одинаковую плотность. Отсюда вытекает, что /3 симметрично распределено вокруг /3 и, следовательно, является несмещенной оценкой, если существует ее математическое ожидание.

Есть несколько способов работы с системой (5.19)-(5.21). Можно искать точное решение — оценку максимального правдоподобия, можно также использовать следующую весьма популярную двухшаговую процедуру.

1) Вычисляем оценку метода наименьших квадратов = (Х'Х)'1 Х'у.

Вычисляем остатки метода наименьших квадратов ец).

Решаем систему (5.21) при заданных остатках. Получаем т х 1 вектор 0(іу

Вычисляем fl(i) = 0(0(1))-

2) 3(2) =

При некоторых слабых предположениях (таких, например, как состоятельность 0(i)) /3(2) будет асимптотически эквивалентна оценке максимального правдоподобия. А как известно, в широком числе случаев оценка максимального правдоподобия асимптотически эффективна.

Большинство двухшаговых процедур (например, процедура Кохрейна-Оркатта) могут быть интерпретированы как итеративные процедуры в рамках метода максимального правдоподобия и, таким образом, при слабых предположениях, асимптотически эквивалентны оценке максимального правдоподобия.

<< | >>
Источник: Магнус Я.Р., Катышев П.К., Пересецкий АЛ. Эконометрика. Начальный курс: Учеб. — 6-е изд., перераб. и доп. — М.: Дело. — 576 с.. 2004

Еще по теме 5.3. Доступный обобщенный метод наименьших квадратов:

  1. 5.2. Обобщенный метод наименьших квадратов
  2. 8.3. Двухшаговый метод наименьших квадратов
  3. 2.2. Метод наименьших квадратов (МНК)
  4. Оценивание систем одновременных уравнений. Двухшаговый метод наименьших квадратов
  5. 13.9. Обобщенный метод моментов
  6. Класифікація суджень за «логічним квадратом»
  7. ЛОГИЧЕСКИЙ КВАДРАТ
  8. 5.1. Планирование по принципу наименьших затрат
  9. Эвристика доступности
  10. Постоянно доступные конструкты
  11. ДОСТУПНАЯ ЭЛИТАРНОСТЬ
  12. Сделать информацию доступной
  13. Временные источники доступности конструкта
  14. Специфика доступной нам информации
  15. Сделать информацию доступной для поиска