Учебник+

8.3. Векторно-матричная форма записи

Выведем в общем виде формулы 2МНК-оценки вектора коэффициентов для случая множественной регрессии.

В случае использования матричной формы записи можно переписать исходное уравнение модели

\({y_{i} = {\beta_{0} + {\beta_{1} \ast x_{i}^{(1)}} + \ldots + \beta_{p}}}{x_{i}^{(p)} + \beta_{p + 1}}{w_{i}^{(1)} + \ldots + \beta_{p + r}}{w_{i}^{(r)} + \varepsilon_{i}}\)

следующим образом:

\(y = {\mathit{X\beta} + \varepsilon}\)

Здесь \(X\) — матрица регрессоров, которая имеет \(1 + p + r\) столбцов: один столбец из единиц для константы, \(p\) столбцов для эндогенных регрессоров \(x_{i}^{(1)}\ldots x_{i}^{(p)}\) и \(r\) столбцов для экзогенных переменных \(w_{i}^{(1)}\ldots w_{i}^{(r)}\). Число строк в этой матрице как обычно равно числу наблюдений \(n\).

Дополнительно, нам потребуется матрица \(Z\)\(n\) на \((1 + m + r)\) матрица, включающая константу, инструменты и экзогенные регрессоры — все переменные для регрессии первого шага.

На первом шаге двухшагового МНК мы оцениваем регрессию \(X\) по \(Z\). Это можно записать так:

\({\widehat{X} = Z}\widehat{\alpha}.\)

По формуле для МНК-оценки из параграфа 3.3 \(\widehat{\alpha} = \left( Z^{'}Z \right)^{- 1}Z^{'}X\). Следовательно:

\({\widehat{X} = Z}\left( {Z^{'}Z} \right)^{- 1}Z^{'}X.\)

На втором шаге двухшагового МНК мы оцениваем регрессию \(y\) по \(\widehat{X}\):

\({\widehat{y} = \widehat{X}}\widehat{\beta^{\mathit{TSLS}}}.\)

По формуле для МНК-оценки из параграфа 3.3 \(\widehat{\beta^{\text{TSLS}}} = \left( \widehat{X}'\widehat{X} \right)^{- 1}{\widehat{X}}^{'}y\). Следовательно:

\({\widehat{\beta^{\mathit{TSLS}}} = \left( {\widehat{X}'\widehat{X}} \right)^{- 1}}{\widehat{X}}^{'}{y =}\)

\({}\left( {\left( {Z\left( {Z^{'}Z} \right)^{- 1}Z^{'}X} \right)'\left( {Z\left( {Z^{'}Z} \right)^{- 1}Z^{'}X} \right)} \right)^{- 1}\left( {Z\left( {Z^{'}Z} \right)^{- 1}Z^{'}X} \right)^{'}{y =}\)

\({}\left( {X'{Z\left( {Z^{'}Z} \right)}^{- 1}Z'Z\left( {Z^{'}Z} \right)^{- 1}Z^{'}X} \right)^{- 1}\left( {Z\left( {Z^{'}Z} \right)^{- 1}Z^{'}X} \right)^{'}{y =}\)

\({}\left( {X'{Z\left( {Z^{'}Z} \right)}^{- 1}Z^{'}X} \right)^{- 1}\left( {Z\left( {Z^{'}Z} \right)^{- 1}Z^{'}X} \right)^{'}{y =}\)

\({}\left( {X'{Z\left( {Z^{'}Z} \right)}^{- 1}Z^{'}X} \right)^{- 1}{X'Z\left( {Z^{'}Z} \right)}^{- 1}Z'y\)

Таким образом, окончательно имеем следующую формулу для 2МНК-оценки:

\({\widehat{\beta^{\mathit{TSLS}}} = \left( {X'{Z\left( {Z^{'}Z} \right)}^{- 1}Z^{'}X} \right)^{- 1}}{X'Z\left( {Z^{'}Z} \right)}^{- 1}Z'y\)

Отметим, что для корректности приведенных выкладок необходимо, чтобы матрица \(\widehat{X}'\widehat{X}\) была невырожденной (чтобы существовала обратная к ней матрица \(\left( \widehat{X}'\widehat{X} \right)^{- 1}\)). Именно для этого требуется выполнение свойства релевантности инструментов, которое мы сформулировали в конце предыдущего параграфа.

Если число инструментов в точности совпадает с числом эндогенных регрессоров (\(m = p\)), то матрицы \(X\) и \(Z\) имеют одинаковую размерность. В этом случае выражение для оценки \(\widehat{\beta^{\text{TSLS}}}\) можно упростить:

\({\widehat{\beta^{\mathit{TSLS}}} = \left( {X'{Z\left( {Z^{'}Z} \right)}^{- 1}Z^{'}X} \right)^{- 1}}{X'Z\left( {Z^{'}Z} \right)}^{- 1}Z^{'}{y =}\)

\({}\left( {Z^{'}X} \right)^{- 1}\left( {Z^{'}Z} \right)\left( {X^{'}Z} \right)^{- 1}{X'Z\left( {Z^{'}Z} \right)}^{- 1}Z^{'}{y =}\)

\({}\left( {Z^{'}X} \right)^{- 1}\left( {Z^{'}Z} \right)\left( {Z^{'}Z} \right)^{- 1}Z^{'}{y =}\)

\({}\left( {Z^{'}X} \right)^{- 1}Z^{'}y\)

Этот частный случай двухшагового МНК иногда называют методом инструментальных переменных (instrumental variables). Таким образом, оценка по методу инструментальных переменных имеет вид:

\({\widehat{\beta^{\mathit{IV}}} = \left( {Z^{'}X} \right)^{- 1}}Z^{'}y.\)