Парный регрессионный анализ

2.1. Линейная парная регрессия

Методы и модели регрессионного анализа занимают центральное место в математическом инструментарии эконометрики. Наиболее часто используется парная регрессия, когда рассматривается пара переменных: одна объясняющая (синонимы — входная, экзогенная, регрессор) переменная Х и одна – объясняемая (синонимы — выходная, результирующая) переменная Y – обязательно случайная величина.

Регрессией называют функцию, отражающую зависимость математического ожидания (МО) СВ Y от значений Х (такую зависимость называют также корреляционной). По определению регрессия есть условное МО СВ Y:

На практике точно не известно условное МО СВ Y, т. е. функция j(х). Поэтому можно говорить лишь о приближенном построении — оценке такой функции. Исходными данными для этого служат n пар значений Х и Y: xi и yi при i=1, 2, … , n.

В случае парной линейной регрессии в качестве оценки — выборочного уравнения регрессии — принимается прямая линия:

Неизвестные параметры bo и b1, как правило, определяются методом наименьших квадратов: значения параметров должны доставлять минимум сумме квадратов отклонений наблюденных значений yi от теоретических значений , определяемых регрессией (2.2):

Теоретически для оценки параметров bo и b1 можно использовать и метод наименьших модулей отклонений å ç — yiç. Однако метод наименьших квадратов (МНК), во-первых, проще, во-вторых, его применение обосновывается законом больших чисел, в-третьих, позволяет проводить глубокий анализ качества эконометрической модели.

Для отыскания значений параметров bo и b1 эконометрической модели (2.2) с помощью МНК приравниваем нулю частные производные S по bo и b1 и получаем систему двух уравнений:

Отсюда после преобразований получаем систему двух линейных уравнений с двумя неизвестными bo и b1:

Разделим 1-е уравнение на n и получим полезное соотношение: линия регрессии проходит через точку средних значений ( , ):

Разрешая (2.6) относительно bo, подставляя это значение во 2-е уравнение системы (2.5), получим искомые формулы для расчета значений параметров уравнения регрессии:

где sx2 — выборочная дисперсия переменной Х:

— выборочная ковариация:

Параметр b1 называется коэффициентом регрессии (выборочным). Он показывает, на сколько единиц в среднем возрастет (уменьшится) при увеличении х на одну единицу.

Параметр b0 в зависимости от задачи может иметь смысл, а может и не иметь. Например, если — расход электроэнергии, а х – объем производства, то параметр b0 — условно-постоянный расход электроэнергии при нулевом производстве. Если b0<0, то экономического смысла он, как правило, не имеет.

Пример 2.1 [4, с.10]. Построить уравнение парной линейной регрессии для данных табл. 2.1, где Y — расходы на покупку продовольственных товаров, % от общих расходов и Х — среднедневная зарплата, руб./чел.×сут.

Таблица 2.1

Условные данные по субъектам России за 199Хг.

Расчеты удобно проводить с использованием таблицы типа табл. 2.2.

Таблица 2.2

Промежуточные расчетные данные

Решение. В табл. 2.2 графы 2 и 3 — наблюденные пары значений переменных Y и Х, графы 4-6 вычисляются непосредственно на основе граф 2 и 3. Остальные графы в этом примере не используются.

По формулам (2.7) рассчитаем параметры регрессии b0 и b1, получим искомое уравнение регрессии:

Смысл параметра уравнения b1: при увеличении среднесуточного дохода на 1 руб. расход на продовольствие сократится на 0,35% от общей суммы среднесуточного расхода. Свободный член b0 смысла не имеет.

2.2. Связь коэффициентов регрессии и корреляции

Если значение bo из формул (2.7) подставить в уравнение регрессии (2.2), то после преобразований получим уравнение регрессии в отклонениях (прямая проходит через начало координат — точку ( )).

Преобразуем это уравнение: разделим обе части на sy, умножим и разделим правую часть на sx, получим:

.

Другой вариант формулы для расчета r:

Статистика r — выборочный коэффициент корреляции — отражает тесноту статистической связи случайных величин Х и Y. Свойства коэффициента корреляции (рис. 2.1):

1.  -1 £ r £ 1. Чем ближе модуль ç r ç к 1, тем теснее связь Х и Y.

2.  Если r = ± 1, то связь между Х и Y — функциональная и линейная.

3.  Если r = 0, то линейная корреляционная связь между СВ Х и Y отсутствует.

4.  Коэффициент r является непосредственной оценкой генерального коэффициента корреляции r между Х и Y лишь в случае двухмерного НЗР случайной величины (Х, У). В других случаях r не является строгой мерой взаимосвязи переменных.

у у у

r = +1 r » +0,8 r » +0,5

х х х

а) б) в)

у r = -1 у r » -0,8 у r » -0,5

х х х

г) д) е)

Рис. 2.1. Примеры полей корреляции и значений r

Пример 2.2. По данным табл. 2.1 и примера 2.1 рассчитать значение коэффициента корреляции r. Для расчета используем формулу (2.11): r = b1 sx / sy. Неизвестные СКО sx и sy рассчитаем по формулам и данным табл. 2.1:

.

.

Окончательно: r = b1 sx / sy = -0,35×5.86 / 5,74 = -0,36.

Данное значение r характеризует связь между Х и Y как умеренную и обратную (см. рис. 2.1.е).

2.3. Основные положения регрессионного анализа

Напомним, что парная регрессионная модель представляется в виде:

где e — СВ — возмущение, ошибка, характеризующая отклонение СВ Y от функции регрессии j(Х) — условного математического ожидания Мх(Y). В линейном регрессионном анализе j(Х) линейна относительно оцениваемых параметров:

Пусть для оценки параметров регрессии взята выборка из n пар (xi, yi). Тогда линейная парная регрессионная модель имеет вид:

Теперь рассмотрим основные предпосылки регрессионного анализа:

1.  В модели (2.15) возмущение ei, а значит и зависимая переменная yi, есть величина случайная, а объясняющая переменная хi — величина неслучайная, но принимающая различные значения.