Множественная регрессия

Задача

По 20 предприятиям региона изучается зависимость выработки продукции на одного работника  (тыс.руб.) от ввода в действие новых основных фондов (% от стоимости фондов на конец года) и от удельного веса рабочих высокой квалификации в общей численности рабочих  (смотри таблицу своего варианта).

Требуется:

Построить линейную модель множественной регрессии. Записать стандартизированное уравнение множественной регрессии. На основе стандартизированных коэффициентов регрессии и средних коэффициентов эластичности ранжировать факторы по степени их влияния на результат. Найти коэффициенты парной, частной и множественной корреляции. Проанализировать их. Найти скорректированный коэффициент множественной детерминации. Сравнить его с нескорректированным (общим) коэффициентов детерминации. С помощью  –критерия Фишера оценить статистическую надежность уравнения регрессии и коэффициента детерминации С помощью частных  –критериев Фишера оценить целесообразность включения в уравнение множественной регрессии фактора  после  и фактора  после . Составить уравнение линейной парной регрессии, оставив лишь один значащий фактор.

Решение

Для удобства проведения расчетов поместим результаты промежуточных расчетов в таблицу:

 

Найдем средние квадратические отклонения признаков:

Расчет парных коэффициентов корреляции и параметров линейного уравнения множественной регрессии

1) Для нахождения параметров линейного уравнения множественной регрессии:

необходимо решить следующую систему линейных уравнений относительно неизвестных параметров :

 

Решать систему уравнений методом Крамера, методом обратной матрицы или методом Гаусса достаточно трудоемко, поэтому воспользуемся готовыми формулами:

 

Рассчитаем сначала парные коэффициенты корреляции:

 

Находим:

 

Таким образом, получили следующее уравнение множественной регрессии:

Коэффициенты стандартизированного уравнения регрессии

Коэффициенты  и  стандартизированного уравнения регрессии  находятся по формулам:

То есть уравнение будет выглядеть следующим образом:

Так как стандартизованные коэффициенты регрессии можно сравнивать между собой, то можно сказать, что ввод в действие новых основных фондов оказывает большее влияние на выработку продукции, чем удельный вес рабочих высокой квалификации.

 

Коэффициенты эластичности

Сравнивать влияние факторов на результат можно также при помощи средних коэффициентов эластичности:

Вычисляем:

 

Т.е. увеличение только основных фондов (от своего среднего значения) или только удельного веса рабочих высокой квалификации на 1% увеличивает в среднем выработку продукции на 0,635% или 0,142% соответственно. Таким образом, подтверждается большее влияние на результат    фактора   , чем фактора  .

 

Частные и парные коэффициенты корреляции

2)  Коэффициенты парной корреляции мы уже нашли:

 

Они указывают на весьма сильную связь каждого фактора с результатом, а также высокую межфакторную зависимость (факторы  и  явно коллинеарны, так как ). При такой сильной межфакторной зависимости рекомендуется один из факторов исключить из рассмотрения.

Частные коэффициенты корреляции характеризуют тесноту связи между результатом и соответствующим факторов при элиминировании (устранении влияния) других факторов, включенных в уравнение регрессии.

При двух факторах частные коэффициенты корреляции рассчитываются следующим образом:

 

Если сравнить коэффициенты парной и частной корреляции, то можно увидеть, что из-за высокой межфакторной зависимости коэффициенты парной корреляции дают завышенные оценки тесноты связи. Именно по этой причине рекомендуется при наличии сильной коллинеарности (взаимосвязи) факторов исключать из исследования тот фактор, у которого теснота парной зависимости меньше, чем теснота межфакторной связи.

Коэффициенты множественной корреляции и детерминации

Коэффициент множественной корреляции определить по формуле:

 

Коэффициент множественной корреляции показывает на весьма сильную связь всего набора факторов с результатом.

 

3) Нескорректированный коэффициент множественной детерминации  оценивает долю вариации результата за счет представленных в уравнении факторов в общей вариации результата. Здесь эта доля составляет 98,4% и указывает на высокую степень обусловленности вариации результата вариацией факторов, иными словами – на весьма тесную связь факторов с результатом.

Скорректированный коэффициент множественной корреляции:

определяет тесноту связи с учетом степеней свободы общей и остаточной дисперсий. Он дает такую оценку тесноты связи, которая не зависит от числа факторов и поэтому может сравниваться по разным моделям с разным числом факторов. Оба коэффициента указывают на высокую (более 98%) детерминированность результата    в модели факторами   и  .

 

Надежность уравнения регрессии. Критерий Фишера

4) Оценку надежности уравнения регрессии в целом и показателя тесноты связи  дает  –критерий Фишера:

В нашем случае фактическое значение  –критерия Фишера:

 

Получили, что  (при ) (по таблице F-распределения Фишера-Снедекора, при уровне значимости α=0,05 и числе степеней свободы k₁=2 и k₂=20-2=18), то есть вероятность случайно получить такое значение  – критерия не превышает допустимый уровень значимости 5%. Следовательно, полученное значение не случайно, оно сформировалось под влиянием существенных факторов, то есть подтверждается статистическая значимость всего уравнения и показателя тесноты связи .

 

5) С помощью частных  –критериев Фишера оценим целесообразность включения в уравнение множественной регрессии фактора  после  и фактора  после  при помощи формул:

Найдем  и .

 

 

Получили, что . Следовательно, включение в модель фактора  после того, как в модель включен фактор  статистически нецелесообразно: прирост факторной дисперсии за счет дополнительного признака  оказывается незначительным, несущественным; фактор  включать в уравнение после фактора  не следует.

Если поменять первоначальный порядок включения факторов в модель и рассмотреть вариант включения  после , то результат расчета частного  –критерия для  будет иным. , то есть вероятность его случайного формирования меньше принятого стандарта . Следовательно, значение частного  –критерия для дополнительно включенного фактора  не случайно, является статистически значимым, надежным, достоверным: прирост факторной дисперсии за счет дополнительного фактора является существенным. Фактор  должен присутствовать в уравнении, в том числе в варианте, когда он дополнительно включается после фактора .

 

6) Общий вывод состоит в том, что множественная модель с факторами  и  с  содержит неинформативный фактор . Если исключить фактор , то можно ограничится уравнением парной регрессии: