Нелинейные модели парной регрессии

Уравнение регрессии в форме параболы второго порядка имеет следующий вид:

Если при линейной связи среднее изменение результативного признака на единицу фактора постоянно по всей области вариации фактора, то при параболической корреляции изменение признака  меняется равномерно с изменением величины фактора. В результате связь может даже поменять знак на противоположный, из прямой превратится в обратную, из обратной в прямую. Такой характер связи присущ  многим системам. Например, с увеличением дозы удобрений урожайность сельхозкультур сначала повышается, но если превысить оптимальную величину дозы, то при дальнейшем росте дозы удобрения растения угнетаются и урожайность снижается.

Нормальные уравнения метода наименьших квадратов (МНК) для параболы 2-го порядка таковы:

Ввиду симметричности кривой парабола второй степени далеко не всегда пригодна в конкретных исследованиях. Чаще исследователь имеет дело лишь с отдельными сегментами параболы, а не с полной параболической формой.

Кроме того, параметры параболической связи не всегда могут быть логически истолкованы. Поэтому если график зависимости не демонстрирует четко выраженной параболы второго порядка (нет смены направленности связи признаков), то она может быть заменена другой нелинейной функцией, например степенной. В частности, в литературе часто рассматривается парабола второй степени для характеристики зависимости урожайности от количества внесенных удобрений. Данная форма связи мотивируется тем, что с увеличением количества внесенных удобрений урожайность растет лишь до достижения оптимальной дозы вносимых удобрений. Дальнейший же рост их дозы оказывается вредным для растения, и урожайность снижается. Несмотря на несомненную справедливость данного утверждения, следует отметить, что внесение в почву минеральных удобрений производится на основе учета достижений агробиологической науки. Поэтому на практике часто данная зависимость представлена лишь сегментом параболы, что и позволяет использовать другие нелинейные функции.

Пример 1

Скачать пример 1 в формате pdf

Постройте криволинейную регрессионную модель (параболу) для следующих исходных данных.

	1	2	3	4
	30	7	8	1

Решение

Уравнение параболической регрессии имеет вид:

Составим расчетную таблицу:

Расчетная вспомогательная таблица

№
1	1	30	1	1	1	30	30	28.4	285.61	342.25
2	2	7	4	8	16	14	28	11.8	0.09	20.25
3	3	8	9	27	81	24	72	3.2	68.89	12.25
4	4	1	16	64	256	4	16	2.6	79.21	110.25
Сумма	10	46	30	100	354	72	146		433.8	485

Для нахождения коэффициентов параболы необходимо решить систему уравнений:

Подставляя в систему уравнений, получаем:

Решая систему уравнений, получаем:

Уравнение параболической регрессии имеет вид:

Коэффициент детерминации:

Коэффициент эластичности:

Уравнение регрессии в форме гиперболы имеет следующий вид:

Гиперболические зависимости характерны для связей, в которых результативный признак не может варьировать неограниченно, его вариация имеет односторонний предел. Например, совершенствуя двигатель, можно увеличивать его КПД, но не выше предела, допускаемого данным видом преобразования энергии. Или таков характер связи между уровнем душевого дохода в семье и долей семей, имеющих телевизоры – он приближен к пределу (100%) в наиболее обеспеченной группе семей.

Если величина  положительна, то при увеличении значений факторного признака  значения результативного признака уменьшаются, причем это уменьшение все время замедляется, и при  средняя величина признака  будет равна .  Классическим примером является кривая Филлипса, характеризующая нелинейное соотношение между нормой безработицы  и процентом прироста заработной платы.

Если же параметр  отрицателен, то значения результативного признака с ростом фактора возрастают, причем их рост замедляется, и в пределе при   .  Примером может служить взаимосвязь доли расходов на товары длительного пользования и общих сумм расходов. Математическое описание подобного рода взаимосвязей получило название кривых Энегеля.

Нормальные уравнения метода наименьших квадратов (МНК) для гиперболы таковы:

Легко увидеть, что эти уравнения, по существу, те же, что для линейной связи. Линеаризация гиперболического уравнения достигается заменой  на новую переменную, которую можно обозначить . Тогда уравнение гиперболической регрессии примет вид .

Пример 2

Скачать пример 2 в формате pdf

Постройте криволинейную регрессионную модель (гиперболу) для следующих исходных данных.

	0,96	0,75	0,64	0,55	0,68	0,71	0,95	0,45	0,71	0,63
	1,95	2,6	4,28	6,52	4,55	2,91	1,81	8,21	2,84	4,38

Решение

Уравнение гиперблической регрессии имеет вид:

Составим расчетную таблицу:

Расчетная вспомогательная таблица

№
1	0,96	1,95	1,042	1,085	2,031	1,436	6,598	4,223
2	0,75	2,6	1,333	1,778	3,467	3,105	0,809	1,974
3	0,64	4,28	1,563	2,441	6,688	4,417	0,169	0,076
4	0,55	6,52	1,818	3,306	11,855	5,880	3,514	6,325
5	0,68	4,55	1,471	2,163	6,691	3,891	0,013	0,297
6	0,71	2,91	1,408	1,984	4,099	3,535	0,221	1,199
7	0,95	1,81	1,053	1,108	1,905	1,499	6,279	4,818
8	0,45	8,21	2,222	4,938	18,244	8,192	17,527	17,682
9	0,71	2,84	1,408	1,984	4,000	3,535	0,221	1,357
10	0,63	4,38	1,587	2,520	6,952	4,559	0,306	0,141
Итого	7,03	40,05	14,905	23,306	65,932	40,048	35,658	38,092

Для нахождения коэффициентов гиперболической регрессии необходимо решить систему уравнений:

Подставляя в систему уравнений, получаем:

Решая систему уравнений, получаем:

Искомое уравнение гиперболической регрессии:

Коэффициент детерминации:

Коэффициент эластичности:

Уравнение регрессии в показательной форме имеет следующий вид:

Данное уравнение является нелинейным по коэффициенту  и относится к классу моделей регрессии, которые можно с помощью преобразований привести к линейному виду.

Показательная функция является внутренне линейной, поэтому оценки неизвестных параметров её линеаризованной формы можно рассчитать с помощью классического метода наименьших квадратов

Нормальные уравнения метода наименьших квадратов (МНК) для показательной регрессии:

Отсюда:

Пример 3

Скачать пример 3 в формате pdf

Постройте криволинейную регрессионную модель (показательная функция) для следующих исходных данных.

	1,95	2,58	3,26	4,51	5,14	5,92	6,81	7,45	8,02	8,75
	6,1	8,51	10,82	17,92	24,21	33,1	45,51	61,21	72,38	95,24

Решение

Уравнение показательной регрессии имеет вид:

Составим расчетную таблицу:

Расчетная вспомогательная таблица

№
1	1,95	6,1	3,803	1,808	3,526	6,433	0,104	985,960
2	2,58	8,51	6,656	2,141	5,524	8,292	0,048	840,420
3	3,26	10,82	10,628	2,381	7,763	10,904	0,007	711,822
4	4,51	17,92	20,340	2,886	13,015	18,041	0,015	383,376
5	5,14	24,21	26,420	3,187	16,380	23,252	0,918	176,624
6	5,92	33,1	35,046	3,500	20,717	31,835	1,600	19,360
7	6,81	45,51	46,376	3,818	26,000	45,561	0,003	64,160
8	7,45	61,21	55,503	4,114	30,652	58,959	5,066	562,164
9	8,02	72,38	64,320	4,282	34,341	74,176	3,226	1216,614
10	8,75	95,24	76,563	4,556	39,869	99,532	18,423	3333,908
Итого	54,39	375	345,654	32,674	197,788		29,408	8294,409

Для нахождения коэффициентов показательной регрессии необходимо решить систему уравнений:

Подставляя в систему уравнений, получаем:

Решая систему уравнений, получаем:

Искомое уравнение показательной регрессии:

Коэффициент детерминации:

Коэффициент эластичности:

В моделях, нелинейных по оцениваемым параметрам, но приводимых к линейному виду, метод наименьших квадратов и его требования применяются не к исходным данным результативного признака, а к их преобразованным величинам.

Так, в степенной функции:

метод наименьших квадратов применяется к преобразованному уравнению:

Система линейных уравнений будет иметь вид:

Отсюда:

Степенная регрессия широко используется в исследованиях при изучении эластичности спроса от цен.

Пример 4

Скачать пример 4 в формате pdf

По данным постройте степенную регрессию:

	2,21	17,45	8,6	61,05	5,76	33,38	16,22	3,88	0,75	149,3
	9,63	25,92	31,6	17,71	14,87	44,03	13,7	9,13	3,86	170,45

Решение

Уравнение степенной регрессии имеет вид:

Составим расчетную таблицу:

Расчетная вспомогательная таблица

№
1	2,21	9,63	0,793	0,629	2,265	1,796	8,690	105,030	86,655
2	17,45	25,92	2,859	8,176	3,255	9,307	20,871	3,733	48,736
3	8,6	31,6	2,152	4,630	3,453	7,430	15,461	12,093	160,304
4	61,05	17,71	4,112	16,906	2,874	11,818	35,494	274,065	1,510
5	5,76	14,87	1,751	3,066	2,699	4,726	13,045	34,739	16,556
6	33,38	44,03	3,508	12,306	3,785	13,277	27,478	72,911	629,564
7	16,22	13,7	2,786	7,763	2,617	7,293	20,234	1,677	27,446
8	3,88	9,13	1,356	1,838	2,212	2,999	11,033	62,506	96,214
9	0,75	3,86	-0,288	0,083	1,351	-0,389	5,496	180,711	227,373
Итого	149,3	170,45	19,029	55,397	24,511	58,257		747,465	1294,358

Для нахождения коэффициентов степенной регрессии необходимо решить систему уравнений:

Подставляя в систему уравнений, получаем:

Решая систему уравнений, получаем:

Искомое уравнение степенной регрессии:

Коэффициент детерминации:

Коэффициент эластичности: