МЕТОД НАИМЕНЬШИХ КВАДРАТОВ ДЛЯ ПРЯМОЙ ЛИНИИ

При обработке наблюдений широко применяется метод наименьших квадратов (МНК). Его суть изложим на частном примере прямой линии.

Пусть на плоскости хоу дано n точек: (х₁ ; у₁) , (х₂; у₂) , … , ( x_n ; y_n ).

Среди всех прямых линий у=ах+b на плоскости мы ищем наиболее близкую к данной системе точек, причем близость измеряем суммой S квадратов отклонений:

, (25)

где - отклонение вдоль оси y i–той точки от прямой [δ₁>0, если точка (x₁; y₁) лежит над прямой ], S – сумма квадратов указанных отклонений по всем n точкам.

Из всех прямых наилучшей в смысле метода наименьших квадратов будет такая прамая , для которой сумма S минимальна.

Если приравнять нулю производные и , то получим систему двух линейных по а и b уравнений, из которых в конечном счете можно найти решение:

(26)

(27)

где и - среднее арифметическое, знак означает - суммирование по всем точкам.

.

Как видим, для углового коэффициента МНК - прямой в (26) даны три эквивалентных формулы.

Подставив из (27) выражение для в формулу , получим уравнение МНК-прямой

(28)

откуда видно, что , т.е. эта прямая всегда проходит через точку ( ), являющуюся центром тяжести данной системы точек.

Пример 32. Для данных в таблице 13 пяти точек найти МНК - прямую и сумму квадратов отклонений от нее.

Таблица 13

Обработка данных для нахождения МНК-прямой

N точ­ки	x1	y1	Δx1	y1Δx1	(Δx1)2	f(x1)
		2,5	-1,8	-4,4	3,24	2,45	0,05	0,0025
		2,2	-0,8	-1,76	0,64	2,0	0,2	0,04
			1,2	1,2	1,44	1,1	-0,1	0,01
		0,7	2,2	1,54	4,84.	0,65	0,05	0,0025
		1,8	1,8	-1,44	0,64	2,0	-0,2	0.04
		8, 2		-4,86	10,8	-		0,095

n=5; ; ;

МНК – прямая

Для контроля полезны суммы : и .

Метод наименьших квадратов применим не только к прямой, но и к широкому классу функций не только на плоскости, но и в прост­ранстве. Как и во всей статистике, здесь важна интерпретация (ис­толкование) полученных результатов. Это возможно лишь в рамках принятой вероятностной модели. Поэтому нужно описать принимаемую модель. Например, если мы принимаем, что обрабатываемые точки для системы двух нормальных сл.величин {X, Y) (т.e. [x₁; y₁ ) - реали­зации двумерной нормальной сл.величины (X;Y)), то полученная МНК - прямая будет оценкой регрессии Y на Х, а ее угловой коэффициент выражается через отношение стандартных отклонений и выборочный коэффициент корреляции где s_x² и s_y² - выборочные дисперсии для X и Y.