Способ наименьших квадратов

В этом способе в качестве приближающей функции используется полином. Согласно этому способу за меру отклонения полинома

Q_m (x) = a₀ + a₁x + … + a_mx^m (10)

от данной функции f(x) на множестве точек x₀, x₁, …, x_n принимают величину

S_m = Q_m(x_i) – f(x_i)]².

Очевидно, что S_m есть функция коэффициента а₀, а₁,…, а_m. Эти коэффициенты надо подобрать так, чтобы величина S_m была наименьшей. Для решения этой задачи найдём частные производные от величины

S_m = a₀ + a₁x_i + a₂x_i² + … + a_mx_i^m – y_i)².

Приравнивая эти частные производные к 0, получим для определения неизвестных a₀, a₁,…, a_m систему m+1 уравнений с m+1 неизвестными.

= ·1 = 0,

= · = 0, (4.10)

……………………………………………………………………………………………………………………………………….

= · = 0.

Здесь производная берётся от сложной функции, т.е.

S = [a·γ + f]²; S’(a) = 2 [a·γ + f]· = 2[a·γ + f] ·γ.

Введём обозначения

S_k = + + … + (k = 0, 1, 2, …, 2m),

t_k = + + … + (k = 0, 1, 2, …, 2m), (4.11)

Учитывая эти обозначения, система (4.11) примет вид:

a₀S₀ + a₁S₁ + a₂S₂ +…+ a_mS_m = t₀,

a₀S₁ + a₁S₂ + a₂S₃ +…+ a_mS_m+1 = t₁, (4.12)

a₀S₂ + a₁S₃ + a₂S₄ +…+ a_mS_m+2 = t₂,

_{……………………………………………………….}

a₀S_m + a₁S_m+1 + a₂S _m+2 +…+ a_mS_2m = t_m,

где S₀ = n+1.

Можно доказать, что если среди точек х₀, х₁,…, х_n нет совпадающих и m ≤ n, то определителем системы (4.12) ≠ 0 и следовательно эта система имеет единственное решение a₀= , a₁= , …, a_m= . Полином (4.10) с такими коэффициентами будет обладать минимальным квадратным отклонением.

Для составления системы (4.12) рекомендуется схема решения по способу наименьших квадратов, приведённая в таблице 6, где принято m=2, n=4.

Таблица 6

x0	x	x2	x3	x4	y	xy	x2y
	x 0				y0	x 0 y0	y0
	x 1				y1	x 1 y1	y1
	x 2				y2	x 2 y2	y2
	x 3				y3	x 3 y3	y3
	x 4				y4	x 4 y4	y4
S0	S1	S2	S3	S4	t0	t1	t2

Пример. Подобрать приближающий полином второй степени y=a₀ + a₁x + a₂x² для данных приведённых в таблице 7.

Таблица 7:

Решение. Составим числовую таблицу 8, для m=2, n=4, аналогичную таблице 6.

Таблица 8

x0	x	x2	x3	x4	y	xy	x2y
	0,78				2,50	1,950
	1,56				1,20	1,872
	2,34				1,12	2,621
	3,12				2,25	7,020
	3,81				4,28	16,307
	11,61	32,768	102,761	341,750	11,35	29,770	94,604

Отсюда система (4.12) для определения коэффициентов a₀, a₁, a₂ примет вид

Решив эту систему, будем иметь a₀=5,045, a₂=1,009.

Следовательно, искомый полином будет иметь следующий вид

y = 5,045 – 4,043х + 1,009х².