Псевдорешения. Метод наименьших квадратов.

Рассмотрим несовместную систему линейных уравнений Ax=b. Псевдорешением системы линейных уравнений называется вектор x, на котором достигается минимум нормы невязки |Ax-b|. Задача построения псевдорешения возникает при подборе параметров физических процессов. Левая часть системы уравнений определяется конкретным видом зависимости от параметров, а правая – конкретными измерениями. Поскольку каждое измерение производится с некоторой точностью, то обычно их проводят с избытком. В результате получается несовместная система линейных уравнений, а задача подбора параметров сводится к построению псевдорешения. Сам способ перехода от задачи решения системы линейных уравнений к нахождению минимума длины невязки называется метод наименьших квадратов. Такое название связано с тем, что .

Обозначим через W линейную оболочку столбцов матрицы A. Задача построения псевдорешения эквивалентна задаче определения расстояния от b до W,а точнее к определению проекции b на W. Коэффициенты разложения проекции по столбцам матрицы A являются решениями системы уравнений . Тем самым, задача построения псевдорешения свелась к решению системы линейных уравнений.

Если исходная система имела решение, то оно является также псевдорешением. Необходимым и достаточным условием единственности псевдорешения является условие линейной независимости столбцов матрицы A.

Нормальное решение

В ряде случаев, из множества решений, следует выбрать какое то одно. Нормальным решением системы линейных уравнений Ax=b называется решение наименьшей длины.

Задача отыскания нормального решения сводится к задаче определения расстояния от начала координат до линейного многообразия, заданного системой линейных уравнений Ax=b.

Перпендикуляр, опущенный из начала координат на это линейное многообразие, представляется в виде линейной комбинации строк матрицы A. Следовательно, задача построения нормального решения сводится к решению системы линейных уравнений и вычислению ответа .

Нормальное решение всегда единственно, чего нельзя сказать о решении системы . Необходимым и достаточным условием единственности решения указанной системы является условие линейной независимости строк матрицы A.