Пример. Найти минимум функции методом градиентного спуска, приняв за начальное приближение точку .

Найти минимум функции методом градиентного спуска, приняв за начальное приближение точку .

Находим градиент функции

Определяем минимум функции

пользуясь численным методом поиска экстремума функций одного переменного. В результате имеем . По формуле (1) вычисляем приближение

.

Точка является приближенным решением задачи, более точным чем заданное начальное приближение . Если точку взять за начальное приближение, то аналогично получим точку еще ближе отстоящую от точки минимума и так далее.