Участник:Сорокин Александр/Метод сопряженных градиентов (Решение СЛАУ): различия между версиями
| Строка 8: | Строка 8: | ||
Если <math> x^* </math> это решение задачи минимизации данного функционала, то в этой точке градиент <math> \bigtriangledown \phi (x^*) = Ax^* - b </math> должен быть равен нулю. Таким образом, минимизируя функционал <math> \phi (x) </math> мы получим решение исходной системы. <br> | Если <math> x^* </math> это решение задачи минимизации данного функционала, то в этой точке градиент <math> \bigtriangledown \phi (x^*) = Ax^* - b </math> должен быть равен нулю. Таким образом, минимизируя функционал <math> \phi (x) </math> мы получим решение исходной системы. <br> | ||
==== Метод градиентного спуска ==== | ==== Метод градиентного спуска ==== | ||
Как известно, градиент | Как известно, градиент <math> \bigtriangledown \phi (x) </math> является направлением наибольшего роста функции. | ||
Метод градиентного спуска основан на стратегии движения в строну, противоположную возрастанию функции. Оптимальным направлением в этом случае будет антиградиент <math> -\bigtriangledown \phi (x) </math>. | |||
=== Вычислительное ядро алгоритма === | === Вычислительное ядро алгоритма === | ||
Версия от 13:54, 22 октября 2017
Свойства и структура алгоритма
Общее описание алгоритма
Метод сопряженных градиентов представляет собой итерационный метод для численного решения системы уравнений с симметричной и положительно определенной матрицей, является итерационным методом Крыловского типа. Основная идея метода заключается в том, чтобы минимизировать на подпространствах Крылова А-норму ошибки.
Математическое описание алгоритма
Пусть необходимо найти решение системы уравнений [math]\displaystyle{ Ax = b }[/math], где [math]\displaystyle{ A^* = A \gt 0 }[/math].
Рассмотрим функционал [math]\displaystyle{ \phi (x) = \frac{1}{2}x^T A x - x^T b }[/math].
Если [math]\displaystyle{ x^* }[/math] это решение задачи минимизации данного функционала, то в этой точке градиент [math]\displaystyle{ \bigtriangledown \phi (x^*) = Ax^* - b }[/math] должен быть равен нулю. Таким образом, минимизируя функционал [math]\displaystyle{ \phi (x) }[/math] мы получим решение исходной системы.
Метод градиентного спуска
Как известно, градиент [math]\displaystyle{ \bigtriangledown \phi (x) }[/math] является направлением наибольшего роста функции. Метод градиентного спуска основан на стратегии движения в строну, противоположную возрастанию функции. Оптимальным направлением в этом случае будет антиградиент [math]\displaystyle{ -\bigtriangledown \phi (x) }[/math].