Участник:Pandvik/Ортогонализация Грама - Шмидта

Авторы описания алгоритма: Павлов Андрей, Филимонов Владимир.

ЧАСТЬ. Свойства и структура алгоритмов

Общее описание алгоритма

В конечномерном евклидовом пространстве существует ортонормированный базис. Для доказательства этого факта требуется находить и строить такие базисы. Построить ортонормированный базис можно, отталкиваясь от некоторого исходного базиса, при помощи алгоритма, который называют процессом ортогонализации Грама — Шмидта. Процесс ортогонализации Грама-Шмидта используется для квадратных матриц, которые преобразуются, либо уже преобразованы, к верхнему(нижнему) треугольному виду. Процесс ортогонализации Грама-Шмидта нашёл применение в оптимизации оценивания параметров моделей управления объектом, в протоколах безопасности, в обработке сигналов, в вычислении локальных минимумов целочисленных решёток и многом другом. Обычно, процесс ортогонализации используется как промежуточный шаг в других алгоритмах для уменьшения количества вычислений.

Математическое описание алгоритма

Исходные данные: квадратная матрица A с линейно независимыми векторами [math]\displaystyle{ \mathbf{a}_1,...,\mathbf{a}_N }[/math].

Определяется оператор проекции [math]\displaystyle{ \mathbf{proj}_b a = \frac{\left \langle a,b \right \rangle}{\left \langle b,b \right \rangle }b }[/math], где [math]\displaystyle{ \left \langle a,b \right \rangle }[/math] - скалярное произведение векторов a и b. Данный оператор используется для проецирования вектора a коллинеарно вектору b.

[math]\displaystyle{ \mathbf{b}_1 = \mathbf{a}_1 }[/math]

[math]\displaystyle{ \mathbf{b}_2 = \mathbf{a}_2 - \mathbf{proj}_{\mathbf{b}_1} \mathbf{a}_2 }[/math]

[math]\displaystyle{ \mathbf{b}_3 = \mathbf{a}_3 - \mathbf{proj}_{\mathbf{b}_1} \mathbf{a}_3 - \mathbf{proj}_{\mathbf{b}_2} \mathbf{a}_3 }[/math]

[math]\displaystyle{ \mathbf{b}_4 = \mathbf{a}_4 - \mathbf{proj}_{\mathbf{b}_1} \mathbf{a}_4 - \mathbf{proj}_{\mathbf{b}_2} \mathbf{a}_4 - \mathbf{proj}_{\mathbf{b}_3} \mathbf{a}_4 }[/math]

[math]\displaystyle{ \vdots }[/math]

[math]\displaystyle{ \mathbf{b}_N = \mathbf{a}_N - \sum_{j=1}^{N-1} \mathbf{proj}_{\mathbf{b}_j} \mathbf{a}_N }[/math]

На основе каждого вектора [math]\displaystyle{ \mathbf{b}_j (j = 1 \cdots N) }[/math] может быть получен нормированный вектор [math]\displaystyle{ \mathbf{e}_j = \frac{\mathbf{b}_j}{||\mathbf{b}_j||} }[/math].

Результаты процесса ортогонализации Грама-Шмидта: [math]\displaystyle{ \mathbf{b}_1\cdots\mathbf{b}_N }[/math] - система ортогональных векторов либо система ортонормированных векторов [math]\displaystyle{ \mathbf{e}_1\cdots\mathbf{e}_N }[/math].

Схема реализации последовательного алгоритма

1. [math]\displaystyle{ \mathbf{b}_1 = \mathbf{a}_1 }[/math]

2. [math]\displaystyle{ \mathbf{b}_i = \mathbf{a}_i - \sum_{j=1}^{i-1} \mathbf{proj}_{\mathbf{b}_{i-1}} \mathbf{a}_i }[/math] [math]\displaystyle{ (i = 2 \cdots N) }[/math], для каждого [math]\displaystyle{ \mathbf{proj}_b a }[/math] выполняется [math]\displaystyle{ \frac{\left \langle a,b \right \rangle}{\left \langle b,b \right \rangle}b }[/math].

Последовательная сложность алгоритма

Последовательный алгоритм требует:

[math]\displaystyle{ \bullet \qquad \frac{n(n-1)}{2}n }[/math] - вычитаний;

[math]\displaystyle{ \bullet \qquad \frac{n(n-1)}{2}n }[/math] - делений;

[math]\displaystyle{ \bullet \qquad n \cdot 2 \cdot (n-1)(n-2) }[/math] - умножений.

Информационный граф

Опишем информационный граф алгоритма.

Для вычисления [math]\displaystyle{ b_i }[/math] требуется найти [math]\displaystyle{ proj_{b_{j}}a_{i} }[/math] для всех [math]\displaystyle{ j \in [1, i] }[/math]. Следовательно для полного вычисления вектора [math]\displaystyle{ b_{i} }[/math] требуется знать все [math]\displaystyle{ b_{j} }[/math] с меньшим индексом. Такая зависимость по данным очень не удачна для параллелизма. Однако, если разбить процесс вычисления [math]\displaystyle{ b_{i} }[/math] на несколько этапов, соответствующих функциям проекции ([math]\displaystyle{ proj_{b_{j}}a_{i} }[/math]), то это позволит производить некоторые предварительные вычисления для [math]\displaystyle{ b_{j} }[/math] до момента, когда станут известны все предшествующие ей [math]\displaystyle{ b_{i} }[/math].

На Рис. 1 изображена зависимость каждого из этапов от предыдущих вычислений. Первая строка овалов содержит все проекции, зависящие от [math]\displaystyle{ b_{1} }[/math], вторая строка - все проекции, зависящие от [math]\displaystyle{ b_{2} }[/math], [math]\displaystyle{ \;\cdots\; }[/math] самая верхняя строка содержит проекцию, которая зависит от [math]\displaystyle{ b_{N-1} }[/math].

Рис. 2 показывает зависимость по данным немного в другом формате. Каждая строка представляет собой набор данных, которые требуются для вычисления [math]\displaystyle{ b_{i} }[/math] из первого столбца. Второй и последующие столбцы группируют проекции, зависящие от одной из [math]\displaystyle{ b_{i} }[/math] и, с помощью стрелки, показывают эту зависимость.

Рис. 1. Информационный граф алгоритма Грама-Шмидта

Рис. 2. Информационный граф алгоритма Грама-Шмидта