Участник:Kisel dv/DNS алгоритм умножения матриц

Автор: Д.В.Кисель

Свойства и структура алгоритма

Общее описание алгоритма

Алгоритм DNS(Dekel, Nassimi, Sahni - назван по фамилиям создателей) является одним из блочных алгоритмов решения задачи [math]\displaystyle{ C = AB }[/math]  перемножения двух матриц. Для данного алгоритма мы не используем какие-либо свойства матриц [math]\displaystyle{ A }[/math]  и [math]\displaystyle{ B }[/math] . DNS основан на разделении промежуточных данных, его преимуществом является временная сложность [math]\displaystyle{ O(log(n)) }[/math]  при вычислительной сложности [math]\displaystyle{ O(\frac{n^3}{log(n)}) }[/math] . Достигается это за счет 3d-секционирования(англ. partitioning), в отличие от альтернатив, использующих 2d-секционирование(например, алгоритм Кэннона). Тем самым, алгоритм DNS представим в виде куба, где матрицы [math]\displaystyle{ A }[/math] , [math]\displaystyle{ B }[/math]  и матрица [math]\displaystyle{ C }[/math]  ортогональны друг другу. Далее данное описание будет рассмотрено подробнее.

Математическое описание алгоритма

Исходные данные: матрицы [math]\displaystyle{ A }[/math]  и [math]\displaystyle{ B }[/math]  с элементами [math]\displaystyle{ a_{ij} }[/math]  и [math]\displaystyle{ b_{ij} }[/math] , соответственно.

Вычисляемые данные: матрица [math]\displaystyle{ C }[/math]  с элементами [math]\displaystyle{ c_{ij} }[/math] 

Используемые формулы:

[math]\displaystyle{ c_{ij} = \sum_{k=0}^{n-1} a_{ik} b_{kj} \quad i \in [0, n-1], \quad j \in [0, n-1] }[/math] 

Вычислительное ядро алгоритма

Вычислительное ядро перемножения матриц методом DNS можно составить из множественных скалярных произведений строк матрицы [math]\displaystyle{ A }[/math]  на столбцы матрицы [math]\displaystyle{ B }[/math] 

[math]\displaystyle{ \sum_{k=1}^{n} a_{ik} b_{kj} \quad i \in [1, n], \quad i \in [1, n] }[/math] 

Макроструктура алгоритма

В алгоритме используется:

[math]\displaystyle{ \cdot }[/math]  скалярное произведение векторов(строк матрицы [math]\displaystyle{ A }[/math]  на столбцы матрицы [math]\displaystyle{ B }[/math] ) [math]\displaystyle{ \sum_{k=0}^{n-1} a_{ik} b_{kj} }[/math] 

Ресурс параллелизма алгоритма

[math]\displaystyle{ \cdot }[/math]  Рассмотрим [math]\displaystyle{ n^3 }[/math]  процессов, доступных для умножения двух матриц размером [math]\displaystyle{ n \times n }[/math] . Представим их в виде трехмерного массива [math]\displaystyle{ n \times n \times n }[/math] .

[math]\displaystyle{ \cdot }[/math]  Процессы именованы согласно их расположению в массиве, соответственно, вычисление произведения [math]\displaystyle{ a_{ik}b_{kj} }[/math]  присвоено процессу с координатами [math]\displaystyle{ [i, j, k] (0 \leq i,j,k \lt n) }[/math] .

[math]\displaystyle{ \cdot }[/math]  После того, как каждый процесс завершил умножение, результаты процессов [math]\displaystyle{ [i, j, 0], [i, j, 1], ..., [i, j, n-1] }[/math]  суммируются в [math]\displaystyle{ c_{ij} }[/math] . Суммирование всех [math]\displaystyle{ c_{ij} }[/math]  может выполняться одновременно за [math]\displaystyle{ log(n) }[/math]  шагов.