Участник:Ivanov.kir.m/Быстрое дискретное преобразование Фурье: различия между версиями
| Строка 80: | Строка 80: | ||
== Последовательная сложность алгоритма == | == Последовательная сложность алгоритма == | ||
Быстрое дискретное преобразование Фурье выполнимо за <math>O(N(n_1+\cdots+n_m))</math> действий при <math>N=n_1n_2\cdots n_m</math> (в простом случае, при <math>N=2^m</math> необходимо <math>O(N\log_2(N))</math> действий).Дискретное преобразование Фурье преобразует вектор <math>a = (a_0, \dots, a_{N-1})</math> в вектор чисел <math>b = (b_0, \dots, b_{N-1})</math>, такой, что <math>b_i=\sum_{j=0}^{N-1}a_j\varepsilon^{ij}</math>, где <math>\varepsilon^n=1</math> и <math>\varepsilon^k\neq 1</math> при <math>0<k<N</math>. | |||
Основной шаг алгоритма состоит в сведении задачи для <math>N</math> чисел к задаче для <math>n_1=N/n_2</math> числам, где <math>n_2</math> — делитель <math>N</math>. | |||
Пусть мы уже умеем решать задачу для <math>N/n_2</math> чисел. Применим преобразование Фурье к векторам <math>a_i,a_{n_2+i}, \dots, a_{n_2(n_1-1)+i}</math> для <math>i=0,1,\dots,n_2-1</math>. Покажем теперь, что за <math>O(Np)</math> действий можно решить исходную задачу. Заметим, что <math>b_i=\sum_{j=0}^{n_2-1} \varepsilon^{ij} (\sum_{k=0}^{n_1-1}a_{kn_2+j}\varepsilon^{kin_2})</math>. | |||
Выражения в скобках нам уже известны — это <math>(i \pmod p)</math>-тое число после преобразования Фурье <math>j</math>-го вектора. Таким образом, для вычисления каждого <math>b_i</math> нужно <math>O(n_2)</math> действий, а для вычисления всех <math>b_i</math> всего <math>O(Nn_2)</math> действий, что и требовалось. | |||
Вычисления всех <math>\bar{a}_i</math> и <math>c_i</math> требуют <math>O(N)</math> действий, три преобразования Фурье требуют <math>O(N\log(N))</math> действий, перемножение результатов преобразований Фурье требует <math>O(N)</math> действий, вычисление всех <math>b_i</math> зная значения свертки требует <math>O(N)</math> действий. Итого для дискретного преобразования Фурье требуется <math>O(N\log(N))</math> действий для любого <math>N</math>. | В '''общем''' случае. Пусть <math>4N>2^k\ge2N</math>. Заметим, что тогда <math>b_i=\varepsilon^{-i^2/2}\sum_{j=0}^{N-1}\varepsilon^{(i+j)^2/2}\varepsilon^{-j^2/2}a_j</math>. Обозначим <math>\bar{a}_i=\varepsilon^{-i^2/2}a_i</math>, <math>\bar{b}_i=\varepsilon^{i^2/2}b_i</math>, <math>c_i=\varepsilon^{(2N-2-i)^2/2}</math>. Тогда <math>\bar{b}_i=\sum_{j=0}^{2N-2-i}\bar{a}_jc_{2N-2-i-j}</math>, если положить <math>\bar{a}_i=0</math> при <math>i\ge N</math>. | ||
Таким образом задача сведена к вычислению '''''свёртки''''', а это можно сделать с помощью трёх преобразований Фурье для <math>2^k</math> элементов. Выполняем прямое преобразование Фурье для <math>(\bar{a_0}, \cdots, \bar{a}_{2^k-1})</math> и <math>(c_1,\cdots,c_{2^k-1})</math>, перемножаем поэлементно результаты и выполняем обратное преобразование Фурье. | |||
Вычисления всех <math>\bar{a}_i</math> и <math>c_i</math> требуют <math>O(N)</math> действий, три преобразования Фурье требуют <math>O(N\log(N))</math> действий, перемножение результатов преобразований Фурье требует <math>O(N)</math> действий, вычисление всех <math>b_i</math> зная значения свертки требует <math>O(N)</math> действий. Итого для дискретного преобразования Фурье требуется '''<math>O(N\log(N))</math>''' действий для любого <math>N</math>. | |||
== Ресурс параллелизма алгоритма == | == Ресурс параллелизма алгоритма == | ||
Версия от 10:12, 24 сентября 2016
| Алгоритм Кули-Тьюки одномерного преобразования Фурье для действительных чисел | |
| Последовательный алгоритм | |
| Последовательная сложность | [math]\displaystyle{ O (n \log n) }[/math] |
| Объём входных данных | [math]\displaystyle{ n }[/math] действительных чисел |
| Объём выходных данных | [math]\displaystyle{ \lfloor n/2 \rfloor+1 }[/math] комплексных чисел |
| Параллельный алгоритм | |
| Высота ярусно-параллельной формы | [math]\displaystyle{ O (\log n) }[/math] |
| Ширина ярусно-параллельной формы | [math]\displaystyle{ n }[/math] |
Быстрое преобразование Фурье (БПФ, FFT) — алгоритм быстрого вычисления дискретного преобразования Фурье (ДПФ). То есть, алгоритм вычисления за количество действий, меньшее чем [math]\displaystyle{ O(N^{2}) }[/math], требуемых для прямого (по формуле) вычисления ДПФ. Иногда под БПФ понимается один из быстрых алгоритмов, называемый алгоритмом прореживания по частоте/времени или алгоритмом по основанию 2, имеющий сложность [math]\displaystyle{ O(N\log(N)) }[/math]. Cуществует несколько различных алгоритмов для вычисления ДПФ считающимся быстрым преобразование Фурье:
ЧАСТЬ. Свойства и структура алгоритмов
Общее описание алгоритма
Одним из вариантов быстрого преобразования Фурье для вектора действительных чисел с размерностью равной степени двойки является алгоритм Кули-Тьюки. Отличительной особенностью данного алгоритма является то, что он обходится без использования специфических приемов, использующихся именно для степеней четверки, восьмерки и т.п. Однако благодаря тому, что на вход данному алгоритму подается вектор чисто вещественных чисел, выходной вектор удовлетворяет эрмитовой избыточности (Hermitian redundancy) , т.е. [math]\displaystyle{ out[i] }[/math] является сопряженным с [math]\displaystyle{ out[n-i] }[/math]. Это обстоятельство позволяет достичь роста скорости и снижения затрат памяти примерно в 2 раза по сравнению с комплексным аналогом алгоритма.
Математическое описание алгоритма
Входные данные: вектор действительных чисел [math]\displaystyle{ a = (a_1,a_2,...,a_n) }[/math].
Выходные данные: вектор комплексных чисел [math]\displaystyle{ b = (b_1,b_2,...,b_{\lfloor n/2 \rfloor+1}) }[/math].
Замечание: В простейшем случае алгоритм Кули-Тьюки применяется к векторам размерности степени двойки, поэтому на практике вектора иной размерности часто дополнять до ближайшей степени двойки. Такой подход делает алгоритм Кули-Тьюки не самым эффективным алгоритмом БПФ, поскольку дополнение до степени двойки может сильно усложнить задачу.
Рекурсивное описание
Алгоритм:
- Входной вектор [math]\displaystyle{ a = (a_1,a_2,...,a_n) }[/math] преобразуется в матрицу [math]\displaystyle{ A }[/math] размера [math]\displaystyle{ n_1 \times n_2 }[/math], где [math]\displaystyle{ n=n_1 \cdot n_2 }[/math] и [math]\displaystyle{ n_1 \lt n_2 }[/math]
[math]\displaystyle{ A = \begin{pmatrix} a_1 & a_2 & \cdots & a_{n_1} \\ a_{n_1+1} & a_{n_1} & \cdots & a_{2n_1} \\ \vdots & \vdots & \ddots & \vdots \\ a_{(n2-1)\cdot n1+1} & a_{(n2-1)\cdot n1+1} & \cdots & a_{n2\cdot n1} \end{pmatrix} }[/math]
- К каждой строке полученной матрицы применяется быстрое дискретное преобразование Фурье (БПФ) порядка [math]\displaystyle{ n_1 }[/math]
- Каждый элемент полученный после применения БПФ умножается на поворотные множители [math]\displaystyle{ exp (2 \pi i(m-1)(j-1)/n) }[/math], где [math]\displaystyle{ m }[/math] - номер строки, а [math]\displaystyle{ j }[/math] - номер столбца
- Полученная после шагов 1-2 матрица [math]\displaystyle{ A }[/math] транспонируется
- К каждой строке матрицы [math]\displaystyle{ A^T }[/math] применяется БПФ порядка [math]\displaystyle{ n_2 }[/math]
Замечание: Как правило все поворотные множители вычисляются заранее и хранятся в специальном массиве.
Вычислительное ядро алгоритма
В случае размерности входа равной степени двойки, вычислительным ядром алгоритма является, так называемая, "бабочка". В простейшем случае "бабочка" представляет из себя двухточечное преобразование. Рассмотрим этот случай:
На вход алгоритму подается двухэлементный вектор ‒ [math]\displaystyle{ v = (v[0], v[1]) }[/math]. Тогда для вычисления будут происходить по следующим формулам:
[math]\displaystyle{ V[0] = W_2^0 v[0] + W_2^0 v[1] = v[0] + W_2^0 v[1] }[/math]
[math]\displaystyle{ V[1] = W_2^0 v[0] + W_2^1 v[1] = v[0] + W_2^1 v[1] }[/math]
Данный процесс удобно изобразить с помощью следующей схемы:
Для 4-х элеметного вектора [math]\displaystyle{ v=(v[0],v[1],v[2],v[3]) }[/math], алгоритм строится похожим образом. Сначала создаются простейшие "бабочки", а потом их результаты соединяются с противоположеной "бабочкой":
[math]\displaystyle{ V[0]=v[0]+W_2^0 v[2]+W_4^0(v[1]+W_2^0 v[3]) }[/math]
[math]\displaystyle{ V[1]=v[0]-W_2^0 v[2]+W_4^1(v[1]-W_2^0 v[3]) }[/math]
[math]\displaystyle{ V[2]=v[0]+W_2^0 v[2]-W_4^0(v[1]+W_2^0 v[3]) }[/math]
[math]\displaystyle{ V[3]=v[0]-W_2^0 v[2]-W_4^1(v[1]-W_2^0 v[3]) }[/math]
Схема в таком случае будет выглядеть следующим образом:
Для случая, когда вход не является степенью двойки, "бабочки" будут "несимментричными", но в остальном вычисления будут проходить схожим образом.
Макроструктура алгоритма
Для исходного вектора [math]\displaystyle{ a = (a_1,a_2,...,a_n) }[/math] размерности [math]\displaystyle{ n = n_1 \cdot n_2 }[/math], [math]\displaystyle{ n_1 \lt n_2 }[/math] БПФ представляется как:
[math]\displaystyle{ n_2 }[/math] БПФ порядка [math]\displaystyle{ n_1 }[/math] [math]\displaystyle{ \Rightarrow }[/math] [math]\displaystyle{ n_1 \cdot n_2 }[/math] умножение комплексных чисел [math]\displaystyle{ \Rightarrow }[/math] [math]\displaystyle{ n_1 }[/math] БПФ порядка [math]\displaystyle{ n_2 }[/math]
Схема реализации последовательного алгоритма
Последовательная сложность алгоритма
Быстрое дискретное преобразование Фурье выполнимо за [math]\displaystyle{ O(N(n_1+\cdots+n_m)) }[/math] действий при [math]\displaystyle{ N=n_1n_2\cdots n_m }[/math] (в простом случае, при [math]\displaystyle{ N=2^m }[/math] необходимо [math]\displaystyle{ O(N\log_2(N)) }[/math] действий).Дискретное преобразование Фурье преобразует вектор [math]\displaystyle{ a = (a_0, \dots, a_{N-1}) }[/math] в вектор чисел [math]\displaystyle{ b = (b_0, \dots, b_{N-1}) }[/math], такой, что [math]\displaystyle{ b_i=\sum_{j=0}^{N-1}a_j\varepsilon^{ij} }[/math], где [math]\displaystyle{ \varepsilon^n=1 }[/math] и [math]\displaystyle{ \varepsilon^k\neq 1 }[/math] при [math]\displaystyle{ 0\lt k\lt N }[/math].
Основной шаг алгоритма состоит в сведении задачи для [math]\displaystyle{ N }[/math] чисел к задаче для [math]\displaystyle{ n_1=N/n_2 }[/math] числам, где [math]\displaystyle{ n_2 }[/math] — делитель [math]\displaystyle{ N }[/math]. Пусть мы уже умеем решать задачу для [math]\displaystyle{ N/n_2 }[/math] чисел. Применим преобразование Фурье к векторам [math]\displaystyle{ a_i,a_{n_2+i}, \dots, a_{n_2(n_1-1)+i} }[/math] для [math]\displaystyle{ i=0,1,\dots,n_2-1 }[/math]. Покажем теперь, что за [math]\displaystyle{ O(Np) }[/math] действий можно решить исходную задачу. Заметим, что [math]\displaystyle{ b_i=\sum_{j=0}^{n_2-1} \varepsilon^{ij} (\sum_{k=0}^{n_1-1}a_{kn_2+j}\varepsilon^{kin_2}) }[/math]. Выражения в скобках нам уже известны — это [math]\displaystyle{ (i \pmod p) }[/math]-тое число после преобразования Фурье [math]\displaystyle{ j }[/math]-го вектора. Таким образом, для вычисления каждого [math]\displaystyle{ b_i }[/math] нужно [math]\displaystyle{ O(n_2) }[/math] действий, а для вычисления всех [math]\displaystyle{ b_i }[/math] всего [math]\displaystyle{ O(Nn_2) }[/math] действий, что и требовалось.
В общем случае. Пусть [math]\displaystyle{ 4N\gt 2^k\ge2N }[/math]. Заметим, что тогда [math]\displaystyle{ b_i=\varepsilon^{-i^2/2}\sum_{j=0}^{N-1}\varepsilon^{(i+j)^2/2}\varepsilon^{-j^2/2}a_j }[/math]. Обозначим [math]\displaystyle{ \bar{a}_i=\varepsilon^{-i^2/2}a_i }[/math], [math]\displaystyle{ \bar{b}_i=\varepsilon^{i^2/2}b_i }[/math], [math]\displaystyle{ c_i=\varepsilon^{(2N-2-i)^2/2} }[/math]. Тогда [math]\displaystyle{ \bar{b}_i=\sum_{j=0}^{2N-2-i}\bar{a}_jc_{2N-2-i-j} }[/math], если положить [math]\displaystyle{ \bar{a}_i=0 }[/math] при [math]\displaystyle{ i\ge N }[/math].
Таким образом задача сведена к вычислению свёртки, а это можно сделать с помощью трёх преобразований Фурье для [math]\displaystyle{ 2^k }[/math] элементов. Выполняем прямое преобразование Фурье для [math]\displaystyle{ (\bar{a_0}, \cdots, \bar{a}_{2^k-1}) }[/math] и [math]\displaystyle{ (c_1,\cdots,c_{2^k-1}) }[/math], перемножаем поэлементно результаты и выполняем обратное преобразование Фурье.
Вычисления всех [math]\displaystyle{ \bar{a}_i }[/math] и [math]\displaystyle{ c_i }[/math] требуют [math]\displaystyle{ O(N) }[/math] действий, три преобразования Фурье требуют [math]\displaystyle{ O(N\log(N)) }[/math] действий, перемножение результатов преобразований Фурье требует [math]\displaystyle{ O(N) }[/math] действий, вычисление всех [math]\displaystyle{ b_i }[/math] зная значения свертки требует [math]\displaystyle{ O(N) }[/math] действий. Итого для дискретного преобразования Фурье требуется [math]\displaystyle{ O(N\log(N)) }[/math] действий для любого [math]\displaystyle{ N }[/math].
Ресурс параллелизма алгоритма
Входные и выходные данные алгоритма
Свойства алгоритма
ЧАСТЬ. Программная реализация алгоритма
Масштабируемость алгоритма и его реализации
Существующие реализации алгоритма
Литература
[1] Википедия [Электронный ресурс]. Тема: Быстрое преобразование Фурье – Электрон. дан. – URL Быстрое преобразование Фурье (дата обращения 17.09.2016)

