Алгоритм Качмажа - История изменений

ASA в 12:43, 12 июля 2022

2022-07-12T12:43:27Z

ASA в 12:47, 14 марта 2018

2018-03-14T12:47:02Z

← Предыдущая версия		Версия от 12:47, 14 марта 2018
Строка 284:		Строка 284:

	= Литература =		= Литература =

			[[Категория:Статьи в работе]]

			[[en:Kaczmarz's algorithm]]

Elena Kozlova: /* Рандомизированная версия алгоритма и скорость сходимости */

2016-08-18T10:50:41Z

Рандомизированная версия алгоритма и скорость сходимости

← Предыдущая версия		Версия от 10:50, 18 августа 2016
Строка 271:		Строка 271:
	спектрального числа обусловленности матрицы системы <math>k\left(A\right)=\left\Vert A\right\Vert _{2}\left\Vert A^{+}\right\Vert _{2}</math>, предложенной в <ref>Demmel, J. The probability that a numerical analysis problem is difficult [Текст] / J. Demmel // Mathematics of Computation. . — 1988. — Vol. 50, Issue 182. — С. 449–480.</ref> (здесь <math>A^{+}</math> - псевдообратная матрица, в то же время ''левая обратная матрица'' для <math>A</math>).		спектрального числа обусловленности матрицы системы <math>k\left(A\right)=\left\Vert A\right\Vert _{2}\left\Vert A^{+}\right\Vert _{2}</math>, предложенной в <ref>Demmel, J. The probability that a numerical analysis problem is difficult [Текст] / J. Demmel // Mathematics of Computation. . — 1988. — Vol. 50, Issue 182. — С. 449–480.</ref> (здесь <math>A^{+}</math> - псевдообратная матрица, в то же время ''левая обратная матрица'' для <math>A</math>).

	До публикации работ Штромера (Strohmer, T.) не существовало оценок скорости сходимости алгоритма Качмажа ''в терминах числа обусловленности матрицы системы уравнений'' Данная теорема также наиболее точно демонстрирует цель рандомизации - показать, что ''скорость сходимости не зависит от <math>m</math> - количества уравнений в системе, но зависит от порядка системы <math>n</math>.''		До публикации работ Штромера (Strohmer, T.) не существовало оценок скорости сходимости алгоритма Качмажа ''в терминах числа обусловленности матрицы системы уравнений''. Данная теорема также наиболее точно демонстрирует цель рандомизации - показать, что ''скорость сходимости не зависит от <math>m</math> - количества уравнений в системе, но зависит от порядка системы <math>n</math>.''

	== Алгоритм Качмажа с четной перестановкой ==		== Алгоритм Качмажа с четной перестановкой ==

Elena Kozlova: /* Рандомизированная версия алгоритма и скорость сходимости */

2016-08-18T10:49:42Z

Рандомизированная версия алгоритма и скорость сходимости

← Предыдущая версия		Версия от 10:49, 18 августа 2016
Строка 249:		Строка 249:
	<math>P\left(j\left(k\right)=i\right)=\frac{1}{m}</math>.		<math>P\left(j\left(k\right)=i\right)=\frac{1}{m}</math>.

	Таким образом, в процессе итераций все уравнения системы будут участвовать в решении задачи примерно одинаковое число раз. Данный способ задания <math>j\left(k\right)</math> обширно используют в работах <ref name="strohmer"/> <ref>Strohmer, T. A randomized solver for linear systems with exponential convergence [Текст] / T. Strohmer, R. Vershynin // Approximation, Randomization, and Combinatorial Optimization. Algorithms and Techniques. — Springer; 2006. С. 499-507.</ref>, посвященных рандомизации итерационных алгоритмов~~, в качестве базового, для демонстрации преимущества новых подходов~~. В указанных работах~~, их~~ авторы произвели настоящую революцию в рандомизации алгоритма Качмажа, указав закон распределения, определяющий последовательность <math>j\left(k\right)</math> таким образом, что итерационная последовательность имеет экспоненциальную скорость сходимости. Их результат формулируется в виде следующей важной теоремы:		Таким образом, в процессе итераций все уравнения системы будут участвовать в решении задачи примерно одинаковое число раз. Данный способ задания <math>j\left(k\right)</math> обширно используют в качестве базового для демонстрации преимущества новых подходов в работах <ref name="strohmer"/> <ref>Strohmer, T. A randomized solver for linear systems with exponential convergence [Текст] / T. Strohmer, R. Vershynin // Approximation, Randomization, and Combinatorial Optimization. Algorithms and Techniques. — Springer; 2006. С. 499-507.</ref>, посвященных рандомизации итерационных алгоритмов. В указанных работах авторы произвели настоящую революцию в рандомизации алгоритма Качмажа, указав закон распределения, определяющий последовательность <math>j\left(k\right)</math> таким образом, что итерационная последовательность имеет экспоненциальную скорость сходимости. Их результат формулируется в виде следующей важной теоремы:

	Пусть <math>Au=f\ A\in \mathbb{R}^{m\times n},\ u\in \mathbb{R}^{n},\ f\in \mathbb{R}^{m}</math> - совместная переопределенная <math>\left(m\geq n\right)</math> система линейных алгебраических уравнений, а <math>u_{0}</math> - некоторое начальное приближение к ее решению, и для рекуррентной формулы алгоритма Качмажа значения последовательности <math>j\left(k\right)</math> определяются с использованием закона распределения:		Пусть <math>Au=f\ A\in \mathbb{R}^{m\times n},\ u\in \mathbb{R}^{n},\ f\in \mathbb{R}^{m}</math> - совместная переопределенная <math>\left(m\geq n\right)</math> система линейных алгебраических уравнений, а <math>u_{0}</math> - некоторое начальное приближение к ее решению, и для рекуррентной формулы алгоритма Качмажа значения последовательности <math>j\left(k\right)</math> определяются с использованием закона распределения:

Elena Kozlova: /* Рандомизированная версия алгоритма и скорость сходимости */

2016-08-18T10:46:53Z

Рандомизированная версия алгоритма и скорость сходимости

← Предыдущая версия		Версия от 10:46, 18 августа 2016
Строка 240:		Строка 240:

	== Рандомизированная версия алгоритма и скорость сходимости ==		== Рандомизированная версия алгоритма и скорость сходимости ==
	При решении системы линейных алгебраических уравнений сверхбольшой размерности использование всех уравнений системы может оказаться избыточным~~, более~~ того, ~~учесть все уравнения~~ системы, ~~полученные~~ в результате некоторых измерений, может не быть технической возможности, что обусловлено ограниченными ресурсами ЭВМ. Существуют подходы, связанные с обработкой данных решаемой задачи, цель которых состоит в отборе только информативных результатов измерений.		При решении системы линейных алгебраических уравнений сверхбольшой размерности использование всех уравнений системы может оказаться избыточным. Более того, для учета всех уравнений системы, полученных в результате некоторых измерений, может не быть технической возможности, что обусловлено ограниченными ресурсами ЭВМ. Существуют подходы, связанные с обработкой данных решаемой задачи, цель которых состоит в отборе только информативных результатов измерений.

	Например, при решении задачи идентификации оптических искажающих систем <ref>Фурсов, В.А. Идентификация оптических искажающих систем с отбором информативных фрагментов изображений [Текст] / В.А. Фурсов // Компьютерная оптика. — 1995. —Вып. 15, ч.1. — С. 79–89.</ref> следует использовать не весь объем измерений, а только тот, что выполнен для, в определенном смысле, информативных фрагментов изображений. Формально, это соответствует удалению части уравнений из системы, которые оказываются линейно зависимыми и отрицательным образом влияют на обусловленность задачи <ref>Фурсов, В.А. Введение в идентификацию по малому числу наблюдений. [Текст] / В.А. Фурсов. — М. : Изд-во МАИ, 1991. —36 с.</ref>, что, в свою очередь, приводит к крайне медленной скорости сходимости известных итерационных алгоритмов.		Например, при решении задачи идентификации оптических искажающих систем <ref>Фурсов, В.А. Идентификация оптических искажающих систем с отбором информативных фрагментов изображений [Текст] / В.А. Фурсов // Компьютерная оптика. — 1995. —Вып. 15, ч.1. — С. 79–89.</ref> следует использовать не весь объем измерений, а только тот, что выполнен для, в определенном смысле, информативных фрагментов изображений. Формально, это соответствует удалению части уравнений из системы, которые оказываются линейно зависимыми и отрицательным образом влияют на обусловленность задачи <ref>Фурсов, В.А. Введение в идентификацию по малому числу наблюдений. [Текст] / В.А. Фурсов. — М. : Изд-во МАИ, 1991. —36 с.</ref>, что, в свою очередь, приводит к крайне медленной скорости сходимости известных итерационных алгоритмов.

Elena Kozlova: /* Классификация проекционных последовательностей */

2016-08-18T10:44:30Z

Классификация проекционных последовательностей

← Предыдущая версия		Версия от 10:44, 18 августа 2016
Строка 228:		Строка 228:
	== Классификация проекционных последовательностей ==		== Классификация проекционных последовательностей ==
	Под проекционной последовательностью понимается порядок обхода уравнений системы в процессе итераций алгоритма Качмажа. А рассматриваемая последовательность задается с использованием правила <math>j\left(k\right)</math>, где <math>k\in \mathbb{N}_{0}</math>, которое позволяет вычислить номер используемого уравнения на итерации с номером <math>k</math>.		Под проекционной последовательностью понимается порядок обхода уравнений системы в процессе итераций алгоритма Качмажа. А рассматриваемая последовательность задается с использованием правила <math>j\left(k\right)</math>, где <math>k\in \mathbb{N}_{0}</math>, которое позволяет вычислить номер используемого уравнения на итерации с номером <math>k</math>.
	Правило <math>j\left(k\right)</math> рассматривать как ''сюръективное'' отображение множества <math>\mathbb{N}_{0}</math> на множество <math>\left\{ 1,2,\ldots,m\right\}</math>, где <math>m</math> - количество уравнений в системе линейных алгебраических уравнений <math>Au=f,\ A\in \mathbb{R}^{m\times n},\ u\in \mathbb{R}^{n},\ f\in \mathbb{R}^{m}</math>.		Правило <math>j\left(k\right)</math> следует рассматривать как ''сюръективное'' отображение множества <math>\mathbb{N}_{0}</math> на множество <math>\left\{ 1,2,\ldots,m\right\}</math>, где <math>m</math> - количество уравнений в системе линейных алгебраических уравнений <math>Au=f,\ A\in \mathbb{R}^{m\times n},\ u\in \mathbb{R}^{n},\ f\in \mathbb{R}^{m}</math>.

	Отображения такого вида могут быть как детерминированными, так и случайными, рандомизированными. В последнем случае <math>j\left(k\right)</math> является дискретной случайной величиной с заданным законом распределения. Например, к детерминированным отображениям необходимо отнести:		Отображения такого вида могут быть как детерминированными, так и случайными, рандомизированными. В последнем случае <math>j\left(k\right)</math> является дискретной случайной величиной с заданным законом распределения. Например, к детерминированным отображениям необходимо отнести:

Elena Kozlova: /* Классификация проекционных последовательностей */

2016-08-18T10:43:51Z

Классификация проекционных последовательностей

← Предыдущая версия		Версия от 10:43, 18 августа 2016
Строка 227:		Строка 227:

	== Классификация проекционных последовательностей ==		== Классификация проекционных последовательностей ==
	Под проекционной последовательностью понимается порядок обхода уравнений системы в процессе итераций алгоритма Качмажа. А рассматриваемая последовательность задается с использованием правила <math>j\left(k\right)</math>, где <math>k\in \mathbb{N}_{0}</math> которое позволяет вычислить номер используемого уравнения на итерации с номером <math>k</math>.		Под проекционной последовательностью понимается порядок обхода уравнений системы в процессе итераций алгоритма Качмажа. А рассматриваемая последовательность задается с использованием правила <math>j\left(k\right)</math>, где <math>k\in \mathbb{N}_{0}</math>, которое позволяет вычислить номер используемого уравнения на итерации с номером <math>k</math>.
	Правило <math>j\left(k\right)</math> рассматривать как ''сюръективное'' отображение множества <math>\mathbb{N}_{0}</math> на множество <math>\left\{ 1,2,\ldots,m\right\}</math>, где <math>m</math> - количество уравнений в системе линейных алгебраических уравнений <math>Au=f,\ A\in \mathbb{R}^{m\times n},\ u\in \mathbb{R}^{n},\ f\in \mathbb{R}^{m}</math>.		Правило <math>j\left(k\right)</math> рассматривать как ''сюръективное'' отображение множества <math>\mathbb{N}_{0}</math> на множество <math>\left\{ 1,2,\ldots,m\right\}</math>, где <math>m</math> - количество уравнений в системе линейных алгебраических уравнений <math>Au=f,\ A\in \mathbb{R}^{m\times n},\ u\in \mathbb{R}^{n},\ f\in \mathbb{R}^{m}</math>.

Elena Kozlova: /* Возможные способы и особенности параллельной реализации алгоритма */

2016-08-18T10:41:39Z

Возможные способы и особенности параллельной реализации алгоритма

← Предыдущая версия		Версия от 10:41, 18 августа 2016
Строка 203:		Строка 203:
	из библиотеки базовых математических операций [https://software.intel.com/en-us/intel-mkl\| Intel MKL]. В статье отмечается, что за счет распараллеливания макроопераций представленная реализация позволила уменьшить время решения задачи от 2 до 4 раз по сравнению с последовательной версией.		из библиотеки базовых математических операций [https://software.intel.com/en-us/intel-mkl\| Intel MKL]. В статье отмечается, что за счет распараллеливания макроопераций представленная реализация позволила уменьшить время решения задачи от 2 до 4 раз по сравнению с последовательной версией.

	Реализации базовых операций линейной алгебры существуют и для графических процессоров, например, библиотека [http://docs.nvidia.com/cuda/cublas/#axzz4EsnAK5Tf\| cuBLAS] для архитектуры параллельных вычислений от NVIDIA. Как отмечено в работе <ref>Elble J. M., Sahinidis N. V., Vouzis P. GPU computing with Kaczmarz’s and other iterative algorithms for linear systems //Parallel computing. – 2010. – Т. 36. – №. 5. – С. 215-231.</ref> параллельная реализация алгоритма Качмажа на CUDA архитектуре оказывается неэффективной за счет операций первичной инициализации и копирования между различными ОЗУ.		Реализации базовых операций линейной алгебры существуют и для графических процессоров, например, библиотека [http://docs.nvidia.com/cuda/cublas/#axzz4EsnAK5Tf\| cuBLAS] для архитектуры параллельных вычислений от NVIDIA. Как отмечено в работе <ref>Elble J. M., Sahinidis N. V., Vouzis P. GPU computing with Kaczmarz’s and other iterative algorithms for linear systems //Parallel computing. – 2010. – Т. 36. – №. 5. – С. 215-231.</ref>, параллельная реализация алгоритма Качмажа на CUDA архитектуре оказывается неэффективной за счет операций первичной инициализации и копирования между различными ОЗУ.

	Наиболее перспективными архитектурами для реализации алгоритма Качмажа, по мнению авторов, являются ARM архитектуры (''Advanced RISC Machine, Acorn RISC Machine, усовершенствованная RISC-машина''). Например, существенное ускорение можно получить в реализациях для процессоров, построенных по SIMD (''single instruction, multiple data — одиночный поток команд, множественный поток данных'') принципу. Стоит отметить технологию [http://www.arm.com/products/processors/technologies/neon.php\| ARM NEON], которая может быть применена при разработке приложений для iPhone устройств, в которых, по причине ограниченного заряда батареи и в целом вычислительных ресурсов мобильного устройства, остро стоят задачи оптимизации вычислений при обработке снимков с камеры телефона или видео-ряда в режиме реального времени.		Наиболее перспективными архитектурами для реализации алгоритма Качмажа, по мнению авторов, являются ARM архитектуры (''Advanced RISC Machine, Acorn RISC Machine, усовершенствованная RISC-машина''). Например, существенное ускорение можно получить в реализациях для процессоров, построенных по SIMD (''single instruction, multiple data — одиночный поток команд, множественный поток данных'') принципу. Стоит отметить технологию [http://www.arm.com/products/processors/technologies/neon.php\| ARM NEON], которая может быть применена при разработке приложений для iPhone устройств, в которых, по причине ограниченного заряда батареи и в целом вычислительных ресурсов мобильного устройства, остро стоят задачи оптимизации вычислений при обработке снимков с камеры телефона или видео-ряда в режиме реального времени.

Elena Kozlova: /* Возможные способы и особенности параллельной реализации алгоритма */

2016-08-18T10:41:04Z

Возможные способы и особенности параллельной реализации алгоритма

← Предыдущая версия		Версия от 10:41, 18 августа 2016
Строка 201:		Строка 201:
	* ''cblas_ddoti'' - скалярное произведение векторов,		* ''cblas_ddoti'' - скалярное произведение векторов,
	* ''cblas_daxpyi'' - реализация операции [[SAXPY]],		* ''cblas_daxpyi'' - реализация операции [[SAXPY]],
	из библиотеки базовых математических операций [https://software.intel.com/en-us/intel-mkl\| Intel MKL]. В статье отмечается, что за счет распараллеливания ~~макро-операций~~ представленная реализация позволила уменьшить время решения задачи от 2 до 4 раз по сравнению с последовательной версией.		из библиотеки базовых математических операций [https://software.intel.com/en-us/intel-mkl\| Intel MKL]. В статье отмечается, что за счет распараллеливания макроопераций представленная реализация позволила уменьшить время решения задачи от 2 до 4 раз по сравнению с последовательной версией.

	Реализации базовых операций линейной алгебры существуют и для графических процессоров, например, библиотека [http://docs.nvidia.com/cuda/cublas/#axzz4EsnAK5Tf\| cuBLAS] для архитектуры параллельных вычислений от NVIDIA. Как отмечено в работе <ref>Elble J. M., Sahinidis N. V., Vouzis P. GPU computing with Kaczmarz’s and other iterative algorithms for linear systems //Parallel computing. – 2010. – Т. 36. – №. 5. – С. 215-231.</ref> параллельная реализация алгоритма Качмажа на CUDA архитектуре оказывается неэффективной за счет операций первичной инициализации и копирования между различными ОЗУ.		Реализации базовых операций линейной алгебры существуют и для графических процессоров, например, библиотека [http://docs.nvidia.com/cuda/cublas/#axzz4EsnAK5Tf\| cuBLAS] для архитектуры параллельных вычислений от NVIDIA. Как отмечено в работе <ref>Elble J. M., Sahinidis N. V., Vouzis P. GPU computing with Kaczmarz’s and other iterative algorithms for linear systems //Parallel computing. – 2010. – Т. 36. – №. 5. – С. 215-231.</ref> параллельная реализация алгоритма Качмажа на CUDA архитектуре оказывается неэффективной за счет операций первичной инициализации и копирования между различными ОЗУ.

Elena Kozlova: /* Локальность данных и вычислений */

2016-08-18T10:39:32Z

Локальность данных и вычислений

← Предыдущая версия		Версия от 10:39, 18 августа 2016
Строка 180:		Строка 180:

	== Локальность данных и вычислений ==		== Локальность данных и вычислений ==
	Векторность операции [[SAXPY]] может обеспечить хорошую [[Глоссарий#Пространственная локальность\|пространственную локальность]] ~~Алгоритму~~ Качмажа.		Векторность операции [[SAXPY]] может обеспечить хорошую [[Глоссарий#Пространственная локальность\|пространственную локальность]] алгоритму Качмажа.

	'''Важно''', при реализации учитывать структуру хранения двумерных массивов в оперативной памяти для выбранной архитектуры. К примеру в языках С/С++, двумерный массив (матрица) из трех строк и четырех колонок будет сохранен в памяти в следующей последовательности: (1,1),(1,2),(1,3),(1,4),(2,1),(2,2),(2,3),(2,4),(3,1),(3,2),(3,3),(3,4) - элементы матрицы выписываются последовательно, по строкам.		'''Важно''', при реализации учитывать структуру хранения двумерных массивов в оперативной памяти для выбранной архитектуры. К примеру, в языках С/С++ двумерный массив (матрица) из трех строк и четырех колонок будет сохранен в памяти в следующей последовательности: (1,1),(1,2),(1,3),(1,4),(2,1),(2,2),(2,3),(2,4),(3,1),(3,2),(3,3),(3,4) - элементы матрицы выписываются последовательно, по строкам.

	Однако, при реализации на языке FORTRAN эта же матрица будет сохранена в следующей последовательности: (1,1),(2,1),(3,1),(1,2),(2,2),(3,2),(1,3),(2,3),(3,3),(1,4),(2,4),(3,4) - элементы матрицы выписываются последовательно, по столбцам <ref>How FORTRAN Stores Two-Dimensional Arrays in Memory, https://support.microsoft.com/en-us/kb/27780</ref>. При реализации на FORTRAN подобных языках, матрицу <math>A</math> из входных данных следует хранить в оперативной памяти в транспонированном виде, таким образом существенно возрастает пространственная локальность векторных операций, в которых участвуют строки матрицы системы линейных алгебраических уравнений.		Однако, при реализации на языке FORTRAN эта же матрица будет сохранена в следующей последовательности: (1,1),(2,1),(3,1),(1,2),(2,2),(3,2),(1,3),(2,3),(3,3),(1,4),(2,4),(3,4) - элементы матрицы выписываются последовательно, по столбцам <ref>How FORTRAN Stores Two-Dimensional Arrays in Memory, https://support.microsoft.com/en-us/kb/27780</ref>. При реализации на FORTRAN-подобных языках, матрицу <math>A</math> из входных данных следует хранить в оперативной памяти в транспонированном виде, таким образом существенно возрастает пространственная локальность векторных операций, в которых участвуют строки матрицы системы линейных алгебраических уравнений.

	== Возможные способы и особенности параллельной реализации алгоритма ==		== Возможные способы и особенности параллельной реализации алгоритма ==

← Предыдущая версия		Версия от 10:41, 18 августа 2016
Строка 203:		Строка 203:
	из библиотеки базовых математических операций [https://software.intel.com/en-us/intel-mkl\| Intel MKL]. В статье отмечается, что за счет распараллеливания макроопераций представленная реализация позволила уменьшить время решения задачи от 2 до 4 раз по сравнению с последовательной версией.		из библиотеки базовых математических операций [https://software.intel.com/en-us/intel-mkl\| Intel MKL]. В статье отмечается, что за счет распараллеливания макроопераций представленная реализация позволила уменьшить время решения задачи от 2 до 4 раз по сравнению с последовательной версией.

	Реализации базовых операций линейной алгебры существуют и для графических процессоров, например, библиотека [http://docs.nvidia.com/cuda/cublas/#axzz4EsnAK5Tf\| cuBLAS] для архитектуры параллельных вычислений от NVIDIA. Как отмечено в работе <ref>Elble J. M., Sahinidis N. V., Vouzis P. GPU computing with Kaczmarz’s and other iterative algorithms for linear systems //Parallel computing. – 2010. – Т. 36. – №. 5. – С. 215-231.</ref> параллельная реализация алгоритма Качмажа на CUDA архитектуре оказывается неэффективной за счет операций первичной инициализации и копирования между различными ОЗУ.		Реализации базовых операций линейной алгебры существуют и для графических процессоров, например, библиотека [http://docs.nvidia.com/cuda/cublas/#axzz4EsnAK5Tf\| cuBLAS] для архитектуры параллельных вычислений от NVIDIA. Как отмечено в работе <ref>Elble J. M., Sahinidis N. V., Vouzis P. GPU computing with Kaczmarz’s and other iterative algorithms for linear systems //Parallel computing. – 2010. – Т. 36. – №. 5. – С. 215-231.</ref>, параллельная реализация алгоритма Качмажа на CUDA архитектуре оказывается неэффективной за счет операций первичной инициализации и копирования между различными ОЗУ.

	Наиболее перспективными архитектурами для реализации алгоритма Качмажа, по мнению авторов, являются ARM архитектуры (''Advanced RISC Machine, Acorn RISC Machine, усовершенствованная RISC-машина''). Например, существенное ускорение можно получить в реализациях для процессоров, построенных по SIMD (''single instruction, multiple data — одиночный поток команд, множественный поток данных'') принципу. Стоит отметить технологию [http://www.arm.com/products/processors/technologies/neon.php\| ARM NEON], которая может быть применена при разработке приложений для iPhone устройств, в которых, по причине ограниченного заряда батареи и в целом вычислительных ресурсов мобильного устройства, остро стоят задачи оптимизации вычислений при обработке снимков с камеры телефона или видео-ряда в режиме реального времени.		Наиболее перспективными архитектурами для реализации алгоритма Качмажа, по мнению авторов, являются ARM архитектуры (''Advanced RISC Machine, Acorn RISC Machine, усовершенствованная RISC-машина''). Например, существенное ускорение можно получить в реализациях для процессоров, построенных по SIMD (''single instruction, multiple data — одиночный поток команд, множественный поток данных'') принципу. Стоит отметить технологию [http://www.arm.com/products/processors/technologies/neon.php\| ARM NEON], которая может быть применена при разработке приложений для iPhone устройств, в которых, по причине ограниченного заряда батареи и в целом вычислительных ресурсов мобильного устройства, остро стоят задачи оптимизации вычислений при обработке снимков с камеры телефона или видео-ряда в режиме реального времени.