https://xn--80aecvaldz.xn--80ahdrnmvk.xn--p1ai/w/ru/index.php?action=history&feed=atom&title=%D0%A3%D1%87%D0%B0%D1%81%D1%82%D0%BD%D0%B8%D0%BA%3AOnymoth%2FEMУчастник:Onymoth/EM - История изменений2026-10-23T08:22:09ZИстория изменений этой страницы в викиMediaWiki 1.43.5https://xn--80aecvaldz.xn--80ahdrnmvk.xn--p1ai/w/ru/index.php?title=%D0%A3%D1%87%D0%B0%D1%81%D1%82%D0%BD%D0%B8%D0%BA:Onymoth/EM&diff=23569&oldid=prevOnymoth: EM - intro2017-10-24T20:57:41Z<p>EM - intro</p>
<p><b>Новая страница</b></p><div><br />
= Свойства и структура алгоритма =<br />
== Общее описание алгоритма ==<br />
EM-алгоритм — алгоритм, используемый в математической статистике для нахождения оценок максимального правдоподобия параметров вероятностных моделей, в случае, когда модель зависит от некоторых скрытых переменных. Каждая итерация алгоритма состоит из двух шагов. На E-шаге (expectation) вычисляется ожидаемое значение функции правдоподобия, при этом скрытые переменные рассматриваются как наблюдаемые. На M-шаге (maximization) вычисляется оценка максимального правдоподобия, таким образом увеличивается ожидаемое правдоподобие, вычисляемое на E-шаге. Затем это значение используется для E-шага на следующей итерации. Алгоритм выполняется до сходимости.<br />
<br />
Как правило, ЕМ-алгоритм применяется для решения задач двух типов:<br />
* К первому типу можно отнести задачи, связанные с анализом действительно неполных данных, когда некоторые статистические данные отсутствуют в силу каких-либо причин.<br />
* Ко второму типу задач можно отнести те задачи, в которых функция правдоподобия имеет вид, не допускающий удобных аналитических методов исследования, но допускающий серьезные упрощения, если в задачу ввести дополнительные «ненаблюдаемые» (скрытые, латентные) переменные. Примерами прикладных задач второго типа являются задачи распознавания образов, реконструкции изображений. Математическую суть данных задач составляют задачи кластерного анализа, классификации и разделения смесей вероятностных распределений. <br />
== Математическое описание алгоритма ==<br />
Рассмотрим вероятностную модель с наблюдаемыми переменными <math>X</math> и параметрами <math>\Theta</math>, для которой задано правдоподобие <math>p(X|\Theta)</math>. Предположим, что в модели также существуют скрытые переменные <math>Z</math>, описывающие её внутреннее состояние. Тогда правдоподобие <math>p(X|\Theta)</math> называется неполным, а правдоподобие <math>p(X, Z|\Theta)</math> — полным. Требуется оценить вектор параметров <math>\Theta</math>.<br />
<br />
Воспользуемся байесовским подходом: зафиксируем вектор параметров <math>\Theta^{old}</math> и вычислим апостериорное распределение на скрытых переменных <math>p(Z|X, \Theta^{old})</math>. В этом заключается E-шаг алгоритма.<br />
<br />
На M-шаге новый вектор параметров находится как максимизатор матожидания логарифма полного правдоподобия по апостериорному распределению, посчитанному на предыдущем шаге: <math>\Theta^{new} = \mathbb{E}\log p(X, Z|\Theta)</math><br />
== Вычислительное ядро алгоритма ==<br />
== Макроструктура алгоритма ==<br />
== Схема реализации последовательного алгоритма ==<br />
== Последовательная сложность алгоритма ==<br />
== Информационный граф ==<br />
== Ресурс параллелизма алгоритма ==<br />
== Входные и выходные данные алгоритма ==<br />
== Свойства алгоритма ==<br />
= Программная реализация алгоритма =<br />
== Особенности реализации последовательного алгоритма ==<br />
== Локальность данных и вычислений ==<br />
== Масштабируемость алгоритма и его реализации ==<br />
== Динамические характеристики и эффективность реализации алгоритма ==<br />
== Выводы для классов архитектур ==<br />
== Существующие реализации алгоритма ==<br />
= Литература =<br />
<br />
<references /></div>Onymoth