Участник:MelLain/ЕМ-алгоритм (Тематическое моделирование)

Свойства и структура алгоритма

Общее описание алгоритма

Тематическое моделирование - одно из направлений статистического анализа текстовых коллекций в машинном обучении. В литературе описываются многочисленные разновидности моделей, а также методов их обучения. В данной статье будет рассмотрена тематическая модель вероятностного латентного семантического анализа (PLSA), и процесс её обучения с помощью параллельного ЕМ-алгоритма.

Существует множество разновидностей ЕМ-алгоритмов, ориентированных на учёт тех или иные аспектов решаемой задачи. Наиболее простым вариантом является т.н. оффлайновый алгоритм, непригодный для работы с большими текстовыми данными в силу значительных требований к потребляемой оперативной памяти. Существует ряд модернизаций этого алгоритма, позволяющих избавить его от ряда недостатков. Наилучшей из них является онлайновый вариант алгоритма. Тем не менее, в силу относительно высокой сложности его эффективной параллельной реализации, в данной статье будет рассматриваться гибридный вариант алгоритма, избавленный от большинства недостатков оффлайнового, но имеющий меньшую скорость сходимости, чем онлайновый.

Математическое описание

Математическое описание модели

В большинстве тематических моделей коллекция текстов рассматривается в виде "мешка слов", т.е. модель учитывает только статистическую встречаемость слов в документах и никак не использует информацию об их взаимном расположении внутри документа.

Вероятностная модель PLSA имеет следующий вид:

[math]\displaystyle{ \begin{align} F \approx \Phi \times \Theta \end{align} }[/math]

Здесь [math]\displaystyle{ F }[/math] - это матрица исходных данных размера [math]\displaystyle{ |W| \times |D| }[/math], где [math]\displaystyle{ D }[/math] - это множество документов, а [math]\displaystyle{ W }[/math] - словарь коллекции, т.е. множество всех уникальных слов, встретившихся в документах.

[math]\displaystyle{ \Phi }[/math] - это матрица параметров модели размера [math]\displaystyle{ |W| \times |T| }[/math], где [math]\displaystyle{ T }[/math] - это множество тем, которые мы хотим извлечь из коллекции. Под темой в бытовом смысле смысле понимается набор слов, характеризующих её. Формально говоря, тема - это вероятностное распределение на множестве слов [math]\displaystyle{ W }[/math], поэтому матрица [math]\displaystyle{ \Phi }[/math] является стохастической, т.е. столбцы её неотрицательны и суммируются в единицу.

[math]\displaystyle{ \Theta }[/math] - матрица результатов кластеризации обучающей коллекции по полученным темам размера [math]\displaystyle{ |T| \times |D| }[/math], в ней столбцы также являются вероятностными распределениями, на этот раз документов на множестве тем.

Фактически, PLSA есть ни что иное, как задача приближённого стохастического матричного разложения, в ходе которой производится мягкая бикластеризация данных (мягкая - потому что объекты распределяются по классам не строго, а с некоторой вероятностью, би - потому что производится одновременная кластрезация слов по темам, и тем - по документам). Поставленную задачу можно решать методом максимального правдоподобия, с помощью ЕМ-алгоритма.

В данной статье будут расматриваться только плотные матрицы (хотя при определённых условиях можно эффективно использовать разреженные).

Математическое описание ЕМ-алгоритма

Задача максимизации логарифма правдоподобия для описанной модели имеет следующий вид:

[math]\displaystyle{ \begin{align} \mathcal{L}(\Phi, \Theta) = \sum_{d \in D}\sum_{w \in d} n_{dw} \,\mathrm{ln}(\sum_{t \in T} \phi_{wt} \theta_{td}) \rightarrow \underset{\Phi, \Theta}{\mathrm{max}} \end{align} }[/math]

[math]\displaystyle{ \begin{align} \sum_{w \in W} \phi_{wt} = 1, \, \forall t \in T, \quad \phi_{wt} \ge 0; \end{align} }[/math]

[math]\displaystyle{ \begin{align} \sum_{t \in T} \theta_{td} = 1, \, \forall d \in D, \quad \theta_{td} \ge 0. \end{align} }[/math]

Прямая оптимизация логарифма правдоподобия - очень сложная задача, поэтому её решают приближённо с помощью метода простых итераций, в котором чередуются два шага: E (expectation) и M (maximization). Перед первой итерацией выбираются начальные приближения параметров [math]\displaystyle{ \Phi }[/math] и [math]\displaystyle{ \Theta }[/math].

На Е-шаге по текущим значениям параметров с помощью формулы Байеса вычисляются вспомогательные переменные - условные вероятности [math]\displaystyle{ p(t\, | \,d, \,w) }[/math] для всех тем [math]\displaystyle{ t \in T }[/math], для каждого термина [math]\displaystyle{ w \in d }[/math] для каждого документа [math]\displaystyle{ d \in D }[/math]:

[math]\displaystyle{ \begin{align} p(t\, | \,d, \,w ) = \cfrac{\phi_{wt}\theta_{td}}{\sum_{s \in T}\phi_{ws}\theta_{sd}} \end{align} }[/math]

На М-шаге, наоброт, по условным вероятностям [math]\displaystyle{ p(t\, | \,d, \,w) }[/math] вычисляется новое приближение параметров [math]\displaystyle{ \phi_{wt} }[/math], [math]\displaystyle{ \theta_{td} }[/math]:

[math]\displaystyle{ \begin{align} \phi_{wt} = \cfrac{\hat n_{wt}}{\hat n_t}, \quad \hat n_t = \sum_{w \in W} \hat n_{wt}, \quad \hat n_{wt} = \sum_{d \in D} n_{dw} p(t\, | \,d, \,w ) \end{align} }[/math]

[math]\displaystyle{ \begin{align} \theta_{td} = \cfrac{\hat n_{dt}}{\hat n_d}, \quad \hat n_d = \sum_{t \in T} \hat n_{dt}, \quad \hat n_{dt} = \sum_{w \in d} n_{dw} p(t\, | \,d, \,w ) \end{align} }[/math]

Строгое обоснование данных формул можно получить с помощью теоремы Куна-Таккера.

Общие слова о модернизациях

Как уже было сказано, и как видно из описания выше, данный алгоритм сложно применять на практике в чистом виде из-за необходимости хранения трёхмерной матрицы [math]\displaystyle{ p(t\, | \,d, \,w) }[/math] и двумерной матрицы [math]\displaystyle{ \Theta }[/math], размеры которых зависят от количества обрабатываемых и данных, которых может быть очень много.

Для борьбы с описанной проблемой можно производить вычисления более рационально, отказавшись от хранения обеих матриц и вычисляя необходимы значения на лету. При наличии обученной модели [math]\displaystyle{ \Phi }[/math] получить векторы распределений [math]\displaystyle{ \theta_d }[/math] (если в этом есть необходимость) можно, произведя одну итерацию алгоритма, в ходе которой сама модель обновляться не будет.

В этом варианте адгоритма вычисление [math]\displaystyle{ \theta_d }[/math] будет перенесено с М-шага на Е-шаг, и для каждого нового документа этот вектор будет инициализироваться равномерным распределением. Для ускорения скорости сходимости можно производить итерации "пересчёт [math]\displaystyle{ p(t\, | \,d, \,w) }[/math]"-"обновление [math]\displaystyle{ \theta_d }[/math]" многократно в течении обработки одного документа.

В дальнейшем подобные итерации будем называть внутренними, полный же однократный проход по всей коллекции будем называть итерацией внешней'.'

Вычислительное ядро алгоритма

Наиболее вычислительно затратной операцией в данном алгоритме является Е-шаг, в ходе которого рассчитываются вспомогательные переменные и векторы [math]\displaystyle{ \theta_d }[/math]. С введением внутренних итераций нагрузка на Е-шаг только увеличивается.

Макроуструктура алгоритма

В целом, высокоуровневое описание ЕМ-алгоритма состоит из самих Е-шага и М-шага. Е-шаг представляет собой набор операций, производимых в цикле по документам, что явно предоставляет возможность его распараллеливания. М-шаг занимает во много раз меньше времени и достаточно эффективно может выполняться в однопоточном режиме.

Впрочем, при наличии действительно больших данных можно задуматься и о параллелизме на М-шаге, но в данной статье этот вопрос не рассматривается.