Участник:Иванов Даниил/Алгоритм устойчивой кластеризации с иcпользованием связей

Вступление

ЧАСТЬ. Свойства и структура алгоритмов

Общее описание алгоритма

Алгоритм устойчивой кластеризации с иcпользованием связей (robust clustering using links, ROCK) решает задачу кластеризации объектов по заранее заданному количеству [math]\displaystyle{ k }[/math] кластеров. В пространстве объектов должна быть определена функция сходства/расстояния между объекта [math]\displaystyle{ sim(p_i, p_j) }[/math]. Данный алгоритм относится к иерархическим методам кластеризации, который начинает с разбиения пространства на большое количество кластеров и постепенно объединяя их до нужного количества. Алгоритм пытается объединить в один кластер точки с максимальным числом общих соседей.

Данный алгоритм хорошо подходит для объектов с категориальными признаками (то есть признаками, принимающими небольшое количество значений). С помощью этого алгоритма также часто решается задача поиска ассоциативных правил.

Математическое описание алгоритма

Пусть дано множество объектов [math]\displaystyle{ P = \{p_1, \ldots , p_n\} }[/math], натуральное число [math]\displaystyle{ k }[/math], функция схожести [math]\displaystyle{ sim(p_i, p_j) }[/math], пороговое значение [math]\displaystyle{ \theta : 0\leq\theta\leq 1 }[/math] и функция функция [math]\displaystyle{ f( \theta ) }[/math].

Результатом работы алгоритма является [math]\displaystyle{ k }[/math] непересекающихся кластеров, делящих множество [math]\displaystyle{ P }[/math].

Две точки называются соседними, если [math]\displaystyle{ sim(p_i, p_j) \geq \theta }[/math]

Количеством общих соседей [math]\displaystyle{ link(p_i, p_j) }[/math] называется число точек, являющимися соседними для точек [math]\displaystyle{ p_i, p_j }[/math].

Функцией связи между кластерами называется [math]\displaystyle{ link[C_i, C_j] = \sum_{\begin{smallmatrix}p_q\in C_i,\; p_r\in C_j\end{smallmatrix}}^{ } link(p_{q},p_r) }[/math].

Функцией качества является функция

[math]\displaystyle{ g(C_i, C_j) = \frac{link[C_i,C_j]}{(n_i + n_j)^{1 + 2f(\theta )} - n_i^{1+2f(\theta )} - n_j^{1+2f(\theta )}} }[/math], где [math]\displaystyle{ n_i }[/math] - число объектов в кластере [math]\displaystyle{ C_i }[/math].

Алгоритм начинает работу, разбив всё пространство на [math]\displaystyle{ n }[/math] кластеров.

Затем на каждом шаге он вычисляет значение [math]\displaystyle{ g(C_i, C_j) }[/math] для каждой пары кластеров и объединяет эти кластеры в один.

Алгоритм ведёт свою работу до тех пор, пока не получит [math]\displaystyle{ k }[/math] кластеров.

В качестве функции [math]\displaystyle{ f( \theta ) }[/math] обычно используется функция [math]\displaystyle{ f(\theta ) = \frac{\theta - 1}{\theta + 1} }[/math] , [math]\displaystyle{ n_i^{1+2f(\theta )} }[/math] - ожидаемое число связей между парами объектов кластера [math]\displaystyle{ C_i }[/math].

Если все признаки категориальны, то в качестве функции схожести можно использовать функцию:

[math]\displaystyle{ sim(p_i,p_j) = \frac{|p_i\cap p_j|}{|p_i\cup p_j|} }[/math], где [math]\displaystyle{ |p_i| }[/math] - количество атрибутов в [math]\displaystyle{ p_i }[/math]. Данная функция удобна в случае, если все признаки категориальны

Если же признаки непрерывны, то можно использовать функции расстояний в многомерных пространствах, предварительно нормализовав признаки.

Вычислительное ядро алгоритма

Вычислительное ядро алгоритма состоит из двух основных частей.

1. Попарное вычисление связей между точками. Можно вычислить, умножив матрицу смежности саму на себя. Имеет квадратичную сложность от количества точек.
2. Итеративное объединению кластеров. За [math]\displaystyle{ n-k }[/math] шагов кластеры последовательно объединяются. Реализовывается с помощью структуры данных куча. Для каждого кластера math>i</math> хранится своя куча [math]\displaystyle{ q[i] }[/math], содержащая все связанный с ним кластеры, упорядоченная по убыванию функции качества. Также хранится глобальная куча [math]\displaystyle{ Q }[/math], содержащая все кластеры [math]\displaystyle{ j }[/math], упорядоченные по мере убывания функции качества [math]\displaystyle{ g(j, max(q[j])) }[/math]. На каждом шаге итерации, после объединения кластеров требуется перестроить кучи объединённых кластеров в одну и перестроить глобальную кучу.