Участник:Eugeny/Алгоритм сравнения эмпирического распределения с теоретическим

Свойства и структура алгоритма

Общее описание алгоритма

Теоретическая фу́нкция распределе́ния в теории вероятностей — функция, характеризующая распределение случайной величины или случайного вектора; вероятность того, что случайная величина X примет значение, строго меньшее или равное х, где х — произвольное действительное число.
Эмпири́ческая фу́нкция распределе́ния — это приближение теоретической функции распределения, построенное с помощью выборки из него.

Различие между эмпирической и теоретической функциями состоит в том, что теоретическая функция F(x) определяет вероятность события , а эмпирическая – относительную частоту этого же события.

В практической работе часто возникает необходимость определить соответствие эмпирического и теоретического распределения или двух и более эмпирических распределений между собой. Общие принципы сравнения основываются на анализе так называемой нулевой гипотезы. Согласно этой гипотезе первоначально принимается, что между эмпирическим и теоретическим распределением признака в генеральной совокупности достоверного различия нет. Статистический анализ должен привести или к отклонению нулевой гипотезы, если доказана достоверность полученных различий, или к ее сохранению, если достоверность различий не доказана, т.е. различия признаны случайными.

Математическое описание алгоритма

Процедура проверки гипотез с использованием критериев типа χ2 предусматривает группирование наблюдений. Область определения случайной величины разбивают на k непересекающихся интервалов граничными точками
[math]\displaystyle{ x_{(0)},x_{(1)},...,x_{(k-1)},x_{(k)} }[/math]
где [math]\displaystyle{ x_{(0)} }[/math] — нижняя грань области определения случайной величины; [math]\displaystyle{ x_{(k)} }[/math] — верхняя грань. В соответствии с заданным разбиением подсчитывают число [math]\displaystyle{ n_{i} }[/math] выборочных значений, попавших в [math]\displaystyle{ i }[/math] -й интервал, и вероятности попадания в интервал
[math]\displaystyle{ P_{i}(\theta )=F(x_{(i)},\theta )-F(x_{(i-1)},\theta ) }[/math],
соответствующие теоретическому закону с функцией распределения [math]\displaystyle{ F(x,\theta ) }[/math].
При этом
[math]\displaystyle{ n=\sum _{i=1}^{k}n_{I} }[/math] и [math]\displaystyle{ \sum _{i=1}^{k}P_{i}(\theta )=1 }[/math].
При проверке простой гипотезы известны как вид закона [math]\displaystyle{ F(x,\theta ) }[/math] так и все его параметры (известен скалярный или векторный параметр [math]\displaystyle{ θ }[/math]).
В основе статистик, используемых в критериях согласия типа χ2, лежит измерение отклонений [math]\displaystyle{ n_{i}/n }[/math] от [math]\displaystyle{ P_{i}(\theta ) }[/math].
Статистика критерия согласия χ2 Пирсона определяется соотношением
[math]\displaystyle{ X_{n}^{2}=n\sum _{i=1}^{k}{\frac {\left(n_{i}/n-P_{i}(\theta )\right)^{2}}{P_{i}(\theta )}} }[/math]
В случае проверки простой гипотезы в пределе при [math]\displaystyle{ n\to \infty }[/math]эта статистика подчиняется [math]\displaystyle{ \chi _{r}^{2} }[/math]-распределению с [math]\displaystyle{ r=k-1 }[/math]степенями свободы, если верна проверяемая гипотеза [math]\displaystyle{ H_{0} }[/math]. Плотность [math]\displaystyle{ \chi _{r}^{2} }[/math]-распределения, которое является частным случаем гамма-распределения, описывается формулой
[math]\displaystyle{ g(s)={\frac {1}{2^{r/2}\Gamma (r/2)}}s^{r/2-1}e^{-s/2} }[/math].
Проверяемая гипотеза [math]\displaystyle{ H_{0} }[/math] отклоняется при больших значениях статистики, когда вычисленное по выборке значение статистики [math]\displaystyle{ X_{n}^{2*} }[/math] больше критического значения [math]\displaystyle{ \chi _{r,\alpha }^{2} }[/math] , или достигнутый уровень значимости (p-value)
[math]\displaystyle{ P\left(X_{n}^{2} \gt X_{n}^{2*}\right)={\frac {1}{2^{r/2}\Gamma (r/2)}}\int _{X_{n}^{2*}}^{\infty }s^{r/2-1}e^{-s/2}ds }[/math]
меньше заданного уровня значимости (заданной вероятности ошибки 1-го рода) [math]\displaystyle{ \alpha }[/math].