Дисперсионный анализ (ANOVA)

Дисперсионный анализ (ANOVA) — это статистический метод, используемый для сравнения средних значений трех или более групп и определения того, существуют ли статистически значимые различия между ними.

Основная идея

ANOVA проверяет, объясняется ли вариация в данных:

• Различиями между группами (систематическая вариация)
• Случайными колебаниями внутри групп (случайная вариация)

Основные компоненты ANOVA

Общая вариация (Total Sum of Squares - SST)

$SST={\sum }_{i=1}^k{\sum }_{j=1}^{n_i}(Y_{ij}-\bar{Y}{)}^2$

Вариация между группами (Between-Group Sum of Squares - SSB)

$SSB={\sum }_{i=1}^k{n}_i({\bar{Y}}_i-\bar{Y}{)}^2$

Вариация внутри групп (Within-Group Sum of Squares - SSW)

$SSW={\sum }_{i=1}^k{\sum }_{j=1}^{n_i}(Y_{ij}-{\bar{Y}}_i{)}^2$

где:

• $k$— количество групп
• $n_i$— количество наблюдений в $i$-й группе
• $Y_{ij}$— $j$-е наблюдение в $i$-й группе
• ${\bar{Y}}_i$— среднее $i$-й группы
• $\bar{Y}$— общее среднее

Основное равенство ANOVA

$SST=SSB+SSW$

Односторонний ANOVA (One-Way ANOVA)

Используется когда:

• Один фактор (независимая переменная)
• Три или более групп
• Зависимая переменная количественная

Гипотезы:

• $H_0:{\mu }_1={\mu }_2=\cdots ={\mu }_k$(все средние равны)
• $H_1$:хотя бы одно среднее отличается

Таблица ANOVA

Источник вариации	Сумма квадратов (SS)	Степени свободы (df)	Средний квадрат (MS)	F-статистика
Между группами	SSB	k-1	MSB = \frac{SSB}{k-1}	F = \frac{MSB}{MSW}
Внутри групп	SSW	N-k	MSW = \frac{SSW}{N-k}
Общая	SST	N-1

где $N=\sum n_i$— общее количество наблюдений

F-статистика

$F=\frac{MSB}{MSW}=\frac{\text{межгрупповая дисперсия}}{\text{внутригрупповая дисперсия}}$

Если F > Fкрит или p-value < α → отвергаем H₀

Предпосылки ANOVA

1. Независимость наблюдений

Наблюдения внутри и между группами должны быть независимыми.

2. Нормальность распределения

Данные в каждой группе должны быть нормально распределены: $Y_{ij}\sim N({\mu }_i,{\sigma }^2)$

3. Гомогенность дисперсий (гомоскедастичность)

Дисперсии во всех группах должны быть равны: ${\sigma }_1^2={\sigma }_2^2=\cdots ={\sigma }_k^2$

Проверка предпосылок

Проверка нормальности:

• Тест Шапиро-Уилка
• Q-Q plot

Проверка гомогенности дисперсий:

• Тест Левена (Levene’s test)
• Тест Бартлетта (Bartlett’s test)

Многофакторный ANOVA

Двухфакторный ANOVA

Исследует влияние двух факторов и их взаимодействия:

$Y_{ijk}=\mu +{\alpha }_i+{\beta }_j+(\alpha \beta {)}_{ij}+{\epsilon }_{ijk}$

где:

• $\mu$— общее среднее
• ${\alpha }_i$— эффект i-го уровня фактора A
• ${\beta }_j$— эффект j-го уровня фактора B
• ($\alpha \beta {)}_{ij}$— эффект взаимодействия
• ${\epsilon }_{ijk}$— случайная ошибка

Пост-хок тесты (Post-hoc tests)

Если ANOVA показывает значимые различия, проводятся дополнительные тесты для определения, какие именно группы различаются:

Популярные методы:

• Тьюки (Tukey HSD) — для всех попарных сравнений
• Бонферрони (Bonferroni) — консервативный метод
• Шеффе (Scheffe) — самый консервативный

Непараметрические альтернативы

При нарушении предпосылок ANOVA:

Вместо одностороннего ANOVA:

• Тест Крускала-Уоллиса (Kruskal-Wallis)

Вместо двухфакторного ANOVA:

• Тест Фридмана (Friedman)

Связь с другими методами

С t-тестом:

• t-тест — частный случай ANOVA для 2 групп
• $F=t^2$ при сравнении двух групп

С регрессионным анализом:

ANOVA можно представить как специальный случай линейной регрессии с категориальными предикторами.

Ключевые преимущества

1. Эффективность — один тест вместо множества попарных сравнений
2. Снижение ошибки I рода — при множественных сравнениях
3. Выявление взаимодействий — в многофакторном ANOVA

Ограничения

1. Чувствительность к нарушениям предпосылок
2. Не показывает, какие именно группы различаются (требуются пост-хок тесты)
3. Требует планирования эксперимента

Дисперсионный анализ — мощный инструмент для сравнения средних в экспериментальных исследованиях, широко используемый в психологии, медицине, биологии и социальных науках.