Модель смешанных эффектов (mixed effects model, также многоуровневая, иерархическая модель) — это статистическая модель, которая одновременно включает фиксированные и случайные эффекты. Она используется, когда данные имеют групповую (кластерную) структуру: например, повторные измерения у одного пациента, ученики внутри классов, пациенты внутри больниц.
Основная идея
- Фиксированные эффекты — общие для всей популяции. Они описывают средние закономерности (например, влияние лечения, возраста, пола). Оцениваются как обычные коэффициенты регрессии.
- Случайные эффекты — индивидуальные отклонения для каждой группы (кластера). Они предполагаются случайными величинами из некоторого распределения (обычно нормального) и позволяют учесть, что наблюдения внутри одной группы более похожи друг на друга, чем между группами.
Математическая запись
В общем виде:
- — вектор наблюдений;
- — матрица предикторов для фиксированных эффектов;
- — вектор фиксированных коэффициентов;
- — матрица предикторов для случайных эффектов;
- — вектор случайных эффектов (например, случайные сдвиги или наклоны для групп);
- — ошибки внутри групп.
Часто предполагают, что и независимы. Ковариационные матрицы и могут иметь специальную структуру (например, диагональную, блочную, AR(1) для временных рядов).
Зачем нужны
- Учёт корреляции внутри групп. Обычная линейная регрессия предполагает независимость наблюдений. Если данные кластеризованы, это предположение нарушается, и стандартные ошибки становятся неверными. Смешанная модель это исправляет.
- Гетерогенность между группами. Позволяет оценить не только средний эффект, но и вариацию эффектов по группам.
- Неполные данные. В продольных исследованиях смешанные модели корректно работают с пропусками (при условии MAR — missing at random).
- Экономия степеней свободы. Вместо отдельных коэффициентов для каждой группы вводятся случайные эффекты с общим распределением.
Пример
Исследуется влияние нового препарата на артериальное давление. Пациенты измеряются несколько раз.
- Фиксированные эффекты: среднее изменение АД под действием препарата, эффект времени, взаимодействие.
- Случайные эффекты: индивидуальные исходные уровни АД у каждого пациента (случайный перехват) и, возможно, индивидуальные реакции на время (случайный наклон).
Модель учитывает, что измерения одного пациента коррелированы.
Разновидности
- Линейные смешанные модели (LMM) — для непрерывного отклика.
- Обобщённые линейные смешанные модели (GLMM) — для бинарного, счётного и других распределений (логистическая, пуассоновская и т.д.).
- Нелинейные смешанные модели (NLMM) — для нелинейных зависимостей.
Программное обеспечение
- R:
lme4(lmer,glmer),nlme(lme),brms(байесовские). - Python:
statsmodels(MixedLM),PyMC. - Julia:
MixedModels.jl. - SAS:
PROC MIXED,PROC GLIMMIX. - SPSS:
MIXED,GENLINMIXED.
Кратко
Смешанная модель = фиксированные эффекты (популяционные) + случайные эффекты (групповые). Она позволяет анализировать иерархические данные, корректно оценивать неопределённость и делать выводы как на уровне популяции, так и на уровне групп.