Гауссова квадратура

Гауссова квадратура (Gaussian quadrature, квадратура Гаусса) — это метод численного интегрирования, при котором интеграл приближённо заменяется взвешенной суммой значений функции в специально выбранных точках (узлах). Узлы и веса выбираются так, чтобы приближение было оптимально точным для широкого класса функций.

1. Общая идея

Требуется вычислить интеграл вида

I = \int_{a}^{b} f (x) w (x) d x,

где $w (x)$ — весовая функция (например, $e^{- x^{2}}$ , $e^{- x}$ , $1$ ).

Гауссова квадратура приближает его суммой:

I \approx i = 1 \sum n w_{i} f (x_{i}),

где:

$x_{i}$ — узлы (точки, в которых вычисляется функция);
$w_{i}$ — веса;
$n$ — число узлов.

Узлы выбираются не равномерно, а как корни ортогональных многочленов, соответствующих весовой функции $w (x)$ . Благодаря этому квадратура точна для многочленов степени до $2 n - 1$ включительно. Это максимально возможный порядок точности для $n$ узлов.

2. Основные виды

В зависимости от весовой функции и области интегрирования различают:

Название	Вес $w (x)$	Область	Применение
Гаусса–Лежандра	$1$	$[- 1, 1]$	Общее интегрирование
Гаусса–Эрмита	$e^{- x^{2}}$	$(- \infty, \infty)$	Интегралы с нормальным распределением
Гаусса–Лагерра	$e^{- x}$	$[0, \infty)$	Экспоненциальные веса
Гаусса–Якоби	$(1 - x)^{α} (1 + x)^{β}$	$[- 1, 1]$	Обобщённые задачи
Гаусса–Чебышёва	$1/ 1 - x^{2}$	$[- 1, 1]$	Специальные веса

В статистике чаще всего используется Гаусс–Эрмит, потому что случайные эффекты в смешанных моделях предполагаются нормальными.

3. Гаусс–Эрмит

Для интеграла по стандартному нормальному распределению:

\int_{- \infty}^{\infty} f (z) \frac{1}{2 π} e^{- z^{2} /2} d z \approx i = 1 \sum n w_{i} f (x_{i}),

где $x_{i}$ и $w_{i}$ — специально подобранные узлы и веса (связанные с многочленами Эрмита). После замены $x = z / 2$ это сводится к классической форме с весом $e^{- x^{2}}$ .

4. Зачем это нужно в статистике

Гауссова квадратура применяется там, где нужно вычислить интеграл по случайным эффектам, который не берётся аналитически. Типичный пример — обобщённые линейные смешанные модели (GLMM) и нелинейные смешанные модели.

Функция правдоподобия для кластера $i$ :

L_{i} (θ) = \int j \prod p (y_{ij} ∣ b_{i}, θ) p (b_{i} ∣ θ) d b_{i} .

Здесь $b_{i}$ — случайные эффекты, обычно $b_{i} \sim N (0, D)$ . Интеграл многомерный и, как правило, не имеет замкнутой формы. Гауссова квадратура позволяет приблизить его суммой:

L_{i} (θ) \approx k = 1 \sum K w_{k} j \prod p (y_{ij} ∣ b_{i} = x_{k}, θ),

где $x_{k}$ — узлы, $w_{k}$ — веса.

5. Адаптивная гауссова квадратура

Обычная (стандартная) гауссова квадратура может работать плохо, если подынтегральная функция сильно сконцентрирована вдали от нуля или имеет острый пик. В таких случаях используют адаптивную гауссову квадратуру (adaptive Gauss–Hermite quadrature, AGQ):

узлы центрируются в точке моды подынтегральной функции;
масштаб подбирается по кривизне (гессиану) в этой моде;
затем применяется стандартная квадратура.

Это значительно повышает точность при небольшом числе узлов. Именно AGQ реализована в:

R: glmer(..., nAGQ = ...) из пакета lme4;
SAS: PROC NLMIXED;
Stata: gsem, meprobit и др.

6. Преимущества и недостатки

Преимущества:

Высокая точность для гладких функций.
Точность для полиномов до степени $2 n - 1$ .
Хорошо работает для одномерных и маломерных интегралов.
AGQ эффективна в смешанных моделях при небольшом числе случайных эффектов.

Недостатки:

При увеличении размерности число узлов растёт экспоненциально: $K^{d}$ , где $d$ — число случайных эффектов. Это «проклятие размерности».
Стандартная квадратура может быть неточной для острых или скошенных распределений.
Требует выбора числа узлов $n$ : больше узлов — точнее, но медленнее.
Для сложных моделей может быть вычислительно дорогой.

7. Альтернативы

Приближение Лапласа — более быстрая, но менее точная альтернатива; используется по умолчанию в lme4 для GLMM.
Метод Монте-Карло / MCMC — для многомерных интегралов.
Важный выбор (importance sampling).
Квадратуры разреженных сеток (sparse grids) — для умеренно большой размерности.

Кратко

Гауссова квадратура — это численный метод интегрирования, где интеграл заменяется взвешенной суммой значений функции в оптимально выбранных узлах. В статистике она чаще всего применяется для интегрирования по нормальным случайным эффектам в смешанных моделях (GLMM, NLMM, shared-parameter models). Разновидность Гаусса–Эрмита используется для нормальных распределений, а адаптивная версия повышает точность за счёт центрирования узлов в моде. Главный недостаток — экспоненциальный рост вычислений с ростом размерности случайных эффектов.

LDS