Методы предсказания множественный регрессионный и дискриминантный анализ

Дата актуализации: 29 апреля 2026 г.

Оглавление

1. Множественный регрессионный анализ: ключевые принципы
2. Дискриминантный анализ: понятие и назначение
3. Сравнение методов
4. Пошаговый алгоритм проведения исследования
5. Практический пример: дискриминантный анализ в SPSS
6. Рекомендации по интерпретации и валидации результатов

Множественный регрессионный анализ и дискриминантный анализ — два мощных статистических инструмента предиктивной аналитики.
Первый применяется, когда зависимая переменная количественная, второй — когда она категориальная.
Оба метода позволяют оценить вклад независимых переменных, построить уравнение «объясняющее» поведение исследуемого явления и делать прогнозы для новых наблюдений.

Множественный регрессионный анализ: ключевые принципы

Цели и задачи

• Предсказать значение количественной зависимой переменной Y на основе набора независимых X₁…X_n.
• Определить степень влияния каждой независимой переменной на Y.
• Оценить качество модели и её прогностическую способность.

Базовое уравнение

Y = β₀ + β₁X₁ + β₂X₂ + … + β_nX_n + ε

Предпосылки и диагностика

• Линейность связи между предикторами и зависимой переменной.
• Нормальность остатков (ε).
• Гомоскедастичность (одинаковая дисперсия остатков).
• Отсутствие мультиколлинеарности (VIF < 5).

Дискриминантный анализ: понятие и назначение

Что такое дискриминантный анализ?

Дискриминантный анализ (ДА), это метод классификации, который позволяет по значениям количественных предикторов предсказать принадлежность объекта к заранее известным группам.
Цель ДА — построить дискриминантную функцию, максимально разделяющую группы.

Виды дискриминантного анализа

• Двухгрупповой (two-group): зависимая переменная имеет 2 категории.
• Многогрупповой (multiple discriminant): 3 и более категорий.

Исторические примеры из [1]

• Подходит ли соискатель на вакансию?
• Какие покупатели чаще выбирают замороженные продукты?
• Какие факторы повышают риск сердечного приступа?
• Какие психографические характеристики отличают ценовых сенситивных и нечувствительных покупателей ПК?

Форма дискриминантной функции

D = b₁x₁ + b₂x₂ + … + b_nx_n + a, где

• D — итоговый дискриминантный счёт (score);
• x_i — значения предикторов;
• b_i — весовые коэффициенты;
• a — константа.

Сравнение методов

Пошаговый алгоритм проведения исследования

Подготовка данных

1. Разделение выборки: анализируемая (analysis sample) и проверочная (validation sample).
2. Проверка предпосылок:
   • нормальность;
   • линейность;
   • гомогенность ковариационных матриц (Box’s M-тест).

Выбор предикторов

• Корреляционная/ковариационная матрица.
• t-тесты или однофакторный ANOVA для отбора значимых переменных.

Построение модели

• Метод принудительного включения (direct method), все предикторы сразу.
• Пошаговый анализ (stepwise) — добавление/удаление переменных по критерию F (включать при F > 3,84; исключать при F < 2,71).

Оценка качества

• Лямбда Уилкса (λ) — чем меньше, тем лучше разделение групп (p < 0,05).
• Каноническая корреляция — сила связи между функцией и группами.
• Таблица классификации — точность прогноза.

Практический пример: дискриминантный анализ в SPSS

Постановка задачи

Определить, какие социально-демографические характеристики влияют на то, считает ли человек свой голос важным при выборах (переменная q12, 2 группы).

Переменные

• Зависимая: q12 (1 = «важен», 2 = «не важен»).
• Предикторы:
  1. s1 — возраст;
  2. s2 — уровень образования;
  3. q6_1 — изменение жизни за последний год;
  4. q8_1 — оценка работы президента.

Пошаговые действия в SPSS

1. Анализ → Классификация → Дискриминантный анализ.
2. Перетащить q12 в «Группировать по», диапазон 1–2.
3. В «Независимые» добавить s1, s2, q6_1, q8_1.
4. Выбрать метод «Принудительное включение».
5. Во вкладке «Статистики» отметить:
   • «Средние», «Однофакторный дисперсионный»;
   • «Нестандартизированные» коэффициенты;
   • «Внутригрупповая корреляция».
6. В «Классифицировать»:
   • «Все группы равны»;
   • «Внутригрупповая» ковариационная матрица;
7. В «Сохранить»:
   • «Предсказанная принадлежность к группе»;
   • «Дискриминантные оценки»;
   • «Вероятности принадлежности к группе».

Результаты и интерпретация

• Лямбда Уилкса = 0,78, p = 0,002 → различия между группами значимы.
• Каноническая корреляция = 0,52 → умеренная связь.
• Классификационная таблица: точность 74 % → модель приемлема.
• Дискриминантная функция:
  
  D = –3,469 + 0,046·возраст + 0,478·образование + 0,022·изменение_жизни – 0,013·оценка_президента
• Наибольший вклад в разделение групп вносит образование (0,478).

Рекомендации по интерпретации и валидации результатов

Как читать выводы

• Стандартизованные коэффициенты показывают относительный вклад переменных.
• Центроиды групп — средние значения D в каждой группе; чем больше расстояние между ними, тем лучше разделение.
• Структурные корреляции — помогают понять, какие предикторы «сами по себе» наиболее сильно связаны с латентной дискриминантной осью.

Кросс-валидация

• Hold-out: использовать 70 % выборки для обучения и 30 % для тестирования.
• Leave-One-Out: итеративно исключать по одному наблюдению и прогнозировать его класс.
• Bootstrap: многократное субсэмплирование для оценки устойчивости коэффициентов.

Частые ошибки

1. Игнорирование проверки гомогенности ковариационных матриц.
2. Использование чрезмерного числа предикторов (overfitting).
3. Недооценка коллинеарности между переменными (r > 0,7).

Множественная регрессия и дискриминантный анализ — комплементарные методы: один справляется с количественными исходами, другой, с категориальными.
Тщательное планирование, проверка предпосылок и кросс-валидация гарантируют надёжность прогнозов и практическую ценность модели.