Классификация — это задача машинного обучения с учителем, в которой модель относит объект к одной из заранее известных категорий (классов). Целевая переменная при этом дискретная, то есть принимает ограниченный набор значений, а не произвольное число.
Простыми словами
Есть объекты, описанные признаками, и есть метка класса. Модель учится на примерах «признаки → класс», а потом для нового объекта предсказывает, к какому классу он принадлежит.
Примеры
- Медицина: болен / здоров.
- Почта: спам / не спам.
- Изображения: кошка / собака / птица.
- Кредит: вернёт долг / не вернёт.
- Распознавание цифр: 0, 1, 2, …, 9.
Виды классификации
- Бинарная — два класса (да/нет, 0/1).
- Многоклассовая — больше двух классов, и объект принадлежит ровно одному из них.
- Многометочная (multilabel) — объект может одновременно принадлежать нескольким классам (например, статья может быть про спорт и про политику).
Как это работает
- Есть обучающая выборка: признаки и правильные ответы .
- Алгоритм находит закономерности, разделяющие классы.
- Для нового объекта модель выдаёт:
- предсказанный класс, или
- вероятности принадлежности к каждому классу (потом выбирается класс с наибольшей вероятностью).
Основные алгоритмы
- Логистическая регрессия
- KNN (k ближайших соседей)
- SVM (метод опорных векторов)
- Деревья решений
- Случайный лес
- Градиентный бустинг
- Наивный Байес
- Нейронные сети
Метрики качества
- Accuracy — доля правильных ответов.
- Precision — точность: сколько из предсказанных «положительных» действительно положительные.
- Recall — полнота: сколько реальных «положительных» нашла модель.
- F1-мера (F1-score) — баланс precision и recall.
- ROC-AUC — качество ранжирования вероятностей.
- Матрица ошибок — наглядное распределение правильных и неправильных ответов.
При сильном дисбалансе классов accuracy может обманывать, поэтому смотрят precision, recall, F1 и AUC.
Отличие от регрессии
- Классификация предсказывает категорию: спам/не спам, кошка/собака.
- Регрессия предсказывает число: цену, температуру, возраст.