Калькулятор коэффициента корреляции Мэтьюза

Оцените бинарный классификатор по матрице ошибок: MCC, доля верных ответов, точность, полнота и специфичность.

Расчёт корреляции Мэтьюза
Введите четыре неотрицательных целых количества из бинарной матрицы ошибок.

О коэффициенте корреляции Мэтьюза

Коэффициент корреляции Мэтьюза, сокращённо MCC, сводит качество бинарной классификации к одной оценке. Он объединяет все ячейки матрицы ошибок: истинно положительные, истинно отрицательные, ложноположительные и ложноотрицательные случаи. В отличие от доли верных ответов, показатель остаётся информативным, когда один класс встречается намного чаще другого. Поэтому он полезен для выявления мошенничества, медицинского скрининга, обнаружения аномалий и других несбалансированных задач. MCC изменяется от минус единицы до плюс единицы. Плюс единица означает идеальную классификацию, ноль — отсутствие итоговой корреляции между прогнозами и результатами, минус единица — полное несоответствие с систематически обратными прогнозами. Промежуточные значения следует интерпретировать с учётом цены ошибок, баланса классов и рабочего порога, а не универсальной оценки качества. Числитель равен произведению истинно положительных и истинно отрицательных за вычетом произведения ложноположительных и ложноотрицательных. Знаменатель — квадратный корень из произведения четырёх маргинальных сумм: предсказанных положительных, фактических положительных, фактических отрицательных и предсказанных отрицательных. Такая структура делает MCC эквивалентом корреляции Пирсона между наблюдаемыми и предсказанными бинарными метками. Если нужная маргинальная сумма равна нулю, математический знаменатель равен нулю и коэффициент не определён. Калькулятор также показывает знакомые вспомогательные метрики. Доля верных ответов — доля всех правильно классифицированных случаев. Точность — доля истинно положительных среди положительных прогнозов. Полнота, также называемая чувствительностью, — доля обнаруженных фактических положительных. Специфичность — доля фактических отрицательных, правильно признанных отрицательными. Эти меры отвечают на разные вопросы, поэтому их совместный просмотр с MCC выявляет, не скрывает ли хорошее общее качество слабый результат отдельного класса. Всегда стройте матрицу ошибок с чётко заданным положительным классом и фиксированным порогом. Перестановка положительных и отрицательных меток меняет точность, полноту и специфичность, хотя MCC сохраняется при одновременном переименовании фактических и предсказанных меток. Количества должны поступать из данных, не использованных для обучения модели, предпочтительно из репрезентативной тестовой выборки или корректно полученных прогнозов перекрёстной проверки. MCC особенно полезен при сравнении классификаторов на одной оценочной выборке, но неопределённость остаётся важной. Маленькая тестовая выборка может давать нестабильный балл, а сдвиги распределения — обесценивать прошлые результаты. До выбора или внедрения модели используйте эту оценку вместе с доверительными интервалами, проверками подгрупп, анализом калибровки и реальными последствиями ложноположительных и ложноотрицательных решений.

Примеры MCC

Эти матрицы показывают идеальный, полезный и инвертированный классификаторы.

Матрица ошибокMCCИнтерпретация
TP 50, TN 50, FP 0, FN 01.000000Каждый случай классифицирован верно.
TP 90, TN 80, FP 10, FN 200.703526Оба класса распознаются хорошо, но есть пропуски положительных и ложные тревоги.
TP 0, TN 0, FP 50, FN 50-1.000000Каждый прогноз противоположен истинному классу.

Как рассчитать MCC

  1. Определите положительный класс и постройте матрицу ошибок по оценочным прогнозам.
  2. Введите количества истинно положительных, истинно отрицательных, ложноположительных и ложноотрицательных случаев.
  3. Нажмите «Рассчитать MCC», чтобы получить коэффициент и вспомогательные показатели в процентах.
  4. Сопоставьте MCC с точностью, полнотой, специфичностью, частотой классов и практической ценой каждой ошибки.

Вопросы о корреляции Мэтьюза

Зачем MCC вместо доли верных ответов?

Доля верных ответов может выглядеть высокой, если в выборке доминирует один класс. MCC учитывает все четыре ячейки матрицы и штрафует односторонние прогнозы.

Что означает отрицательный MCC?

Прогнозы обратно связаны с истинными метками. Сильно отрицательный классификатор может улучшиться при инверсии всех прогнозов, но сначала нужно исследовать его процесс обработки.

Может ли MCC быть неопределённым?

Да, знаменатель равен нулю, когда нужная маргинальная сумма прогнозов или результатов пуста. Калькулятор сообщает об этом, а не выдаёт вводящую в заблуждение оценку.

Подходит ли MCC для многоклассовых моделей?

Этот калькулятор использует стандартную бинарную формулу. Существуют обобщения MCC для нескольких классов, но им нужна полная многоклассовая матрица ошибок.

Выбирает ли MCC порог классификации?

Нет, он оценивает количества при выбранном вами пороге. Сравните результаты для подходящих порогов и выберите по валидационным данным и цене ошибок.