Калькулятор ковариации

cov = Σ(xᵢ − x̄)(yᵢ − ȳ) ÷ делитель, где n − 1 для выборки и n для генеральной совокупности; r = cov ÷ (sₓ × s_y)

xᵢ, yᵢ

Парные значения: i-е число первого списка идёт вместе с i-м числом второго. Оба списка должны быть одной длины, и ни один не сортируется — пары составляются по позиции, поэтому перестановка в одном списке меняет ответ

x̄, ȳ

Среднее каждого списка, оба напечатаны в результате. Каждое значение входит в расчёт как отклонение от среднего своего списка, и поэтому вычитание одной и той же постоянной из всех значений списка оставляет ковариацию неизменной

n

Сколько всего пар — длина любого из списков, здесь не больше двухсот. Это делитель для ковариации по генеральной совокупности и на единицу меньше делителя для выборочной

sₓ, s_y

Стандартное отклонение каждого списка при том же выборе выборки или генеральной совокупности. Именно они превращают ковариацию в коэффициент корреляции, и они напечатаны, чтобы r можно было пересчитать по одной панели

cov

Сама ковариация: положительна, когда два списка склонны расти и падать вместе, отрицательна, когда один растёт, а другой падает, и близка к нулю, когда линейная связь слаба. Её единицы — это единицы x, умноженные на единицы y

r

Коэффициент корреляции Пирсона, cov ÷ (sₓ × s_y), в котором эти единицы сокращаются, а результат лежит между −1 и 1. В отличие от ковариации он не меняется при пересчёте списка в других единицах и выходит одинаковым при выборе выборки и при выборе генеральной совокупности

Ковариация — естественная сводка, когда на одних и тех же объектах измеряют две величины и вопрос в том, движутся ли они в ногу: рост и вес, часы занятий и оценки, температура и расход электричества, один и тот же датчик в два момента. Это та величина, которую стандартное отклонение обобщает на две переменные, и тот материал, из которого построены любая корреляция, наклон регрессии и формула дисперсии портфеля, — поэтому её стоит один раз посчитать руками, чтобы увидеть, откуда всё это берётся. Что здесь выборка, а что генеральная совокупность, задаёт делитель — n − 1 или n, — и на коэффициент корреляции этот выбор не влияет. Читайте знак, а не величину: ковариации 1,5 и 150 могут описывать одну и ту же связь, если один список измеряли в метрах, а другой в сантиметрах. Напечатанный ниже коэффициент корреляции — это та же величина без единиц, и именно его называют, когда важна сила связи. Ковариация к тому же ничего не говорит о причинности и видит только прямые: два списка с идеальной криволинейной связью могут иметь ковариацию, равную нулю.

1. Пять пар, растущих вместе: ковариация 1,5, r = 0,7746

   1. Средние: x̄ = (1+2+3+4+5) ÷ 5 = 3 и ȳ = (2+4+5+4+5) ÷ 5 = 4
   2. Отклонения от среднего, x: −2, −1, 0, 1, 2; y: −2, 0, 1, 0, 1
   3. Произведения отклонений: (−2)(−2) + (−1)(0) + (0)(1) + (1)(0) + (2)(1) = 4 + 0 + 0 + 0 + 2 = 6
   4. Делитель для выборки n − 1 = 4: ковариация = 6 ÷ 4 = 1,5
   5. Стандартные отклонения: 1,5811 и 1,2247, поэтому r = 1,5 ÷ (1,5811 × 1,2247) = 0,7746

   Знак положителен, и ради именно этого ковариацию и читают: значения x выше среднего идут в паре со значениями y выше среднего. Величина — 1,5 — выражается в единицах x, умноженных на единицы y, и изменилась бы при пересчёте любого из списков, поэтому рядом и напечатан коэффициент корреляции. r получается 0,7746: связь явно возрастающая, но до прямой далеко, потому что пара (4, 4) выбивается из общего рисунка.

2. Те же пары как генеральная совокупность: ковариация 1,2, r не меняется

   1. Суммы те же: произведения отклонений по-прежнему дают 6, а средние по-прежнему 3 и 4
   2. Делитель для генеральной совокупности n = 5: ковариация = 6 ÷ 5 = 1,2 — меньше выборочной, потому что делитель больше
   3. Оба стандартных отклонения уменьшаются по той же причине: 1,4142 и 1,0954
   4. r = 1,2 ÷ (1,4142 × 1,0954) = 0,7746 — то же самое, что и раньше

   Смена делителя сдвигает ковариацию и оба стандартных отклонения, но не корреляцию: n − 1 сокращается с n в этом отношении. Поэтому выбор между выборкой и генеральной совокупностью важен для ковариации и совершенно не важен для r, и это стоит знать, прежде чем сравнивать ковариацию, посчитанную здесь, с той, что приведена в другом месте: две работы могут расходиться в том, 1,5 или 1,2, и полностью совпадать насчёт самой связи.

3. Идеальная кривая с нулевой ковариацией

   1. Средние: оба списка дают в среднем 3
   2. Отклонения, x: −2, −1, 0, 1, 2; y: −2, 1, 2, 1, −2
   3. Произведения отклонений: 4 − 1 + 0 + 1 − 4 = 0
   4. Ковариация: 0 ÷ 4 = 0, и r = 0 ÷ (1,5811 × 1,8708) = 0 тоже

   Второй список — перевёрнутая буква U: 1, 4, 5, 4, 1 — это вполне правильный рисунок, и его ковариация с 1, 2, 3, 4, 5 равна ровно нулю. Ковариация обнаруживает только прямолинейные связи: здесь второй список сначала растёт, а потом падает, и положительные и отрицательные вклады точно гасят друг друга. Поэтому ковариация около нуля означает «нет линейной связи», но никогда — «нет связи вообще», и именно из-за этого диаграмму рассеяния не заменило одно-единственное число.

Ковариация — не корреляция, и читать её как корреляцию нельзя. Её величина зависит от единиц обоих списков, поэтому её нельзя сравнивать между парами переменных, измеренных в разных шкалах, и у неё нет верхней границы, с которой можно было бы соотнести ответ, — непосредственно истолковать можно только знак. Она и измеряет лишь линейную связь, так что сильная криволинейная зависимость может дать ковариацию около нуля. Поскольку она считается по парам значений, два списка должны совпадать построчно: длины обязаны быть равны, и каждое значение соединяется со значением на той же позиции, поэтому пропущенная или лишняя запись в одном списке сдвигает всё, что идёт после неё. Если хотя бы в одном списке нет никакой изменчивости — все значения одинаковы, — коэффициент корреляции не определён, и страница отказывается отвечать, а не печатает деление на ноль. Списки ограничены двумястами парами, а запись вида 1,500 отклоняется, а не угадывается: запятая между цифрами в одних странах десятичная, в других разделяет разряды. И ничто здесь не устанавливает причинность: два списка, движущихся вместе, могут откликаться на третью переменную, которой нет ни в одном из них.

Как посчитать ковариацию?

Составьте пары по позициям, вычтите из значений каждого списка среднее этого же списка, перемножьте два отклонения для каждой пары, сложите эти произведения и разделите на n − 1 для выборки или на n для генеральной совокупности. Для x = 1, 2, 3, 4, 5 и y = 2, 4, 5, 4, 5 произведения отклонений дают в сумме 6, поэтому выборочная ковариация равна 6 ÷ 4 = 1,5. Оба средних, оба стандартных отклонения и результат напечатаны выше, так что за каждым шагом можно проследить.

Должны ли два списка быть одной длины?

Да, и они должны идти в правильном порядке: первое значение одного списка соединяется с первым значением другого, и ничего не сортируется. Поэтому страница отказывается считать несовпадающую пару списков, а не дополняет короткий: если в одном списке 3 значения, а в другом 2, узнать, какая запись пропала, невозможно, а молчаливое соединение первых двух дало бы неверный ответ, который выглядит совершенно правдоподобно. Перед вставкой проверьте, что оба списка взяты из одних и тех же строк и относятся к одним и тем же объектам.

Что означает знак ковариации?

Положительная ковариация означает, что когда значение стоит выше среднего своего списка, парное ему значение тоже склонно быть выше среднего другого списка: они растут и падают вместе. Отрицательная означает обратное — значение выше среднего идёт в паре со значением ниже среднего. Значение около нуля означает, что прямолинейного рисунка нет, и это не то же самое, что отсутствие связи вообще: список 1, 4, 5, 4, 1 имеет вполне правильную форму перевёрнутой буквы U и ковариацию ровно ноль со списком 1, 2, 3, 4, 5.

Зачем рядом печатается ещё и коэффициент корреляции?

Потому что ковариацию нельзя читать в одиночку. Её единицы — это единицы первого списка, умноженные на единицы второго, поэтому измерение одного списка в сантиметрах вместо метров умножает её на 100, ничего не меняя в самой связи. Деление на оба стандартных отклонения сокращает эти единицы и запирает ответ между −1 и 1, что делает его сравнимым между разными переменными. Ковариация — та величина, из которой построена алгебра; r — та, которую называют, когда спрашивают, насколько связь сильна.

Почему страница отказалась отвечать, когда один из списков постоянен?

Потому что коэффициент корреляции пришлось бы делить на ноль: если все значения в списке одинаковы, стандартное отклонение этого списка равно нулю, и сила связи оказывается неопределённой. Сама ковариация при этом вполне определена — она равна нулю, — но страница печатает оба числа вместе, а половина ответа подтолкнула бы читателя принять бессмысленное r за настоящее. Такой же выбор сделан и в другом месте сайта: страница коэффициента вариации отказывается считать, когда среднее не положительно, вместо того чтобы напечатать неопределённое отношение.

Брать делитель для выборки или для генеральной совокупности?

Берите выборочный, n − 1, когда ваши списки — это выборка из чего-то большего и вы хотите описать более широкую группу; это обычный случай. Берите делитель генеральной совокупности, n, когда списки и есть вся интересующая вас группа. Выбор меняет ковариацию и оба стандартных отклонения, но никогда не меняет коэффициент корреляции, поскольку n − 1 сокращается с n в этом отношении. Для пяти пар выше ковариация равна 1,5 как выборочная и 1,2 как ковариация генеральной совокупности, а r в обоих случаях равен 0,7746.

• Correlation, Variance and Covariance (Matrices) — R stats package reference (cov and cor; documents the n − 1 denominator used for the covariance and treats the correlation as the covariance scaled by the two standard deviations) — The R Project for Statistical Computing
• scipy.stats.pearsonr — SciPy reference (the Pearson coefficient's range and its interpretation as a measure of linear association) — SciPy
• The Regression Equation — Introductory Statistics 2e, section 12.3 (defines the correlation coefficient r, after Karl Pearson, as a numerical measure of the strength and direction of the linear association between two variables) — OpenStax, Rice University