공부 시간과 시험 점수, 키와 몸무게, 광고비와 매출 — 이런 두 변수의 관계를 산점도(점 그래프)로 그려보면 점들이 어떤 패턴을 이루는 걸 볼 수 있어요. 점들이 오른쪽 위로 갈수록 촘촘한 직선에 가까우면 "강한 양의 상관관계", 완전히 흩어져 있으면 "상관관계 없음"이라고 해요. 이 흩어진(또는 모인) 정도를 −1부터 1 사이의 숫자 하나로 나타낸 게 상관계수 r이에요.
r이 1에 가까울수록 점들이 오른쪽 위로 향하는 직선에 딱 붙어 있고, −1에 가까울수록 오른쪽 아래로 향하는 직선에 붙어 있어요. r이 0에 가까우면 두 변수 사이에 뚜렷한 직선 관계가 없다는 뜻이에요. 중요한 건, r은 "직선 관계"의 강도만 재기 때문에 점들이 곡선을 그리며 완벽한 규칙을 이뤄도 r이 낮게 나올 수 있다는 점이에요.
상관관계가 있다는 걸 확인했다면, 다음 질문은 "그 관계를 대표하는 직선 하나를 어떻게 그릴까"예요. 점 하나하나를 다 지나는 직선은 있을 수 없으니, 가장 잘 맞는 직선을 정해야 해요. 그 기준으로 가장 널리 쓰이는 게 최소제곱법이에요 — 각 점에서 직선까지의 세로 거리(잔차)를 제곱해서 모두 더한 값(SSE)이 가장 작아지는 직선을 찾는 방법이에요. 제곱을 하는 이유는 표준편차를 구할 때와 같아요. 양수·음수 잔차가 상쇄되지 않게 하려는 거예요. 이렇게 찾은 직선을 회귀직선이라고 불러요.
여기서 꼭 기억해야 할 게 있어요. 상관관계가 있다고 해서 원인과 결과 관계(인과관계)가 있는 건 아니라는 점이에요. 유명한 예로 "아이스크림 판매량"과 "물놀이 사고 건수"는 상관계수가 꽤 높게 나와요. 그렇다고 아이스크림이 사고를 일으키는 걸까요? 아니에요 — 진짜 원인은 둘 다 "더운 날씨"예요. 더운 날엔 아이스크림도 많이 팔리고 물놀이도 늘어나서 사고도 늘어나는 것뿐, 두 변수가 서로 직접적인 원인은 아니에요. 이런 걸 "숨은 제3의 변수"라고 하는데, 상관관계를 볼 때마다 "혹시 다른 원인이 숨어있지 않을까?"를 의심하는 습관이 중요해요.
저희 체험 페이지에서는 슬라이더로 점들의 흩어진 정도를 바꿔가며 실제로 계산된 상관계수가 어떻게 변하는지 확인하고, 공부 시간과 시험 점수 데이터에 직접 직선을 맞춰보며 최소제곱법이 찾아내는 "정답 직선"에 얼마나 가까워지는지 SSE 값으로 확인할 수 있어요.