회귀란?
주어진 입력값으로부터 연속적인 출력값을 예측하는 방법
머신러닝의 지도학습 중 하나
단순 선형 회귀
입력 변수가 하나일 때 직선 관계를 학습
장점: 해석이 쉽고 직관적
단점: 현실에서 모든 관계가 직선일 수 없음 → 한계가 많음
다중 선형 회귀
입력변수가 여러 개일 때 이들의 조합으로 출력값을 예측
장점: 여러 요인을 함께 고려 가능
단점: 변수들 간에 상관관계가 있으면 정확도가 떨어짐
다항 회귀
입력과 출력의 관계가 직선이 아니라 곡선일 때 사용
장점:비선형 관계 설명 가능
단점:차수가 높아지면 과적합 위험
릿지 회귀
선형 회귀에 규제를 추가한 방식
장점: 과적합 억제, 성능 안정적
단잠: 불필요한 변수를 남겨두는 경우가 있음
라쏘 회귀
릿지와 유사하지만 규제 방식이 다름
장점: 불필요한 변수 제거 → 해석력 높음
단점: 변수가 많고 서로 강하게 상관된 경우 불안정해질 수 있음
엘라스틱넷 회귀
릿지와 라쏘를 섞은 모델
장점: 두 방식의 장점 결합
단점: 하이퍼파라미터 튜닝이 복잡
로지스틱 회귀
이름은 회귀지만 사실은 분류 모델이다.
선형 방정식 결과를 0~1 사이 확률로 변환
장점: 계산이 빠르고 해석이 명확
단점: 복잡한 비선형 데이터는 잘 못 다룸
비선형 회귀
단순 직선이나 다항식으로 설명할 수 없는 복잡한 관계를 모델링
장점: 복잡한 관계까지 설명 가능
단점: 함수 형태를 미리 가정해야 하므로 잘못 고르면 성능 저하