회귀분석

회귀분석의 개념

 

회귀분석

-회귀 분석은 지도 학습의 하나로 학습 데이터에 부합되는 출력 값이 실수인 함수를 찾는 문제

ex>나이와 키의 상관 관계를 통해 임의의 나이를 입력했을 때의 키 값 구하기 

 

초기 가설

-회귀 분석은 학습 데이터에 따른 결과값이 주어지면 임의의 데이터를 입력했을 떄 실수인 결과값을 찾을 수 있는 함수를 구하는 문제

-회귀 분석의 가설은 학습 데이터를 이용한 학습 전 함수를 가정하는 것

-초기 가설 함수는 1차 함수로 선택

-주어진 학습 데이터를 통해 가장 쉽게 추정할 수 있는 방법

 

오차 함수

-가설로 설립한 함수와 최종 학습된 함수의 차이를 데이터를 학습하면서 줄이도록 하는 것이 학습 목표 

경사 하강법

-평균 제곱 오차 함수가 최소가 되는 위치를 근사화 하기 위한 학습 방법

 

서포트 백터  머신

-데이터 분포를 나누는 기준을 결정히는 지도 학습 모델 중 하나 

-회귀 분석의 관점 : 데이터에 맞춘 직선과 곡선의 특징을 분석

-SVM 의 관점 

> 어떤 패턴으로 데이터를 분류한 후 데이터 사ㅣ의 거리에 따라 어떤 카테고리에 속할 것인지 판단

>다층 퍼샙트론 같은 신경망을 이용한 데이터 류와 유사

-2개의클래스에 속한 데이터 사이의 거리를 최대화 하면서 가운데를 통과하는 식별 함수를 구함

-서포트 백터 : 마진 영역의 가장 자리에 해당하는 위치에 있는 데이터

-마진 영역 : 서브트 백터와 식별 함수 사이의 공격