[데이터분석] Machine Learning(머신러닝) 5

파라미터 VS 하이퍼 파라미터

파라미터 - 모델의 구성요소이자 데이터로부터 학습되는 것

하이퍼 파라미터 - 모델 학습과정에 반영되며, 학습을 시작하기 전에 미리 값을 결정하는 것

 

파라미터

선형 회귀 모델 ( Linear Regression)

직선의 방정식

y=ax + b     파라미터 : a.b

학습을 통해서

y=-x + 10  학습을 통해 

               파라미터 a는 -1,

               파라미터 b는 10으로 결정

 

 

 

하이퍼 파라미터

 

학습하기 전에 미리 값을 설정하는 하는 모델을 말한다.

빵을 굽는다면

오븐에서 오븐 160도 20분  => 안됨

오븐에서 오븐 180도 18분  => 성공

오븐에서 오븐 200도 16분  => 안됨

이런식으로 미리 값을 설정하고 모델을 학습시키는 것이다.

 

신경망 Feed-Forward Network

 

숨은 레이어를 증가 하거나 층을 늘리거나 하여 다양한 모델을 학습시킨다.

 

손실 함수 (Loss function)

학습 알고리즘이 작동하게 끔 만드는 원동력

손실 함수의 값을 줄여가는 과정이 곧 모델을 학습하는 과정이다.

실제 데이터에서 관측된 결과와 모델에 의해 생성된 결과가 둘의 차이에서 손실이 발생하고 작은 손실이 발생하면 모델 성능이 좋다고 볼 수 있다.

 

손실 함수의 종류

• 교체 엔트로피(Cross-entropy)
• 평균 제곱 오차(Mean Squared Error)