Page 20 - 006964

단층 퍼셉트론의 학습 알고리즘은 훈련 데이터로 주어진 입력에서 출력을 최대한 맞출 수 있는 가

중치 w와 바이어스 b를 찾습니다. 그리고 학습한 매개변수가 올바른지 확인하기 위해 오차 함수
E를 정의합니다. 학습 알고리즘은 가중치 w와 바이어스 b를 조금씩 바꾸며 오차 함수 E의 결과
값을 확인합니다. 그리고 이 결과 값이 최소(또는 최대)라고 판단되는 가중치 w와 바이어스 b를
최종 매개변수 값으로 결정하고 학습을 끝냅니다.

그림 5‑2 단층 퍼셉트론의 학습
5

가중치 w 딥러닝
바이어스 b

매개변수와 오차 함수가
서로 값을 갱신

오차 함수 E

학습 알고리즘은 오차 함수 E의 편미분을 사용해 가중치 w의 변화량을 결정합니다. 편미분을 사
용하면 오차 함수 E의 최적 값에 조금씩 가까워질 수 있습니다. 이러한 최적화 알고리즘을 경사
하강법이라고 합니다. 단층 퍼셉트론에서는 다음 공식을 사용합니다. 공식에서 t는 입력 x에 대한
정답 값입니다.

5.1.2 로지스틱 회귀

다음으로 로지스틱 회귀(logistic regression)를 알아봅시다. 로지스틱 회귀는 단층 퍼셉트론과 매우
비슷합니다. 단, 단층 퍼셉트론은 결과 값을 이진수로 출력하지만, 로지스틱 회귀는 확률 값을 출

력하는 머신 러닝 알고리즘입니다.

201

MACHINE_05.indd 201 2018-10-25 오전 10:31:56