퍼셉트론(Perceptron)이란

인공 신경망

 

신경망

인간의 뇌는 뉴런과 뉴런 사이에 시냅스라는 연결 부위가 있는데, 신경 말단에서 자극을 받으면 시냅스에서 화학 물질이 나와 전위 변화를 일으킵니다.

여기서 전위가 임계 값을 넘으면 다음 뉴런으로 신호를 전달하고, 임계 값에 미치지 못하면 아무것도 하지 않습니다. 이것은 로지스틱 회귀와 비슷합니다.

• 로지스틱 회귀 : 활성화 함수를 통해 일정한 수준을 넘으면 참, 그렇지 않으면 거짓을 내보내는 간단한 회로

퍼셉트론(perceptron)

여기서 인간의 뇌와 마찬가지로 상상속으로 뇌처럼 만든 것이 **인공 신경망(Artifical Neural Network)**연구인데, 여기서 뉴런과 뉴런 사이에 연결을 만들기도 하고 필요에 따라 위치를 바꾸는 것처럼, 여러 층의 퍼셉트론을 서로 연결시키고 복잡하게 조합하여 주어진 입력 값에 대한 판단을 하게 하는것을 신경망의 기본 구조라고 합니다.

이런식으로 퍼셉트론이 구조되어 있는데. 이것은 신경망을 이루는 가장 기본적인 단위입니다.

다시 말하자면 입력 값과 활성화 함수를 활용해 출력 값을 다음으로 넘기는 가장 작은 신경망 단위입니다.

 

가중치, 가중합, 바이어스, 활성화 함수

선형회귀 모델은 다음과 표현할 수 있습니다.

y = wx + b (w는 가중치, b는 바이어스)

여기서 바이어스란 해석 그대로 편향, 선입견 이라는 뜻을 가지고 있습니다. 이제 여기서 입력값(x)를 가중치(w)만큼 곱한다음 바이어스를 더한값을 활성화 함수를 통해 참과 거짓을 출력합니다. 여기서 활성화 함수의 대표적인 예로는 시그모이드 함수가 있습니다

 

퍼셉트론의 한계

XOR 문제

퍼셉트론의 한계를 설명할 때 등장하는 XOR(exclusive OR)문제입니다. 여기서 왜 문제가 있는지 진리표와 좌표 평면을 통해 확인하겠습니다.

AND 진리표

OR 진리표

XOR 진리표

 

좌표 평면

이미지 출처 : 모두의 딥러닝(https://thebook.io/080228/part03/ch06/03-01/)

모두의 딥러닝 개정2판: 3 XOR 문제 - 1

이것을 보면 간단한 XOR을 해결할 수 없다는 것을 확인했는데 이것 때문에 인공지능 연구가 한동안 침체기를 겪게 되었습니다. 하지만 10년 후 이러한 문제를 해결했는데 이것을 해결하기 위해 도움을 준 개념이 바로 다층 퍼셉트론입니다.

 

참고서적

www.yes24.com/Product/Goods/86611190

모두의 딥러닝