[딥러닝(Deep_Learning)] 퍼셉트론(Perceptron)

인공지능이란?

인공지능(AI, Artificial Intelligence)은 사람의 지능을 모방하여 사람이 하는 것과 같이 복잡한 일을 할 수 있는 기계를 만드는 것을 말합니다. 인공지능이 가장 넓은 개념이고, 인공지능을 구현하는 방법 중 중요한 방법이 기계학습 또는 머신러닝입니다. 딥러닝은 머신러닝의 여러 방법 중 중요한 방법론이며 인공신경망의 한 종류입니다.

즉, 인공지능 > 머신러닝 > 인공신경망 > 딥러닝 관계가 성립합니다.

 

2. 퍼셉트론

2.1 퍼셉트론(인공 뉴런) 이란?

신경망(딥러닝)의 기원이 되는 알고리즘, 다수의 신호를 입력받아 하나의 신호를 출력, 입력 신호가 뉴런에 보내질 때는 각각 고유한 가중치가 곱해진다. 뉴런에서 보내온 신호의 총합이 정해진 한계(임계값)를 넘어설 때만 1을 출력합니다.

이를 '뉴런이 활성화한다'라고 표현하기도 합니다.

입력(x)과 가중치(w)를 곱한 합이 임계값(세타)보다 클 경우에만 1을 출력합니다.

가중치가 클수록 해당 신호가 그만큼 더 중요합니다.

 

2.2 단순한 논리 회로

이를 통해 AND, NAND, OR 등 논리 연산을 할 수 있습니다.

각 연산에서 달라지는 것은 가중치, 임계값(가중치 매개변수)입니다.

즉, 똑같은 구조의 퍼셉트론이 매개 변수의 값만 적절히 조정하여 AND, NAND, OR 연산이 가능합니다.

이때 임계값은 –b(편향)으로 치환할 수 있고 이를 다시 나타내면 다음과 같습니다.

편향은 가중치 (w1, w2)와는 기능이 다릅니다.

기중치 (w1, w2)는 각 입력 신호가 결과에 주는 영향력(중요도)을 조절하는 매개변수이고, 편향은 뉴런이 얼마나 쉽게 활성화(결과로 1을 출력)하느냐를 조정하는 매개변수입니다.

 

2.3 퍼셉트론 구현하기

 

2.4 퍼셉트론의 한계

퍼셉트론은 직선 하나로 나눈 영역만 표현할 수 있다는 한계가 있습니다.

곡선 영역은 비선형 영역, 직선 영역을 선형 영역이라고 합니다.

지금까지와 같은 퍼셉트론으로는 XOR 연산을 수행할 수 없습니다. 즉, 단층 퍼셉트론으로는 비선형 영역을 분리할 수 없습니다.

 

2.5 다층 퍼셉트론이 출동한다면

지금까지와 같은 퍼셉트론을 “단층 퍼셉트론”이라 하며 XOR을 수행하기 위해선 “다층 퍼셉트론”이 필요합니다.

입력 x1, x2를 XOR연산하는데 이를 AND, NAND, OR 연산만으로 표현한다면 다음과 같습니다.

(x1 NAND x2) AND (x1 OR x2)

 

앞선 단층 퍼셉트론으로는 표현하지 못한 것을 층을 늘려 다층 퍼셉트론으로 표현한 것입니다.

 

2.6 NAND에서 컴퓨터까지

비선형인 시그모이드 함수를 활성화 함수로 이용하면 임의의 함수를 표현할 수 있습니다.

NAND 등의 저수준 소자에서 시작하여 컴퓨터를 만드는데 필요한 부품(모듈)을 단계적으로 만들어가는 것입니다.

처음에는 AND와 OR 게이트, 그 다음에는 반가산기와 전가산기, 그 다음에는 산술 논리 연산 장치(ALU), 그 다음에는 CPU 라는 식입니다.

 

2.7 정리

1. 퍼셉트론은 입출력을 갖춘 알고리즘이다. 입력을 주면 정해진 규칙에 따른 값을 출력한다.

2. 퍼셉트론에서는 ‘가중치’와 ‘편향’을 매개변수로 설정한다.

3. 퍼셉트론으로 AND, OR 게이트 등의 논리 회로를 표현할 수 있다.

4. XOR 게이트는 단층 퍼셉트론으로는 표현할 수 없다.

5. 2층 퍼셉트론을 이용하면 XOR 게이트를 표현할 수 있다.

6. 단층 퍼셉트론은 직선형 영역만 표현할 수 있고, 다층 퍼셉트론은 비선형 영역도 표현할 수 있다.

7. 다층 퍼셉트론은 (이론상) 컴퓨터를 표현할 수 있다.