민정♥성윤

퍼셉트론은(Perceptron)은 프랑크 로젠블라트(Frank Rosenblatt)가 1957년에 고안한 알고리즘이다.

이 알고리즘은 퍼셉트론이 신경망(딥러닝)의 기원이 되는 알고리즘이기 때문에 꼭 알아야 하는 개념이라고 생각한다.

1. 퍼셉트론이란?

퍼셉트론은 다수의 신호를 입력으로 받아 하나의 신호를 출력한다. 여기서 말하는 신호란 전류나 강물처럼 흐름이 있다는 것을 생각하면 된다. 전류가 전선을 타고 흐르는 전자를 내보낸듯, 퍼셉트론 신호도 흐름을 만들고 정보를 앞으로 전달한다. 다만, 실제 전류와 달리 퍼셉트론 신호는 '흐른다/안 흐른다(1 or 0)'의 두 가지 값을 가질 수 있다.

입력 신호가 뉴런에 보내질때는 각각 고유한 가중치가 곱해진다. 뉴런에서 보내온 신호의 총합이 임계치를 넘어설 때만 1을 출력한다.

이를 수식으로 나타내면 아래와 같다.

세타(θ)를 -b로 치환하면 아래와 같은 식이 된다.

※ b는 편향(bias)이라 하며, w1과w2는 가중치이다. 퍼셉트론은 입력신호에 가중치를 곱한 값과 편향을 더하여, 그 값이 0을 넘으면 1을 출력하고 그렇지 않으면 0을 출력한다. 가중치는 각 입력신호가 결과에 주는 영향력(중요도)을 조절하는 매개변수고, 편향은 뉴런이 얼마나 쉽게 활성화(결과로 1을 출력)하느냐를 조정하는 매개변수이다.

퍼셉트론은 복수의 입력 신호 각각에 고유한 가중치를 부여한다.  가중치는 각 신호가 결과에 주는 영향력을 조절하는 요소로 작용한다. 가중치가 클 수록 해당 신호가 그만큼 더 중요하다는것을 뜻한다.

1.1 AND 게이트

                                                         [AND 게이트 진리표]

AND 게이트를 퍼셉트론으로 표현하려면 어떻게 해야할까? W1, W2, θ 값을 정하여 조건을 충족하는 퍼셉트론을 만들어야 한다.

AND 게이트 조건을 만족하는 매개변수 조합은 무수히 많다.

and_gate.py

1.2 NAND 게이트

                                                         [NAND 게이트 진리표]

NAND게이트는 AND 게이트를 구현하는 매개변수의 부호를 반전

NAND 게이트 조건을 만족하는 매개변수 조합은 무수히 많다.

nand_gate.py

1.3 OR 게이트

                                                         [OR 게이트 진리표]

입력 신호 중 하나 이상이 1이면 출력이 1이 되는 논리 회로

OR게이트 조건을 만족하는 매개변수 조합은 무수히 많다.

or_gate.py

1.4 XOR 게이트

 OR게이트는 0을 원(○)으로 1을 삼각형(△)으로 나타낸 네 점을 직선으로 나누는데 문제가 없다. 하지만 XOR 게이트는 원과 삼각형을 직선으로 나누는 영역을 만드는것이 불가능하다.

1.5 선형과 비선형

직선하나로는 원과 삼각형을 나눌 수 없다. 하지만 '직선'이라는 제약을 없앤다면 가능하다. 퍼셉트론은 직선하나로 나눈 영역만 표시할 수 있다는 한계가 있다. 곡선을 표현 할 수 없다는 말이다. 곡선의 영역을 비선형 영역, 직선의 영역을 선형 영역이라고 한다.

2. 다층퍼셉트론

퍼셉트론으로는 XOR게이트를 표현할 수 없다. 퍼셉트론의 장점은 층을 쌓아 "다층 퍼셉트론(Multi-Layer Perceptron)"을 만들 수 있다.

2.1 기존 게이트 조합하기

XOR 게이트를 만드는 방법은 다양하며, 그중 AND, NAND, OR 게이트를 조합하는 방법이 있다.

AND, NAND, OR 게이트를 조합해 구현한 XOR 게이트