뉴런에서 신경망까지: 퍼셉트론과 역전파

사람 뇌에는 뉴런이 약 1,000억 개 있어요. 뉴런 하나하나는 단순하지만, 서로 엄청나게 많이 연결되어 있어서 복잡한 생각을 할 수 있어요.

뉴런은 네 부분으로 나눠요. 신호를 받는 가지돌기(덴드라이트), 받은 신호를 모으는 세포체(소마), 신호를 멀리 보내는 긴 줄 축삭(액손), 그리고 다음 뉴런과 만나는 축삭 말단이에요.

뉴런은 신호를 조용히 흘려보내지 않아요. 세포 안팎의 전압이 갑자기 튀는 스파이크(활동 전위)를 만들어요. 한 번씩 튀기도 하고(spiking), 여러 번 몰아서 튀기도 하고(bursting), 빠르게 떨듯이 튀기도 해요(chattering). 그래서 "스파이킹 뉴런"이라고 불러요.

축삭 끝과 다음 뉴런의 가지돌기는 딱 붙어 있지 않고 아주 좁은 틈을 두고 만나요. 이 만나는 곳이 시냅스예요. 축삭 끝에서 신경전달물질이라는 작은 분자가 나와 틈을 건너가면서 신호가 전달돼요.

시냅스는 고정되어 있지 않아요. 어떤 연결은 강하고, 어떤 연결은 약하거나 거의 쓰이지 않아요. 자주 쓰면 강해지고, 안 쓰면 약해져요. 이 "연결의 세기"가 인공 신경망의 가중치(weight)에 해당해요.

"지능은 연결에서 나온다"는 생각을 연결주의(connectionism)라고 해요. 1873년 알렉산더 베인(Alexander Bain)이 책 『마음과 몸(Mind and Body)』에서 기억은 세포 이음매가 자라나며 생긴다고 설명했어요. 신경망 아이디어가 100년도 더 된 이야기인 거예요. 오늘날 LLM의 "파라미터 수"도 결국 연결의 수예요.

교수님 자료는 뉴런이 하는 계산을 세 가지로 정리해요. 더하기(Addition): 여러 뉴런에서 온 신호를 더하거나 빼요. 곱하기(Multiplication): 다른 뉴런의 신호를 키우거나 줄여요. 연결이 강하면 크게 키워요. 변형(Modification): 뉴런마다 반응하는 성질이 달라서, 모인 신호를 그대로 내보내지 않고 바꿔서 내보내요.

세 번째가 특히 중요해요. 뉴런의 반응은 비선형이에요. "비선형"은 들어온 만큼 똑같은 비율로 나가지 않는다는 뜻이에요. 조금 들어오면 거의 반응이 없다가, 어느 정도를 넘으면 확 반응해요.

이 세 가지 계산은 인공 신경망에서 그대로 쓰여요. 곱하기는 가중치, 더하기는 합, 변형은 활성화 함수가 돼요. 이 단순한 계산만으로 컴퓨터 프로그램처럼 복잡한 일을 할 수 있어요.

인공 신경망은 동그라미(노드, 인공 뉴런)들이 층으로 줄지어 있고, 앞 층과 뒤 층이 선(연결)으로 이어진 구조예요. 왼쪽 입력층에 데이터를 넣으면, 가운데 은닉층을 거쳐 오른쪽 출력층에서 답이 나와요.

"은닉"은 숨어 있다는 뜻이에요. 입력과 출력만 보는 사람에게는 가운데 층이 무엇을 하는지 보이지 않아요. 하지만 실제 계산은 대부분 여기서 일어나요. 은닉층이 여러 겹으로 깊으면 깊은 신경망이라고 하고, 그것을 학습시키는 게 딥러닝이에요.

인공 신경망은 입력이 아주 많은 다변수 함수예요. 예를 들어 주가는 나라 경제, 기업 실적, 금리 등 수많은 요인이 함께 영향을 줘요. 신경망은 이런 많은 입력을 한꺼번에 받아 답을 내요. 층 구조라서 수학 도구로 계산하기도 비교적 쉬워요. 그리고 대부분 정답이 붙은 예시로 배우는 지도 학습으로 훈련해요.

1949년 심리학자 도널드 헵(Donald Hebb)이 책 『행동의 조직(The Organization of Behavior)』에서 제안했어요. 유명한 한 줄 요약이 있어요. "함께 발화하는 뉴런은 함께 연결된다(Neurons that fire together wire together)."

"발화"는 뉴런이 신호를 내보내는(스파이크가 튀는) 것을 말해요. 두 뉴런이 동시에 자주 켜지면 그 사이 가중치가 커지고, 따로 놀면 연결이 줄어들어요. 2부에서 본 "자주 쓰면 강해지는 시냅스"를 학습 규칙으로 정리한 거예요.

교수님 자료에서는 이 헵 규칙이 뒤에서 배울 경사 하강법(오차를 줄이는 방향으로 가중치를 조금씩 고치는 방법)에서 수학적으로 이끌어 낼 수 있다고 정리해요. 생물의 학습과 기계의 학습이 이렇게 이어져요.

1943년 신경생리학자 워런 매컬럭(Warren McCulloch)과 논리학을 좋아하던 청년 월터 피츠(Walter Pitts)가 뉴런의 계산을 수학 모델로 만들었어요. 피츠는 집 없이 떠돌다 매컬럭을 찾아온 독학 천재였다고 해요. 1958년 프랭크 로젠블랫(Frank Rosenblatt)이 이 모델을 바탕으로 퍼셉트론을 발표했어요.

퍼셉트론은 입력 xᵢ마다 가중치 wᵢ(연결 세기)를 곱해 모두 더하고, 여기에 바이어스 b(기본값으로 더하는 상수)를 더해요. 그 합을 활성화 함수 f에 넣어 최종 출력을 정해요. 매컬럭–피츠 모델과 달리 입력과 가중치에 소수 같은 실수도 쓸 수 있어요.

바이어스는 "늘 1인 입력 x₀"에 가중치 w₀ = b를 곱한 것으로 볼 수 있어요. 그러면 계산 전체가 두 묶음 숫자의 내적(dot product) w·x 하나로 깔끔하게 정리돼요. 내적은 짝끼리 곱해서 모두 더하는 계산이에요.

2부에서 뉴런은 받은 신호를 그대로 내보내지 않고 바꾼다고 했어요. 그 "바꾸는 규칙"이 활성화 함수예요. 교수님 자료에는 두 가지가 나와요.

계단 함수(Step Function)는 합이 문턱(threshold)을 넘으면 1, 안 넘으면 0을 내요. 켜짐/꺼짐 둘 중 하나라서 이진(binary) 유닛이라고 해요. 퍼셉트론이 처음 쓴 함수예요.

시그모이드 함수(Sigmoid Function)는 S자 모양으로 0과 1 사이를 부드럽게 이어요. 합이 0이면 0.5, 크면 1에 가깝고, 작으면 0에 가까워요. 중간값도 낼 수 있어서 "얼마나 확신하는지" 같은 실수 계산을 할 수 있고, 6부에서 배울 학습 방법에도 잘 맞아요.

가중치를 사람이 일일이 정하지 않고 예시로 배우게 하려면 규칙이 필요해요. 먼저 오차를 정해요. 정답 y와 신경망의 답 ŷ(와이 햇)의 차이를 제곱해 모든 예시에서 더한 E = Σ(ŷ − y)²이에요. 이 오차를 가장 작게 만드는 가중치를 찾는 게 목표예요.

퍼셉트론 학습 규칙은 아주 단순해요. 예시를 하나 골라 맞히면 아무것도 안 해요. 정답이 1인데 0을 냈으면(w·x < 0) w에 ηx를 더하고, 정답이 0인데 1을 냈으면(w·x ≥ 0) ηx를 빼요. 더 이상 틀리지 않을 때까지 반복해요.

왜 더하면 될까요? w·x = |w||x|cos θ예요. 두 화살표 사이 각도 θ가 90도보다 작으면 내적이 양수예요. w에 x를 더하면 w가 x 쪽으로 돌아가 각도가 줄어들고, 다음에는 맞힐 가능성이 커져요. η(에타)는 한 번에 얼마나 크게 고칠지 정하는 학습률이에요.

4부에서 퍼셉트론이 하는 일은 결국 "직선 하나로 둘로 나누기"라고 했어요. 점들을 직선 하나로 나눌 수 있으면 선형 분리 가능, 안 되면 선형 분리 불가능(비선형)이에요.

AND와 OR는 선형 분리가 가능해서 퍼셉트론 하나로 풀렸어요. 그런데 XOR(배타적 OR)는 달라요. XOR는 두 입력 중 하나만 1일 때 1이에요. (0,1)과 (1,0)은 1, (0,0)과 (1,1)은 0이에요. 그림으로 그리면 같은 색 점이 대각선으로 엇갈려 있어서, 어떻게 직선을 그어도 한쪽에 섞여요.

교수님 슬라이드의 표현으로는 "XOR는 어떻게 하는지 모른다(We don’t know how to do it!)"예요. 마빈 민스키(Marvin Minsky)와 시모어 페퍼트(Seymour Papert)가 퍼셉트론의 능력을 연구하며 이 한계를 보여 줬고, 그 뒤 신경망 연구는 오랫동안 침체됐어요.

직선 하나로 안 되면 직선을 두 개 쓰면 돼요. XOR는 두 직선 사이의 "띠" 안쪽이 1이고 바깥이 0이에요. 첫 번째 층의 퍼셉트론 두 개가 각각 직선 하나씩을 맡고, 두 번째 층의 퍼셉트론이 두 결과를 합쳐요.

입력층과 출력층 사이에 끼어 있는 이 층이 3부에서 본 은닉층이에요. 퍼셉트론을 이렇게 층층이 쌓은 것을 다층 퍼셉트론(MLP)이라고 해요. 층을 쌓고 비선형 활성화 함수를 쓰면, 직선이 아닌 구불구불한 경계도 만들 수 있어요.

문제는 "이 여러 층을 어떻게 학습시키지?"였어요. 퍼셉트론 학습 규칙은 출력층 하나만 고칠 수 있었어요. 은닉층의 가중치가 틀렸을 때 얼마나 틀렸는지 알 방법이 없었어요. 민스키와 페퍼트도 다층 신경망의 학습 방법은 제시하지 못했어요. 그래서 1980년대 중반까지 신경망 연구의 암흑기가 이어졌어요.

학습하려면 먼저 "얼마나 틀렸는지" 재야 해요. 그 자가 비용 함수예요. 교수님 자료의 비용 함수는 J = (ŷ − y)²이에요. ŷ(와이 햇)은 신경망이 낸 답, y는 정답(target)이에요.

왜 그냥 빼지 않고 제곱할까요? 첫째, 차이가 +든 −든 항상 양수가 돼서 서로 지워지지 않아요. 둘째, 크게 틀린 것을 더 크게 벌줘요. 0.2 틀리면 0.04지만 0.7 틀리면 0.49예요.

실제로는 예시 하나가 아니라 모든 예시의 비용을 더해서 봐요(sum over all examples). 학습의 목표는 이 비용을 0에 가깝게 줄이는 가중치를 찾는 거예요.

안개 낀 산에서 가장 낮은 골짜기를 찾는다고 생각해 보세요. 멀리는 안 보여도 발밑의 경사는 느낄 수 있어요. 내리막 쪽으로 한 걸음씩 가면 결국 골짜기에 닿아요. 이게 경사 하강법이에요. 여기서 산의 높이가 비용, 위치가 가중치예요.

발밑 경사를 수학으로 잰 것이 기울기(gradient)예요. 가중치마다 "이 가중치를 조금 바꾸면 비용이 얼마나 변하나"를 계산한 값(편미분)을 모은 거예요. 가중치가 여러 개면 기울기도 여러 칸짜리 화살표(벡터)가 돼요.

규칙은 w ← w − γ∇J예요. 기울기 ∇J가 양수면(오르막) 가중치를 줄이고, 음수면 늘려요. γ(감마)는 학습률로, 한 걸음의 크기예요. 너무 크면 골짜기를 넘어가 버리고, 너무 작으면 한참 걸려요.

다층 퍼셉트론의 문제는 은닉층 가중치를 어떻게 고칠지 모른다는 것이었어요. 역전파는 이렇게 풀어요. 먼저 입력에서 출력까지 신호를 앞으로 보내 답을 내요(순전파). 그다음 출력의 오차를 뒤로 보내면서, 각 가중치가 오차에 얼마나 책임이 있는지 계산해요.

책임을 나누는 계산이 미분의 연쇄 법칙(chain rule, 겹친 함수의 미분을 바깥부터 차례로 곱하는 규칙)이에요. 출력층 가중치는 바로 오차와 연결되니 쉽게 계산하고, 그 결과를 이용해 한 층 앞의 은닉층 가중치를 계산해요. 이렇게 출력 쪽에서 입력 쪽으로 차례차례 거슬러 가요. 그 결과로 나온 기울기를 써서 경사 하강법으로 가중치를 고쳐요.

역사도 기억해 두세요. 폴 워보스(Paul Werbos)가 1974년 박사 논문에서 처음 제안했지만 널리 알려지지 않았어요. 1980년대 중반 데이비드 럼멜하트(David Rumelhart)와 제임스 매클렐런드(James McClelland)가 이끈 PDP 연구 그룹이 책 『병렬 분산 처리(Parallel Distributed Processing)』에서 역전파를 소개하며 신경망의 부활을 이끌었어요.