초파리는 어떻게 맡고, 보고, 알아차리는가

왜 하필 전기인가 — 다섯 가지 이유

1. 공용 언어: 빛·냄새·소리·맛을 모두 같은 형태로 바꿔야 뇌가 한곳에서 섞고 비교할 수 있다. 딥러닝이 사진, 글자, 소리를 모두 숫자 목록으로 바꾸는 것과 같은 이유다.
2. 빠르다: 냄새 분자가 몸속을 떠다니며 퍼지는 속도로는 파리채를 피할 수 없다. 이온의 흐름으로 전하는 전기 신호는 몸 끝에서 뇌까지 순식간에 간다.
3. 멀리 가도 약해지지 않는다: 스파이크는 축삭을 따라가며 계속 새로 만들어진다. 그래서 먼 길을 가도 크기가 줄지 않는다.
4. 세기는 "몇 번"으로 표현한다: 스파이크 하나의 크기는 늘 같고, 자극이 셀수록 더 자주 쏜다. 크기가 아니라 횟수로 세기를 전하니 잡음에 강하다. 이 발화 빈도가 인공 뉴런의 "출력 숫자"에 해당한다.
5. 시냅스에서 세기를 조절할 수 있다: 뉴런과 뉴런 사이 틈에서는 전기가 화학물질(신경전달물질)로 바뀌어 건너간다. 이때 얼마나 많이, 얼마나 잘 전달되는지가 바로 가중치이고, 학습은 이 전달 효율을 바꾸는 일이다.

예외도 있다. 겹눈의 광수용체처럼 짧은 거리만 신호를 보내는 뉴런은 스파이크 대신 전압을 연속적으로 오르내리며 전한다. "빛"을 골라 차이를 확인해 보자.

학습된 규칙은 어디에 적혀 있나

오른쪽 파리의 "규칙"은 어디에도 문장으로 적혀 있지 않다. 다가가기 값 두 개, 즉 가중치 두 개가 전부다. 딥러닝 모델도 똑같다. 수백만, 수십억 개의 가중치가 곧 규칙이라서 성능은 좋지만 "왜 그렇게 판단했는지"를 사람 말로 꺼내 보기 어렵다. 규칙 기반은 설명하기 쉽고, 학습 기반은 적응하기 쉽다. 초파리는 둘을 함께 써서, 처음 보는 상황에는 타고난 규칙으로 버티고 경험이 쌓이면 배운 규칙으로 고친다.

초보자를 위한 풀이

이 모델에서 "학습"이란 w와 θ를 알맞게 맞추는 일이다. 초파리는 이 값을 진화를 통해 이미 맞춰진 채로 태어났다. w를 크게 하면 옅은 이산화탄소에도 도망가고, 작게 하면 짙어야 도망간다.

한계도 분명하다. 이 모델은 입력을 딱 하나만 본다. 초파리가 실제로 부딪히는 문제, 예를 들어 "과일 향과 식초 향이 함께 나는데, 먹을 만한가?"처럼 여러 신호를 함께 따져야 하는 문제는 풀 수 없다. 그래서 입력을 늘린다.

"학습"은 실제로 무엇을 하나 — 네 단계

1. 예측: 지금의 w₁, w₂, b로 냄새 하나의 점수를 계산한다.
2. 오차: 정답(먹이 1, 아님 0)과 예측 확률의 차이를 잰다.
3. 책임 나누기: 오차에 각 입력 크기를 곱해, 어느 가중치가 얼마나 틀리게 했는지 구한다.
4. 고치기: 가중치를 그 반대 방향으로 조금(학습률 η만큼) 옮긴다. 이것을 모든 냄새에 대해 반복한다.

"어려운 문제"를 골라 학습시켜 보자. 실제 초파리는 옅은 식초 냄새에는 다가가지만 너무 진한 식초 냄새는 피한다. 먹이 영역이 두 선 사이의 띠 모양이 되는데, 선 하나로는 이 띠를 잘라낼 수 없다. 아무리 오래 학습해도 정확도가 어느 선에서 멈춘다. 이것이 다음 칸으로 가야 하는 이유다.

외운 것과 이해한 것 — 훈련 데이터와 검증 데이터

시험 문제를 미리 보고 공부한 학생은 그 시험에서 100점을 받아도 실력을 증명하지 못한다. 모델도 같다. 그래서 데이터를 둘로 나눈다. 훈련 데이터(채운 점)로만 가중치를 고치고, 학습에 한 번도 쓰지 않은 검증 데이터(속 빈 점)로 채점한다. 진짜 실력은 검증 점수다.

1. 과소적합: 훈련 점수도 낮다. 모델이 너무 단순하다. ②칸의 어려운 문제가 이 경우다.
2. 적당함: 훈련 점수와 검증 점수가 둘 다 높고 비슷하다.
3. 과적합: 훈련 점수는 높은데 검증 점수가 낮다. 데이터가 적거나 틀린 정답이 섞여 있으면, 모델이 규칙 대신 개별 예시를 외워 버린다. "적고 잡음 섞인 데이터"를 골라 확인해 보자.

과적합을 막는 흔한 방법은 데이터를 늘리기, 검증 손실이 다시 오르기 시작할 때 학습을 멈추기(조기 종료), 모델을 필요 이상으로 크게 만들지 않기다. 초파리도 비슷한 문제를 겪는다. 한 번의 우연한 경험을 지나치게 일반화하지 않도록, 반복 훈련을 받아야 오래가는 기억이 생긴다. 실제 딥러닝에서는 검증 데이터 외에, 마지막에 딱 한 번 쓰는 시험(테스트) 데이터를 따로 떼어 두기도 한다.

역전파를 말로 풀면

출력에서 생긴 오차를 "누구 책임인가"를 따라 거꾸로 나눠 주는 계산이다. 출력 뉴런과 강하게 연결된 은닉 뉴런일수록, 그리고 그때 많이 켜져 있던 은닉 뉴런일수록 책임을 더 많이 진다. 책임이 정해지면 입력 → 은닉 연결까지 한꺼번에 고친다.

초파리는 이 거꾸로 나누기를 하지 않는다. 케니언 세포로 들어가는 연결은 거의 무작위로 정해진 채 바뀌지 않고, 도파민이 마지막 연결(케니언 세포 → 출력 뉴런)만 고친다. "초파리 방식"을 골라 보면 은닉 뉴런이 적을 때는 잘 안 되지만, 수를 30~60개로 늘리면 무작위 선만으로도 띠를 잘라낸다. 초파리가 케니언 세포를 약 2,000개나 두는 이유를 짐작할 수 있다.

왜 층을 여러 개 쌓아야 하나

"다가오는 물체"를 낱눈의 밝기 값에서 한 번에 알아내는 규칙은 만들기 어렵다. 물체가 어두울 수도 밝을 수도, 오른쪽일 수도 왼쪽일 수도 있기 때문이다. 대신 문제를 쉬운 조각으로 나눠 층마다 하나씩 맡긴다.

1. 1층 (라미나): 이 낱눈이 방금 어두워졌나, 밝아졌나?
2. 2층 (메둘라·로뷸라 판): 이웃 낱눈과 비교하면 가장자리가 어느 쪽으로 움직이나?
3. 3층 (로뷸라): 위·아래·왼쪽·오른쪽 네 방향 모두에서 바깥쪽으로 퍼지는 움직임이 있나?
4. 출력 (거대 섬유): 그렇다면 지금 날아오른다.

"옆으로 지나가는 물체"는 한쪽 가장자리는 바깥으로, 반대쪽은 안쪽으로 움직여서 네 방향 모두를 만족하지 못한다. 그래서 크고 빠르게 움직여도 도약하지 않는다. 사진에서 고양이를 알아보는 CNN도 이렇게 선 → 모서리 → 부분 → 전체 모양으로 층을 쌓는다.

이 페이지 관점에서 본 핵심 차이

①번 페이지의 사다리(초간단 → 여러 층)는 MLP와 CNN 쪽 이야기였다. 초파리 방식은 그 옆에서 "은닉층을 학습하지 않아도 넓고 희소하게 만들면 꽤 된다"는 다른 답을 보여 준다. 기계학습에서는 랜덤 특징, 극한 학습 기계(ELM), 저장소 컴퓨팅이 같은 발상이다. 초파리의 뇌에는 RNN·LSTM처럼 시간을 다루는 회로(중심복합체)도 있지만, 이 페이지의 모델은 한 번에 판단하는 쪽이다.

이 예시에서 읽을 것

두 모델 모두 훈련 그림은 100% 맞혔지만, 검증 그림에서는 초파리 방식 83%, MLP 89%다. 이 차이(훈련과 검증의 간격)가 과적합의 정도다. 초파리 방식은 학습되는 연결이 MLP의 약 36%인데도 검증 정확도가 크게 뒤지지 않는다. 두 모델 모두 검증용 동그라미 6장 중 2장을 엑스로 봤다(아래 혼동 행렬). 클래스마다 학습 그림이 24장뿐이면 이런 실수가 생긴다. 직접 그린 그림으로 해 보려면 공통 섹션 A의 코드 2를 Colab에서 실행한다.