느려도 뇌는 컴퓨터보다 낫다

신경세포가 신호를 내는 빈도는 초당 수십 번 수준이다. 현재의 프로세서는 초당 수십억 번 동작한다. 단순 속도로는 비교가 되지 않는다.

병렬로 처리한다

차이는 구조에 있다.

뇌에는 신경세포가 약 860억 개 있고, 각 세포는 평균 수천 개의 다른 세포와 연결돼 있다. 연결의 총수는 100조 단위로 추정된다.

이 모든 연결이 동시에 작동한다. 하나하나는 느려도 한꺼번에 처리되는 양이 크다.

일반적인 컴퓨터는 반대다. 소수의 코어가 명령을 순서대로 처리한다. 각 단계는 빠르지만 한 번에 하는 일은 적다.

기억과 계산이 붙어 있다

컴퓨터는 계산 장치와 기억 장치가 분리돼 있다. 계산하려면 기억 장치에서 자료를 가져와야 하고, 결과를 다시 보내야 한다.

이 왕복이 병목이 된다. 실제로 현대 프로세서의 에너지 소비 가운데 상당 부분이 자료를 옮기는 데 쓰인다.

신경계에서는 정보가 연결의 세기에 담겨 있다. 계산이 일어나는 자리가 곧 저장된 자리다. 옮길 필요가 없다.

에너지

뇌가 쓰는 전력은 약 20와트로 추정된다. 백열등 한 개보다 적다.

대규모 신경망 모형을 학습시키는 데 드는 전력은 이보다 훨씬 크다. 비교 기준이 다르므로 단순 대조는 조심해야 하지만, 효율의 차이가 크다는 점은 분명하다.

효율의 원천 가운데 하나는 신호를 낼 때만 소비한다는 점이다. 대부분의 신경세포는 대부분의 시간 동안 조용하다. 필요할 때만 동작한다.

정확도를 포기한다

신경계는 정확하지 않다. 같은 자극을 줘도 반응이 매번 조금씩 다르다.

이것이 결함만은 아니라는 견해가 있다. 근사적인 답을 빠르게 내는 방식이 많은 상황에서 유리하기 때문이다. 포식자를 피할 때 필요한 것은 정확한 궤적 계산이 아니라 충분히 빠른 판단이다.

컴퓨터는 반대 방향으로 설계됐다. 같은 입력에 항상 같은 출력을 내는 것이 기본 요구 사항이다.

잘하는 일이 다르다

뇌가 앞서는 영역은 대체로 감각 정보를 다루는 쪽이다. 어수선한 장면에서 아는 얼굴을 찾는 일, 처음 보는 물건을 집는 일은 여전히 기계가 어려워한다.

반대로 큰 수의 곱셈, 긴 목록의 정렬, 정확한 기록의 보존은 기계가 압도적이다.

최근 신경망 모형이 이미지와 언어를 다루는 성능을 크게 높였지만, 구조는 뇌와 다르다. 이름에 신경이라는 말이 들어 있어도 작동 방식은 생물의 신경계와 상당히 다르다는 점이 자주 지적된다.

흉내 내려는 시도

신경계의 구조를 하드웨어로 옮기려는 분야가 뉴로모픽 공학이다.

신호가 있을 때만 동작하는 소자, 계산과 저장을 같은 자리에서 하는 구조가 시도된다. 특정 작업에서 전력 소모를 크게 낮춘 결과가 보고됐다.

다만 기존 방식에 맞춰 발전한 알고리즘을 그대로 쓸 수 없다는 점이 걸림돌이다. 하드웨어와 학습 방법을 함께 새로 만들어야 하는 상황이다.