통신 시스템 수학으로 발전하다

우리가 스마트폰으로 유튜브를 보고 친구에게 카카오톡 사진을 보낼 수 있는 이유는 와이파이나 광케이블 같은 훌륭한 장비 덕분이기도 하지만, 그 근본에는 1948년 한 천재 수학자가 쓴 '논문 한 편'이 자리 잡고 있다. 당시 사람들은 글자는 전보(모스 부호)로, 목소리는 전화기(아날로그 전파)로, 사진은 팩스로 따로따로 보내야 한다고 생각했다. 그런데 MIT의 천재 수학자 '클로드 섀넌(Claude Shannon)'은 세상의 모든 소리와 영상, 글자를 모조리 믹서기에 넣고 갈아서 똑같은 '수학적 덩어리'로 통일해 버릴 수 있다는 미친 이론을 발표했다. 바로 '정보 이론(Information Theory)'이다. 아날로그의 잡음을 박살 내고 세상의 모든 것을 0과 1로 압축해 버린 디지털 통신의 수학적 혁명을 뜯어보자.

정보를 측정하는 단위, 비트(Bit)의 탄생

클로드 섀넌의 가장 위대한 업적은 눈에 보이지도 않고 의미도 제각각인 '정보'라는 추상적인 개념을 물의 리터(L)나 쌀의 킬로그램(kg)처럼 완벽하게 '계산할 수 있는 양'으로 정의해 버린 것이다. 그는 어떤 메시지가 가지고 있는 불확실성(놀라움의 정도)을 잴 수 있다고 보았다. 동전을 던졌을 때 앞면이냐 뒷면이냐(Yes or No)를 맞추는 딱 한 번의 선택, 그 가장 작은 정보의 쪼가리를 그는 '비트(Bit, Binary Digit)'라고 이름 붙였다. 셰익스피어의 위대한 소설이든 4K 초고화질 영화든, 결국 이 비트(0과 1)라는 레고 블록 수억 개를 조립해서 만든 덩어리에 불과하다는 뼈때리는 수학적 통찰을 내놓은 것이다.

노이즈(잡음)와의 전쟁, 아날로그의 한계

섀넌 이전의 전화기는 '아날로그' 방식이었다. 내 목소리의 크기만큼 전파를 강하게 만들고, 작게 말하면 전파를 약하게 만들어 날려 보냈다. 문제는 전파가 구리선을 타고 날아가다가 벼락이 치거나 열이 발생해서 전파의 모양이 살짝 찌그러지면(노이즈 발생), 받는 사람의 귀에는 찌그러진 그대로 지지직거리는 잡음이 들린다는 것이다. 아날로그는 한 번 모양이 망가지면 다시 원래대로 복원할 수학적인 방법이 전혀 없었다.

0과 1의 결벽증, 오류 정정의 마법

하지만 섀넌은 메시지를 0(전기 꺼짐)과 1(전기 켜짐)로 완전히 토막 내어 보낼 것을 제안했다. 전기가 100이 켜져야 1인데, 가다가 노이즈가 끼어서 80이나 90으로 줄어들어 도착했다? 컴퓨터는 "어? 80이 들어왔네? 원래 1이었겠군!" 하고 찌그러진 정보를 완벽하고 깨끗한 1로 다시 복원해 버린다. 아무리 비바람(노이즈)이 불어 닥쳐도, 정보가 0에 가까운지 1에 가까운지만 수학적으로 유추해 내면 100% 원본 그대로 먼지 하나 묻지 않은 깨끗한 화질과 음질을 텔레포트시킬 수 있는 '오류 정정(Error Correction)'의 마법이 시작된 것이다.

압축의 한계를 수학으로 긋다 (섀넌의 한계)

섀넌은 여기서 멈추지 않았다. 그는 무전기나 광케이블(통로)에 노이즈가 껴있을 때, 그 통로로 정보를 잃어버리지 않고 보낼 수 있는 '최대 속도(채널 용량)'를 구하는 수학 공식(섀넌-하틀리 정리)을 만들어버렸다. 우리가 아무리 5G, 6G 압축 기술을 미친 듯이 개발해도, 섀넌이 수학적으로 그어놓은 이 '한계선'을 넘어설 수는 없다. 그는 통신 공학자들이 영원히 도달할 수 없는 궁극의 물리적 천장을 논문 한 장으로 닫아버린 셈이다.

남은 과제

섀넌의 정보 이론은 현재 양자 역학을 만나 '양자 정보 이론'으로 진화하고 있다.