영상처리 전공자를 위한 추천 교양(?)과목 2 - 실해석학

실해석학(Real Analysis)을 '교양과목'이라 하기엔 약간의 머뭇거림이 있다. 왜냐면, 공부하기에 많은 시간과 노력을 투자해야 하기 때문에 '교양'삼아 공부하기에는 상당히 부담스럽기 때문이다. 예를 들면, 내가 대학원에서 실해석학 과목과 measure theory 과목을 들을 때의 공부 부담은 '정상적인' 전기전자 과목의 대략 5배쯤에 해당되었다고 생각하고 있다. (아무래도 타과생이라서 기초가 없어 더 힘들긴 했지만, 그걸 감안한다 해도 우리 과 과목에 비할 바가 아닌 듯 하다.) 하지만, '교양과목'이라 할만한 충분한 이유가 있는데... 그 이유는... 알면 왠지 폼이 좀 나 보이는데, 실제로는 전공(영상처리)와는 직접 관련이 없어서 공부해 봐야 쓸모가 거의 없다는 점이다. -.-;; 도대체가 open set이 무엇인지, 유리수에 가장 '가까운' 수가 유리수 내에 있는지 없는지, 실제세계에 있을 것 같지도 않던 이상한 함수가 미분가능, 적분가능인지 아닌지 따지는 것이 영상처리와 무슨 상관이란 말인가?

그럼 도대체 왜 실해석학이 추천 과목이란 말인가?????

일단, 내 지도교수가 내게 measure theory를 듣도록 강권하면서 (twist my arms) 내게 했던 말을 옮기는 게 가장 낫겠다. "네가 영문학 전공이라고 가정해 봐. 네 세부전공이 설사 셰익스피어 당시의 영어/영문학이 아니라 하더라도, 일단 네가 영문학 전공이면 세익스피어를 한번쯤은 읽어봐야 하지 않겠냐? measure theory는 신호처리 전공자에게는 영문학도의 셰익스피어와 같아."

솔직히 저 말은 좀 억지스러운 면이 있긴 한데, 그의 말을 그대로 받아들인다면 왜 measure theory가 신호처리 전공자에게는 그렇게 중요한 것일까가 중요한 문제가 된다. 잘 생각해 보면 실질적인 이유가 있긴 하다.

1. 최근에는 편미분방정식 (partial differential equation), functional analysis, 통계학 등을 이용한 영상처리가 많이 연구되고 있는 추세인 듯 한데, 이런 접근법들을 제대로(!) 이해하기 위해서는 실해석학의 이해가 상당히 필요하다 할 수 있다. 90년대를 풍미했던 웨이블릿(wavelet) 기반 영상처리의 예를 들자면, 웨이블릿을 영상의 코딩,압축,전송 등의 응용에 중점을 둔다면 필터링이나 transform(변환?)에 비교적 중점을 두게 되고 실해석학이 큰 역할을 하지 않지만, approximation, estimation, restoration (denoising), inverse problem 등의 응용에 중점을 두게 된다면 실해석학의 이해가 반드시 필요하다. 또 다른 예를 들면, 통계적 영상처리에서 ML 또는 MAP estimation은 결국 목적함수를 최소화시키는 최적화 문제로 귀결되는데 그 최적화 알고리즘의 수렴성 등을 분석할 때 실해석학이 큰 역할을 할 때가 많다.
   
2. 추정,검정 등 통계적 신호처리를 많이 쓰는 영상처리의 경우 확률에 대한 이해가 중요한데, 확률론의 기반이 된다. 확률의 정의는 "A probability space is a measure space with a measure P that satisfies the probability axioms."라고 되어 있다. 즉, measure theory의 논리구조를 상당부분 거의 그대로 따라가게 된다. 그래서, 우리 과에서 통신이나 네트웍 전공자들처럼 확률을 많이 쓰는 사람들은 real analysis, measure theory, probability theory 1, 2 이렇게 네 과목을 줄창 듣는 것이 거의 필수 코스처럼 되어 있었다. 통계적 신호처리 전공자들도 마찬가지이고...
   
3. 생각하는 방법을 훈련하게 해 준다. 간단하고 당연해 보이는 것조차도 논리적으로 증명해 가는 것이 쉽지만은 않다.
   
4. 자명해 보이는 것도 엄밀히 증명되기 전까지는 무엇이든 일단 의심해 보는 태도를 갖게 된다. 얼핏 보기엔 당연해 보이는데도 입이 쩍 벌어질 수 밖에 없는 반례를 계속해서 만나다 보면 말이다.
   

그러니, 정말 심각하게 응용수학이나 통계학에 기반한 도구들을 많이 써야겠다는 생각을 갖고 있는 신호처리 전공자라면  실해석학을 한 번쯤은 봐 줘야 할 듯 하다. 단.... 주의할 점은... 영상처리의 주요 접근도구가 응용수학이나 통계학에 기반한 경우가 아니라면  굳이 실해석학을 공부하면서 정신세계를 황폐화시키고 다른 일에 쓰일 수 있는 귀중한 시간을 낭비할 필요는 없겠다.