푸리에 급수의 시작(Fourier series)
[경고] 아래 글을 읽지 않고 "푸리에 급수"를 보면 바보로 느껴질 수 있습니다.
1. 열 방정식
통신 이론(communication theory)을 공부한 사람이면 누구나 아는 것이 아래의 기함수(奇函數, odd function)에 대한 푸리에 급수(Fourier series)이다. 간단하게 푸리에 사인 급수(Fourier sine series)라고도 한다.

여기서


[그림 1] 푸리에 급수를 이용한 톱니파의 표현(출처: wikipedia.org)
푸리에 급수의 신기한 점은 임의의 주기 함수(periodic function)를 삼각 함수(trigonometric function)의 무한 급수(infinite series)로 표현할 수 있다는 것이다. 식 (1)이 성립하기 때문에 푸리에 계수

여기서
만약
자 여기까지는 왠만한 통신 이론 책에 나오는 내용이라 특별한 것은 없다. 하지만 푸리에 급수를 식 (2)에 있는 적분으로 외우고 푸리에 급수의 모든 면을 다 안다고 생각하는 것은 큰 오산이다. 푸리에 급수의 핵심은 식 (2)가 아니고 식 (1)이기 때문이다. 식 (1)이 성립하면 식 (2)는 자동적으로 얻어진다.
통신 이론을 배운 대부분의 학생들은 식 (1)을 고민하지 않는다. 식 (1)을 푸리에 급수의 정의라 생각하고 교수가 하는 말을 그대로 받아들이는 경우가 99.9%이다. 하지만 이런 학생들은 현재를 넘어서는 새로운 통신 방식을 제안할 수 없다. 식 (1)의 의미를 심각하게 고민하고 교수말을 믿지 않는 고집스러운 0.1%의 학생들이 장래에 진정한 통신공학자가 될 것이다. 푸리에 급수를 고민하지 않고는 CDMA(Code Division Multiple Access), OFDM(Orthogonal Frequency-Division Multiplexing), MIMO(Multiple-Input and Multiple-Output)와 같은 창의적인 통신 방식을 제안할 수 없다.
통신에서 푸리에 급수를 사용하는 이유는 무엇일까? 바로 신호처리가 쉽기 때문이다. 식 (1)로 다시 돌아가보자. 주기 함수
식 (1)은 증명이 필요한 사항이다. 푸리에가 이 방법론을 제안했을 때 가장 많은 비판을 받은 부분이 식 (1)이다. 식 (1)은 절대 정의가 아니다. 식 (1)이 푸리에 급수의 정의라면 이후 전개되는 식 (2)와 같은 내용은 동어반복이 되어 수학이론에 심각한 결함이 된다.
대부분의 경우 식 (1)은 맞지만 모든 경우에 대해 성립하는 것은 아니다. 이걸 이해하기 위해 [그림 1]을 보자. 삼각 함수를 계속 더해가면 [그림 1]처럼 톱니파(sawtooth wave)를 근사화할 수 있다. 무한개의 삼각 함수를 더하면 톱니파를 완벽히 표현할 수 있을 것이다. 그런데 문제점이 하나 있다.
식 (1)의 증명을 위해 푸리에 급수를 확장해보자. 기함수와 전혀 다른 특성을 갖는 우함수(偶函數, even function)에 대해 푸리에 급수를 정의하면 다음과 같다. 우함수에 대한 푸리에 급수는 푸리에 코사인 급수(Fourier cosine series)라고 한다.

식 (2)와 동일한 방법을 식 (3)에 적용하면 계수

여기서
또한, 다음처럼 모든 함수는 기함수와 우함수의 합으로 표현할 수 있다.

따라서, 식 (1)과 (3)을 합치면 기함수와 우함수 특성이 모두 합쳐지기 때문에 임의의 주기 함수에 대한 복소 푸리에 급수(complex Fourier series)를 얻을 수 있다. 복소 푸리에 급수는 기함수 혹은 우함수 여부에 관계없이 모든 주기 함수에 적용할 수 있는 일반적인 기법이다.

식 (6)을 정리하면 다음과 같다.

여기서


혹은 식 (7)의 최종 결과인
푸리에 급수 개념을 정리하기 위해 복소 푸리에 급수와 푸리에 사인/코사인 급수의 관계를 증명한 식 (5)에서 (8)까지를 다시 보자. 기함수와 우함수 특성을 차례로 합치면 일반식인 복소 푸리에 급수가 식 (7)과 (8)처럼 얻어진다. 거꾸로 복소 푸리에 급수로부터 푸리에 사인/코사인 급수를 유도하려면 복소 지수 함수를 오일러 공식(Euler's formula)을 이용해 코사인과 사인으로 분해하여 식 (8)처럼 적분한다. 그러면 복소 푸리에 급수의 계수
푸리에 계수의 수렴 특성을 알기 위해 다음 적분식을 생각해보자[1].

여기서

만약

[그림 2] 디리클레 핵심의 함수값(출처: wikipedia.org)
푸리에 급수가 원래 함수로 수렴한다는 증명은 다음의 등비 급수(geometric series)부터 시작한다.

식 (11)의 우변에 있는 등비 급수는 매우 중요하기 때문에 특별한 이름이 붙어있다. 푸리에 급수의 원래 함수 수렴성을 증명한 디리클레(Johann Peter Gustav Lejeune Dirichlet)의 이름을 따서 디리클레 핵심(Dirichlet kernel)이라 부른다.

디리클레 핵심은 등비 급수(geometric series)를 이용해 다음처럼 쉽게 계산할 수 있다.

식 (12)의 디리클레 핵심을 이용해 식 (11)의 부분합

아래에서 푸리에 급수의 원래 함수 수렴성을 편하게 증명하기 위해 주기
[15. 연속 함수와 푸리에 급수]
함수

[증명: 디리클레 방법]
디리클레 핵심을 한 주기에 대해 적분하면 다음을 얻을 수 있다.

식 (9)처럼 함수

다음으로
하지만 이렇게 하기 전에 식 (17)에 나타난 함수

함수

함수

[그림 3] 진동하는 함수의 특성(출처: wikipedia.org)
______________________________
위 증명에서 "함수가 연속이면 유한한 점을 제외하고 그 미분은 유한하다"는 명제를 사용하였다. 이 명제는 모든 경우에 대해 참일까? 아니다. 이 부분을 규명한 바이에르슈트라우스(Karl Weierstrass)의 증명으로 연속성과 미분 가능성에 대한 이해가 깊어졌다. 바이에르슈트라우스는 삼각 함수 급수를 이용해서 모든 점에서 연속이지만 미분의 발산으로 인해 모든 점에서 미분 불가능한 함수[2]인 바이에르슈트라우스 함수(Weierstrauss function)를 제안했다. 연속이지만 모든 영역에서 미분 불가능한 바이에르슈트라우스 함수는 현실과 동떨어져 있다고 생각할 수도 있지만 대표적인 예가 프랙털(fractal)인 것을 생각하면 이는 매우 중요한 함수이다. 그래서 함수가 연속이지만 프랙털과 같은 성질을 갖는 함수는 제외해야 하므로 위 증명을 할 때는 상당히 조심해야 한다.
[증명: 스투름-리우빌 이론(Sturm-Liouville theory)]
스투름-리우빌 이론을 이용하면 쉽게 식 (15)를 증명할 수 있다. 먼저 푸리에 급수가 식 (20)에 있는 스투름-리우빌 미분 방정식(Sturm-Liouville differential equation)을 만족하는 것을 보이자.


즉, 복소 지수 함수는 스투름-리우빌 미분 방정식을 만족하며 경계 조건이 주기적이므로 경계 조건이 고정되었다. 따라서, 복소 지수 함수는 고유 함수의 완비성(completeness of eigenfunctions)을 만족하여 모든 함수를 식 (15)처럼 표현할 수 있다.
______________________________
식 (19) 증명은 [그림 3]을 이용해서 대충하면 되지만 이런 정도 설명에 만족하면 진전은 별로 없다. 우리가 헷갈리는 것은 수학 대가들도 헷갈린다. 우리가 수양이 부족한 것이 아니고 그 헷갈림 속에 명확하게 설명되지 아니한 수학적 진리가 있기 때문이다. 식 (19)를 명확히 증명하려면리만-르베그 보조 정리(Riemann-Lebesgue lemma)를 이용해야 한다. 리만-르베그 보조 정리를 증명하려면 적분법의 진정한 의미를 고민해야 된다. 푸리에 급수를 연구하던 리만(Bernhard Riemann)이 리만 적분(Riemann integral)을 새롭게 정의하고 삼각 함수 급수의 유일성을 고민하던 칸토르(Georg Cantor)가 집합론(set theory)을 제안한 것은 우연이 아니다. 수학 역사에서 보면 푸리에 급수는 새로운 신천지였다. 푸리에 급수로 인해 함수(function)의 개념, 연속성과 미분 가능성, 무한 급수, 적분법, 집합론 등이 변화되었거나 새롭게 제안되었다.
푸리에(Joseph Fourier)는 열 방정식(heat equation)을 풀기 위한 해법으로 푸리에 급수(Fourier series)를 제안했다. 열은 물리적인 실체를 가지며 측정도 가능하기 때문에 푸리에 급수가 적절한 해법인것은 분명했다. 하지만 수학적으로는 결함이 있었다. 불연속 함수를 삼각 함수의 합으로 표현할 수 있다는 것은 푸리에 급수의 큰 문제점이었다. 푸리에 급수는 수학자 라그랑쥐(Joseph Louis Lagrange)의 사랑하는 제자 푸리에가 제안한 획기적인 방법이었지만 수학적으로 결함이 있는 방법을 라그랑쥐는 인정할 수가 없었다. 19세기 초반에는 불연속 함수를 함수로 취급하지 않았기 때문에 불연속 함수를 연속 함수가 될 수 있게 하는 식 (1)은 큰 결함이라 생각했던 것이다. 요즘은 이게 문제가 되지 않는다. 불연속 함수도 정의상 함수이기 때문에 이걸 푸리에 급수로 표현하는 것은 수학적으로 전혀 문제되지 않는다.
개념을 좀더 확장하면 [그림 1]처럼 유한한 점에서 불연속인 함수도 푸리에 급수 전개가 가능하다. 디리클레가 1829년에 증명했던 방법을 참고해서 불연속점에서의 수렴 특성을 증명해보자.
[22. 유한점 불연속 함수와 푸리에 급수]
함수

[증명]
식 (14)의 적분 변수를 바꾸면(

식 (23)의 첫째식과 둘째식은

함수

함수

______________________________
이상의 증명을 통해 푸리에 급수를 정확히 표현하려면 식 (15)가 아닌 식 (22)를 써야한다. 또한, 식 (22)에 의해 식 (9)의 베셀 부등식은 항등식이 된다. 이 항등식은 파르세발의 정리(Parseval's theorem)라고 부른다.

디랙 델타 함수(Dirac delta function)를 이용하면 디리클레 핵심이 만드는 무한 급수를 아름답게 정의할 수 있다. 이게 성립하려면 적분 개념에 기반을 둔 리만-르베그 보조 정리가 필수적이다.

여기서 첫째줄은 식 (15)에서 증명한 내용을 디리클레 핵심으로 다시 쓴 것이며 둘째줄은 첫째줄의 표현을 디랙 델타 함수로 다시 표기한 것이다. 물론 푸리에 급수의 완비성(completeness of Fourier series)이 성립하기 때문에 디랙 델타 함수를 식 (8)에 바로 대입해서 계산해도 식 (28)의 둘째줄을 얻을 수 있다.
[참고문헌]
[1] D. Jackson, "The convergence of Fourier series," The American Mathematical Monthly, vol. 41, pp. 67-84, Feb. 1934.
[2] J. Thim, Continuous Nowhere Differentiable Functions, Master Thesis, Luleå University of Technology, Sweden, 2003.
[다음 읽을거리]
1. 푸리에 변환
2. 리만-르베그 보조 정리