볼테라 함수

볼테라 함수는 1881년 이탈리아의 수학자 비토 볼테라(Vito Volterra)가 제시한 실함수로, 해석학에서 중요한 반례로 활용된다. 이 함수는 폐구간 [0, 1]의 모든 점에서 미분 가능하고 그 도함수가 유계이지만, 도함수가 리만 적분 가능하지 않다는 독특한 특성을 가진다. 이는 미적분학의 기본 정리가 리만 적분의 틀 안에서 모든 미분 가능한 함수에 대해 당연하게 성립하지 않을 수 있음을 보여주는 사례이다.

볼테라 함수의 구성은 '스미스-볼테라-칸토어 집합'이라고도 불리는 지방 칸토어 집합(Fat Cantor set)을 기반으로 한다. 일반적인 칸토어 집합은 측정값이 0이지만, 지방 칸토어 집합은 구간 내에서 조밀하지 않으면서도 양의 르베그 측도를 가지도록 설계된다. 볼테라는 이 집합의 보집합에 해당하는 열린 구간들 위에서 $x^2 \sin(1/x)$와 유사한 형태의 함수를 적절히 변형하여 배치함으로써 전체 구간에서 미분 가능한 함수를 정의하였다.

이 함수의 가장 핵심적인 특징은 도함수의 불연속성에 있다. 볼테라 함수의 도함수는 지방 칸토어 집합에 속하는 모든 점에서 불연속이다. 리만 적분이 가능하기 위해서는 함수의 불연속점 집합의 르베그 측도가 0이어야 한다는 르베그의 조건이 충족되어야 한다. 그러나 볼테라 함수의 도함수는 불연속점들의 집합인 지방 칸토어 집합의 측도가 0보다 크기 때문에 리만 적분이 불가능하다는 결론에 도달한다.

볼테라 함수의 존재는 당대 수학자들에게 큰 충격을 주었다. 당시에는 함수가 미분 가능하고 그 도함수가 유계라면 당연히 도함수를 적분하여 원래의 함수를 복원할 수 있다고 믿었기 때문이다. 이 함수는 미분과 적분의 역관계가 리만 적분 체계 내에서 항상 보장되지 않음을 증명함으로써 리만 적분의 한계를 명확히 드러냈다.

결과적으로 볼테라 함수는 르베그 적분론의 도입과 발전에 강력한 동기를 부여하였다. 르베그 적분 체계에서는 유계인 도함수가 항상 적분 가능하며 미적분학의 기본 정리가 더 넓은 범위에서 성립하기 때문이다. 따라서 볼테라 함수는 현대 실해석학에서 함수의 연속성, 미분 가능성, 그리고 적분 가능성 사이의 미묘한 관계를 설명할 때 빠지지 않고 등장하는 필수적인 개념이다.