제타 함수(ζ 함수)는 수학에서 중요한 역할을 하는 복소함수로, 특히 수론과 함수 해석학에서 많이 활용된다. 제타 함수는 여러 가지 형태로 정의될 수 있지만, 가장 잘 알려진 형태는 다음과 같다.

리만 제타 함수는 실수 부분이 1보다 큰 복소수 s에 대해 다음과 같이 정의된다.

\[

ζ(s) = \sum_{n=1}^{\infty} \frac{1}{n^s}

\]

이 급수는 수렴하며 s가 1보다 클 때 정의된다. 리만 제타 함수는 이 극한점에서 궁극적으로 수렴이 가능한 모든 복소수 s에 대해 연속적으로 확장될 수 있다. 이 과정에서 특별한 방법, 즉 '해석적 연속'을 사용하여 s의 다른 값에도 정의될 수 있다. 특히, 리만 제타 함수는 s=1에서 발산하지만, 이와 관련된 극한에 대해 중요한 성질을 가진다.

제타 함수는 소수와 밀접한 관련이 있다. 특히, 에울러(Euler)는 제타 함수와 소수의 곱에 관한 관계를 밝혀내어 리만 가설의 기초가 될 수 있는 성질을 정립하였다. 이러한 관계는 다음과 같은 오버뷰 형태로 나타낼 수 있다.

\[

ζ(s) = \prod_{p \, \text{소수}} \frac{1}{1 - p^{-s}}

\]

여기서 p는 모든 소수를 의미하며, 이 곱셈 형태는 리만 제타 함수가 소수와 어떻게 연결되어 있는지를 보여준다.

리만 제타 함수의 특별한 값들, 특히 s=2, 3, 4일 때의 값은 다음과 같이 알려져 있다:

\[

ζ(2) = \frac{\pi^2}{6}, \quad ζ(3) \text{는 특별한 숫자로 알려져 있으며, } \quad ζ(4) = \frac{\pi^4}{90}

\]

리만 제타 함수는 또한 복소수 평면에서의 성질 및 특정 현상들, 예를 들어 제타 함수의 영점에 대한 유명한 리만 가설로 인해 많은 관심을 받고 있다. 이 가설은 제타 함수의 비자명한 영점이 모두 실수 부분이 1/2인 직선에 놓인다는 주장이다. 이 문제는 수학의 여러 지식 분야에 걸쳐 영향을 미치며, 해결되지 않은 주요 문제 중 하나로 남아 있다.

제타 함수는 현대 수학의 여러 분야, 특히 대수 기하학, 표현론, 정수론 등에서 중요한 수단으로 사용되며, 다양한 응용에서 그 가치를 이어가고 있다.