모이드는 실수 값을 입력받아 0과 1 사이의 값을 출력하는 스무딩 함수이다. 이 함수는 입력값에 대한 확률적 해석을 가능하게 하여, 주로 기계 학습과 인공 신경망에서 활성화 함수로 널리 사용된다. 모이드 함수는 다음과 같은 수식으로 정의된다:
\[ f(x) = \frac{1}{1 + e^{-x}} \]
여기서 \( e \)는 자연상수이다. 모이드 함수는 S자형 곡선을 가지며, 입력값이 0일 때 출력값은 0.5가 된다. 입력값이 무한히 큰 양수일 경우 출력값은 1에 수렴하며, 무한히 큰 음수일 경우 출력값은 0에 수렴한다.
모이드 함수의 주요 특징 중 하나는 미분 가능하다는 점이다. 미분값은 다음과 같이 표현된다:
\[ f'(x) = f(x) \cdot (1 - f(x)) \]
이로 인해 경량화된 계산이 가능하여 신경망의 학습 과정에서 효과적으로 사용된다. 그러나 모이드 함수는 입력값이 극단적으로 크거나 작을 때 기울기가 0에 가까워져 경량화 문제(vanishing gradient problem)가 발생할 수 있다. 이러한 이유로, 최근에는 ReLU(Rectified Linear Unit) 같은 다른 활성화 함수가 더욱 선호되기도 한다.
모이드 함수는 바이너리 분류 문제를 다룰 때 주로 사용되며, 로지스틱 회귀와 같은 통계적 모델에서도 중요한 역할을 한다. 또한, 신경망의 마지막 층에서 확률값을 출력하기 위해 자주 사용된다.