레일리 판별 기준 (Rayleigh Criterion)

1. 법칙의 진술

법칙4.1레일리 판별 기준

두 점 광원이 원형 개구를 통해 관측될 때, 하나의 에어리 패턴의 중앙 극대가 다른 에어리 패턴의 첫째 극소와 일치하면, 두 광원이 겨우 분해(resolve)된다고 정의한다. 이 조건에서의 최소 분해 각도는:

\theta_{\min} = 1.22 \frac{\lambda}{D}

여기서 $\lambda$ 는 빛의 파장, $D$ 는 원형 개구(또는 렌즈)의 지름이다.

이 기준은 로드 레일리(Lord Rayleigh, 1879)가 제안한 것으로, 엄밀한 물리적 한계가 아닌 관행적 기준(conventional criterion)이다. 그러나 광학 기기의 분해능을 비교하는 표준으로 널리 사용된다.

2. 에어리 패턴으로부터의 유도

유도레일리 기준의 유도

반지름 $a$ ( $D = 2a$ )인 원형 개구에 의한 프라운호퍼 회절의 세기 분포는 에어리 함수이다:

I(\theta) = I_0 \left[\frac{2J_1(v)}{v}\right]^2, \qquad v = \frac{\pi D \sin\theta}{\lambda}

에어리 패턴의 첫째 영점(zero)은 $J_1(v) = 0$ 의 첫째 근, $v_1 = 3.8317$ 에서 발생한다:

\frac{\pi D \sin\theta_1}{\lambda} = 3.8317

\sin\theta_1 = \frac{3.8317 \lambda}{\pi D} = 1.2197 \frac{\lambda}{D} \approx 1.22 \frac{\lambda}{D}

소각 근사에서 $\sin\theta_1 \approx \theta_1$ 이므로:

\boxed{\theta_{\min} = 1.22 \frac{\lambda}{D}}

레일리 기준에서 두 에어리 패턴의 합성 세기를 계산하면, 두 극대 사이의 중앙 최솟값은 극대 세기의 약 **73.5%**에 해당한다. 즉, 세기 감소율(dip)이 약 26.5%일 때 두 상이 겨우 구분된다.

■

3. 다양한 개구 형태에서의 분해능

레일리 기준의 수치 계수는 개구의 형태에 따라 달라진다:

| 개구 형태 | 최소 분해 각도 | 비고 | |-----------|---------------|------| | 원형 | $1.22\,\lambda/D$ | 표준 레일리 기준 | | 정사각형 (변 $a$ ) | $\lambda/a$ | 1차원 방향 | | 슬릿 (폭 $a$ ) | $\lambda/a$ | 1차원 분해능 | | 환형 (중앙 차폐) | $< 1.22\,\lambda/D$ | 중앙 로브 좁아짐 |

참고환형 개구의 초해상

중앙이 차폐된 환형 개구(annular aperture)의 경우, 에어리 디스크가 오히려 좁아져 분해능이 향상된다. 그러나 부 극대(side lobe)의 세기가 증가하므로, 실용적으로는 주의가 필요하다. 차폐율 $\epsilon = D_{\text{inner}}/D_{\text{outer}}$ 에 대해:

\theta_{\min} \approx 1.22 \frac{\lambda}{D_{\text{outer}}} \cdot (1 - \epsilon^2)^{-1/2} \cdot \text{(보정 인자)}

4. 분광기의 분해능

정의4.7분광 분해능

분광기(spectrometer)의 분해능(resolving power) $\mathcal{R}$ 은 겨우 분해할 수 있는 두 파장 $\lambda$ 와 $\lambda + \delta\lambda$ 에 대해:

\mathcal{R} = \frac{\lambda}{\delta\lambda}

로 정의된다.

프리즘 분광기:

\mathcal{R} = b \frac{dn}{d\lambda}

여기서 $b$ 는 프리즘의 유효 밑변 길이(base length)이다.

회절격자 분광기:

\mathcal{R} = mN

여기서 $m$ 은 회절 차수, $N$ 은 격자 홈의 총 수이다.

파브리-페로 분광기:

\mathcal{R} = m \cdot \mathcal{F}

여기서 $\mathcal{F}$ 는 피네스, $m$ 은 간섭 차수이다.

예제망원경과 현미경의 분해능 비교

망원경의 각 분해능: 허블 우주 망원경( $D = 2.4\,\text{m}$ , $\lambda = 500\,\text{nm}$ )의 분해능:

\theta_{\min} = 1.22 \times \frac{500 \times 10^{-9}}{2.4} = 2.54 \times 10^{-7}\,\text{rad} \approx 0.05''

현미경의 공간 분해능: 대물렌즈의 개구수(numerical aperture) $\text{NA} = n\sin\alpha$ 에 대해, 아베(Abbe)의 분해능 한계:

d_{\min} = \frac{0.61\,\lambda}{\text{NA}}

유침(oil immersion, $n = 1.515$ ) 대물렌즈로 $\text{NA} = 1.4$ 인 경우:

d_{\min} = \frac{0.61 \times 500}{1.4}\,\text{nm} \approx 218\,\text{nm}

5. 레일리 기준의 한계와 대안

레일리 기준은 관행적인 것이며, 보다 정량적인 분해능 기준들이 존재한다:

스파로우 기준(Sparrow criterion): 두 점상의 합성 세기 분포에서 중앙의 극소가 사라지는 조건. 레일리 기준보다 약간 더 가까운 거리에서 분해 가능:

\theta_{\text{Sparrow}} = 0.95 \frac{\lambda}{D}

휴스턴 기준(Houston criterion): 반치폭(FWHM)을 기준으로 한 분해능 정의.

참고회절 한계를 넘어서: 초해상도 기법

레일리 기준은 고전적 원거리장 이미징의 근본적 한계를 나타내지만, 이를 우회하는 다양한 초해상도(super-resolution) 기법이 개발되었다:

STED 현미경 (Stimulated Emission Depletion): 형광 분자의 유도 방출을 이용하여 유효 점확산함수를 축소 ( $\sim 20\,\text{nm}$ 분해능)
PALM/STORM: 단일 분자 위치 추정에 기반한 초해상도 ( $\sim 10\,\text{nm}$ 분해능)
구조 조명 현미경 (SIM): 격자 패턴 조명으로 고주파 정보 복원 ( $\sim \lambda/4$ 분해능)

이러한 기법들은 2014년 노벨 화학상(에릭 베치히, 슈테판 헬, 윌리엄 모너)의 주제가 되었다.

6. 전파 천문학에서의 레일리 기준

전파 천문학에서는 파장이 매우 길어( $\lambda \sim \text{cm} - \text{m}$ ) 단일 안테나의 분해능이 극히 제한된다. 이를 극복하기 위해 간섭계(interferometer)를 사용한다.

기선 길이(baseline) $B$ 인 2-소자 간섭계의 분해능은:

\theta_{\min} \approx \frac{\lambda}{B}

초장기선 간섭계(Very Long Baseline Interferometry, VLBI)의 경우 기선이 지구 직경 규모( $B \sim 10^4\,\text{km}$ )에 달하여:

\theta_{\min} \sim \frac{1\,\text{cm}}{10^7\,\text{m}} \sim 10^{-9}\,\text{rad} \sim 0.2\,\text{mas}

이는 사건의 지평선 망원경(Event Horizon Telescope)이 블랙홀의 그림자를 촬영할 수 있게 하는 원리이다.