정규 함수

집합론에서 정규 함수(正規函數, 영어: normal function)는 그 도함수를 취할 수 있는, 정의역과 공역이 순서수의 모임인 연속 증가 함수이다. 이를 사용하여 매우 큰 가산 순서수들을 나타낼 수 있다.

집합론적 문제를 피하기 위하여, 비가산 도달 불가능한 기수 ${\displaystyle \kappa }$를 고르자. (만약 모임 이론을 사용한다면 ${\displaystyle \kappa =\operatorname {Ord} }$로 놓을 수 있다. 여기서 ${\displaystyle \operatorname {Ord} }$는 모든 순서수들의 모임이다.)

자기 함수

${\displaystyle f\colon \kappa \to \kappa }$

가 다음 조건을 만족시킨다면 정규 함수라고 한다.

• 순증가 함수이다. 즉, 임의의 두 순서수 ${\displaystyle \alpha <\beta <\kappa }$에 대하여, ${\displaystyle f(\alpha )<f(\beta )}$이다.
• 순서 위상에 대하여 연속 함수이다. 즉, 극한 순서수 ${\displaystyle \alpha <\kappa }$에 대하여, ${\displaystyle f(\alpha )=\textstyle \sup _{\beta <\alpha }f(\beta )}$이다.

정규 함수는 다음 성질들을 만족시킨다.

• 임의의 ${\displaystyle \alpha <\kappa }$에 대하여, ${\displaystyle f(\alpha )\geq \alpha }$

증명:

귀류법을 사용하자.

${\displaystyle \alpha =\min\{\beta <\kappa \colon \beta >f(\beta )\}}$

라면 ${\displaystyle \alpha >f(\alpha )>f(f(\alpha ))}$이자 ${\displaystyle f(\alpha )\in \{\beta <\kappa \colon \beta >f(\beta )\}}$이므로 모순이다.

• 임의의 순서수들의 집합 ${\displaystyle S\subseteq \kappa }$에 대하여, ${\displaystyle \textstyle f(\sup S)=\sup _{s\in S}f(s)}$

베블런 고정점 정리(Veblen固定點定理, 영어: Veblen fixed-point theorem)에 따르면, ${\displaystyle f}$의 고정점들의 모임의 상한은 ${\displaystyle \kappa }$이다.

이에 따라, 정규 함수 ${\displaystyle f}$의 도함수(導函數, 영어: derivative) ${\displaystyle f'\colon \kappa \to \kappa }$를 다음과 같이 정의할 수 있다.

${\displaystyle f'(\alpha )}$는 ${\displaystyle f}$의 ${\displaystyle \alpha }$번째 고정점이다.

정규 함수의 도함수 역시 정규 함수이다. 따라서, 이를 반복하여 모든 유한 순서수 ${\displaystyle n}$에 대하여 도함수를 다음과 같이 정의할 수 있다.

${\displaystyle f^{(\alpha +1)}=(f^{(\alpha )})'}$

보다 일반적으로, 임의의 양의 극한 순서수 ${\displaystyle \alpha }$에 대하여, 그보다 작은 차수의 도함수들의 공통된 고정점들의 집합

${\displaystyle \bigcap _{\beta <\alpha }\left\{\gamma <\kappa \colon f^{(\beta )}(\gamma )=\gamma \right\}}$

은 ${\displaystyle \kappa }$와 순서 동형이며, 따라서 이를 열거하여 ${\displaystyle f^{(\alpha )}(\gamma )}$를 위 공통 고정점 집합의 ${\displaystyle \alpha }$번째 원소로 정의할 수 있다.

이와 같이, ${\displaystyle f}$의 초한 도함수들을 모두 정의할 수 있다. 이 초한 함수열을 ${\displaystyle f}$의 베블런 위계(영어: Veblen hierarchy)라고 한다.

특히, 순서수 ${\displaystyle \delta }$에 대하여 ${\displaystyle \delta }$진 베블런 위계(영어: base-${\displaystyle \delta }$ Veblen hierarchy)란 정규 함수 ${\displaystyle \alpha \mapsto \delta ^{\alpha }}$에 대한 베블런 위계를 뜻하며, 정규 함수를 명시하지 않고 "베블런 위계"라고 하면 ${\displaystyle \alpha \mapsto \omega ^{\alpha }}$의 베블런 위계를 뜻한다.

다음과 같은 함수들은 정규 함수이다.

• 임의의 순서수 ${\displaystyle \beta <\kappa }$에 대하여, ${\displaystyle \alpha \mapsto \beta +\alpha }$ (그러나 ${\displaystyle \alpha \mapsto \alpha +1}$은 정규 함수가 아니다)
• 임의의 순서수 ${\displaystyle 1\leq \beta <\kappa }$에 대하여, ${\displaystyle \alpha \mapsto \beta \cdot \alpha }$
• 임의의 순서수 ${\displaystyle 2\leq \beta <\kappa }$에 대하여, ${\displaystyle \alpha \mapsto \beta ^{\alpha }}$
• 알레프 수 ${\displaystyle \alpha \mapsto \aleph _{\alpha }}$
• 베트 수 ${\displaystyle \alpha \mapsto \beth _{\alpha }}$

(마지막 두 예는 도달 불가능한 기수는 알레프 함수와 베트 함수의 고정점이기 때문이다.^{[1]:16, 20[2]:78, Exercise 1.7.7(b)})

정규 함수의 개념과 베블런 고정점 정리는 오즈월드 베블런이 1908년에 도입하였다.^[3] 베블런은 정규 함수를 "연속 증가 함수"(영어: continuous increasing function)라고 불렀다.^{[3]:281, §1}

• Glass, Frederick S. (1984년 5월). “Constructive ordinal notation systems” (PDF). 《Mathematics Magazine》 (영어) 57 (3): 131–141. doi:10.2307/2689658. JSTOR 2689658. 2015년 9월 5일에 원본 문서 (PDF)에서 보존된 문서. 2016년 7월 20일에 확인함. 
• Miller, Larry W. (1976). “Normal functions and constructive ordinal notations”. 《The Journal of Symbolic Logic》 (영어) 41 (2): 439–459. doi:10.2307/2272243. JSTOR 2272243. 
• Gallier, Jean H. (1991년 9월 19일). “What’s so special about Kruskal’s theorem and the ordinal Γ₀? A survey of some results in proof theory”. 《Annals of Pure and Applied Logic》 (영어) 53 (3): 199–260. doi:10.1016/0168-0072(91)90022-E. 

• Baez, John Carlos (2016년 7월 7일). “Large countable ordinals (part 3)”. 《Azimuth》 (영어).