数学 の分野における核作用素 （かくさようそ、英 : Nuclear operator ）とは、基底の選び方に依らない有限のトレース を定義出来るような、あるコンパクト作用素 のことを言う（ただし、この定義は少なくとも well-behaved な空間におけるものであって、いくつかの空間においては核作用素にトレースが存在しないこともある）。核作用素は、本質的にはトレースクラス作用素 と同じものであるが、多くの研究者は「トレースクラス作用素」という呼び名を、特別な場合としてのヒルベルト空間 上の核作用素に対して用いている。核作用素の、一般的なバナッハ空間 における定義はアレクサンドル・グロタンディーク によって与えられた。この記事では、一般的なバナッハ空間上の核作用素について扱う。より重要な、ヒルベルト空間上の核作用素（すなわち、トレースクラス作用素）については、トレースクラス作用素 の記事を参照されたい。
ヒルベルト空間
H
{\displaystyle {\mathcal {H}}}
L
:
H
→
H
{\displaystyle {\mathcal {L}}:{\mathcal {H}}\to {\mathcal {H}}}
は、次のような形式で記述できるとき、コンパクト作用素 であると言われる[要出典 ：
L
=
∑
n
=
1
N
ρ
n
⟨
f
n
,
⋅
⟩
g
n
{\displaystyle {\mathcal {L}}=\sum _{n=1}^{N}\rho _{n}\langle f_{n},\cdot \rangle g_{n}}
ここで
1
≤
N
≤
∞
{\displaystyle 1\leq N\leq \infty }
f
1
,
…
,
f
N
{\displaystyle f_{1},\ldots ,f_{N}}
g
1
,
…
,
g
N
{\displaystyle g_{1},\ldots ,g_{N}}
ρ
1
,
…
,
ρ
N
{\displaystyle \rho _{1},\ldots ,\rho _{N}}
N
=
∞
{\displaystyle N=\infty }
ρ
n
→
0
{\displaystyle \rho _{n}\to 0}
特異値 である。ブラケット
⟨
⋅
,
⋅
⟩
{\displaystyle \langle \cdot ,\cdot \rangle }
上で定義されたようなコンパクト作用素は
∑
n
=
1
∞
ρ
n
<
∞
{\displaystyle \sum _{n=1}^{\infty }\rho _{n}<\infty }
が成立するとき、核 （nuclear）あるいはトレースクラス （trace-class）であると言われる。
ヒルベルト空間上の核作用素には、そのトレース が有限で、基底の選び方に依存しない、という重要な性質がある。ヒルベルト空間において、与えられた任意の正規直交基底
{
ψ
n
}
{\displaystyle \{\psi _{n}\}}
Tr
L
=
∑
n
⟨
ψ
n
,
L
ψ
n
⟩
.
{\displaystyle {\mbox{Tr}}{\mathcal {L}}=\sum _{n}\langle \psi _{n},{\mathcal {L}}\psi _{n}\rangle .}
これはなぜかと言うと、右辺の和は絶対収束し、また基底に依存していないからである[要出典 。また、このトレースは、
L
{\displaystyle {\mathcal {L}}}
より主要な内容については、フレドホルム核 を参照。 トレースクラス作用素の定義は、1955年、アレクサンドル・グロタンディーク によって一般的なバナッハ空間 へと拡張された。
A と B をバナッハ空間とする。A' を、A の双対 、すなわち、通常のノルムを備える A 上のすべての連続 あるいは（同値であるが）有界作用素 の集合とする。このとき、作用素
L
:
A
→
B
{\displaystyle {\mathcal {L}}:A\to B}
は、
‖
g
n
‖
≤
1
{\displaystyle \Vert g_{n}\Vert \leq 1}
{
g
n
}
∈
B
{\displaystyle \{g_{n}\}\in B}
‖
f
n
∗
‖
≤
1
{\displaystyle \Vert f_{n}^{*}\Vert \leq 1}
{
f
n
∗
}
∈
A
′
{\displaystyle \{f_{n}^{*}\}\in A'}
inf
{
p
≥
1
:
∑
n
|
ρ
n
|
p
<
∞
}
=
q
{\displaystyle \inf \left\{p\geq 1:\sum _{n}|\rho _{n}|^{p}<\infty \right\}=q}
を満たす複素数 の列
{
ρ
n
}
{\displaystyle \{\rho _{n}\}}
L
=
∑
n
ρ
n
f
n
∗
(
⋅
)
g
n
{\displaystyle {\mathcal {L}}=\sum _{n}\rho _{n}f_{n}^{*}(\cdot )g_{n}}
のように書き表すことが出来るとき、次数 q の核 と呼ばれる。ここで、上式の和は作用素ノルムについて収束するものとする。
発展例として、A = B であるとき、そのような核作用素に対してトレースを定義できることもある。
次数 1 の核であるような作用素は、核作用素 と呼ばれる。それらは、級数 ∑ρn が絶対収束するようなものである。次数 2 の核であるような作用素は、ヒルベルト＝シュミット作用素 と呼ばれる。
より一般的に、局所凸位相ベクトル空間 A からバナッハ空間 B への作用素は、0 のある固定された近傍上ですべての fn * が 1 によって上から評価され、また 0 のある固定された近傍上ですべての gn が 1 によって上から評価されるという条件を、上述の条件に付帯する形で満たすとき、核 と呼ばれる。
A. Grothendieck (1955), Produits tensoriels topologiques et espace nucléaires,Mem. Am. Math.Soc. 16 . MR 0075539
A. Grothendieck (1956), La theorie de Fredholm, Bull. Soc. Math. France , 84 :319-384. MR 0088665
A. Hinrichs and A. Pietsch (2010), p -nuclear operators in the sense of Grothendieck, Mathematische Nachrichen 283 : 232-261. doi :10.1002/mana.200910128 MR 2604120
G. L. Litvinov (2001), “Nuclear operator” , in Hazewinkel, Michiel, Encyclopedia of Mathematics ISBN 978-1-55608-010-4 , https://www.encyclopediaofmath.org/index.php?title=Nuclear_operator 
