不變子空間

數學上，一個從某個線性空間$V$到自身的線性變換

$T:V\rightarrow V$

的不變子空間是$V$的一個子空間$W$使得$T(W)$包含於$W$。$T$的一個不變子空間也稱為是 $T$－不變的。

若$W$為$T$－不變，我們限制$T$到$W$上得到一個新的線性變換

$T|W:W\rightarrow W$

不變子空間的存在使得對於$T$的研究變得更為簡單。

當然$V$本身，和子空間${0}$，是每個線性算子$T:V\rightarrow V$的平凡不變子空間。對於特定的線性算子，可能沒有非平凡的不變子空間；譬如考慮二維實向量空間的旋轉。

另一個例子是：令${\textbf {v}}$為$T$的一個特徵向量，也即$T{\textbf {v}}=\lambda {\textbf {v}}$。則$W={\text{span}}\{{\textbf {v}}\}$是$T$不變的。

進一步擴展這個例子，我們可以證明每個在一個至少兩維的復有限維向量空間的每個線性算子有一個非平凡的不變子空間：$T$的特徵值是$T$的特徵多項式的零點，而該多項式根據代數基本定理總是有零點的；然後我們可以取對應於該特徵值的一個特徵向量張成的空間。這個證明在實數域上不成立，因為不是所有實多項式都有一個實根。

矩陣表示

在有限維向量空間上每個線性變換$T:V\rightarrow V$在選取了一個$V$的基以後都可以用一個矩陣來表達。假設現在$W$是一個$T$不變子空間。取$W$的一個基$C=\{{\textbf {i}}_{1},\cdots ,{\textbf {i}}_{k}\}$，並擴充成為$V$的一個基$B$。則$T$對應於基$B$的矩陣$[T]_{B}$將有如下形式：

$[T]_{B}={\begin{bmatrix}[T|_{W}]_{C}&*\\0&*\end{bmatrix}}$

其中左上角塊表達了$W$中的向量的像還在$W$本身中因此是$W$的基向量的線性組合這一事實。

不變子空間問題

主條目：不變子空間問題

不變子空間問題主要是關於$V$是大於1維的複數域上的可分希爾伯特空間，而$T$是有界算子的情況的。它求證是否$T$總是有一個非平凡閉子空間。該問題直至2006年還未獲解答。若$V$只是巴拿赫空間，1984年Charles Read證明存在反例。

推廣

更一般的，不變子空間可以定義在算子集合上（算子代數，群表示），它們是在該集合中的每個算子下不變的子空間。

例如，給定一個群$G$在向量空間$V$上的表示，每個$G$的元素$g$有一個對應的線性變換$T(g):V\rightarrow V$。若$V$的子空間$W$在所有這些變換下不變，則它是一個子表示，而群$G$以自然的方式作用於$W$上。