不变子空间亦称稳定子空间，又称平凡子空间，与线性变换有关的一种子空间。设σ是数域P上线性空间V的线性变换，W是V的子空间，若对W中的任意一个向量α，σ(α)也属于W，则称W是σ的不变子空间或称σ子空间。σ的值域与核以及σ的特征子空间等都是σ的不变子空间，有限维的复线性空间的所有的线性变换都有一维不变子空间，有限维实线性空间的线性变换都有一维或二维不变子空间，特别地，奇数维的实线性空间的每一个线性变换都有一维的不变子空间。

设 是数域P上线性空间V的线性变换，W是V的子空间，若W中的向量在 下的象仍在W中，即，均有，则称W为 的不变子空间，也可简称 -子空间。

设 是线性空间V的线性变换，W是 的不变子空间，可把 看成是W的一个线性变换，称为 在不变子空间W上引起的变换，用符号 表示。

设， ，W是 的不变子空间，取W的基，将其扩充为V的一组基，则 在此基下的矩阵为，且左上角的k阶块 就是 在W的基 下的矩阵；反之，若 在基 下的矩阵为，则 是 的不变子空间。

V能分解成若干个 一子空间的直和 的充分必要条件是V中存在一组基，其中 为 的一组基，使得 在此基下的矩阵为准对角矩阵，其中 是 在基 下的矩阵。

设线性变换 的特征多项式，则V可分解成不变子空间的直和

证明思路：令 记。

1)证明；

2)证明；

3)证明 是直和，从而 也是直和；

4)证明。

例1设， ，在基 下的矩阵为

求 的含 的最小不变子空间W，并写出 在W的相应基下的矩阵。

证明 由于，那么

因W是含 的 一子空间， ，那么，因此, ，从而有，所以

另外，由 知， ，

因此 也是 一子空间，所以，

由 也可知，在W的基 下的矩阵为

例2设V是复数域上的n维线性空间， ， ， 。证明：

1)若 是 的一特征值，则特征子空间 是 -子空间；

2) ，至少有一个公共的特征向量。

证明 1) ，任给，那么

因此，所以 是 -子空间。

2)由1)知 是 -子空间，则 是 的一个线性变换，其特征多项式必有复根 (即 的特 征值)，设相应的特征向量为 ，那么

所以 就是 的公共特征向量。