Files
LinearAlgebra/01线性映射和矩阵.tex
2022-12-22 20:22:17 +08:00

779 lines
31 KiB
TeX
Raw Blame History

This file contains ambiguous Unicode characters
This file contains Unicode characters that might be confused with other characters. If you think that this is intentional, you can safely ignore this warning. Use the Escape button to reveal them.
\chapter{线性映射和矩阵}
\section{基本概念}
\begin{definition}[向量]
一个$m$元有序数组$\bvec{a} =
\begin{bmatrix}
a_1\\a_2\\\vdots\\a_m
\end{bmatrix}$
称为一个$m$为向量,实数$a_1, a_2, \dots, a_m$称为向量$\bvec{a}$的分量或坐标。
分量都是实数的$m$维向量的全体构成的集合记为$\realnum^m$
\end{definition}
\begin{definition}[线性运算]
$\realnum^m$中的向量定义两种运算
\begin{enumerate}
\item 两个$m$维向量的向量加法:
\(\begin{bmatrix}
a_1\\a_2\\\vdots\\a_m
\end{bmatrix}
+
\begin{bmatrix}
b_1\\b_2\\\vdots\\v_m
\end{bmatrix}
:=
\begin{bmatrix}
a_1 + b_1\\a_2 + b_2\\ \vdots \\a_m + b_m
\end{bmatrix}\)
\item 一个$m$为向量与一个实数的数乘
\(k
\begin{bmatrix}
a_1\\a_2\\\vdots\\a_m
\end{bmatrix}
:=
\begin{bmatrix}
ka_1\\ka_2\\\vdots\\ka_m
\end{bmatrix}\)
向量的加法和数乘统称向量的线性运算。
带有线性运算的集合$\realnum^m$,称为向量空间$\realnum^m$或线性空间$\realnum^m$
\end{enumerate}
\end{definition}
\begin{proposition}
线形空间$\realnum^m$中的向量加法和数乘满足如下八条运算法则:
\begin{enumerate}
\item 加法结合律:\((\bvec{a} + \bvec{b}) + \bvec{c} = \bvec{a} + (\bvec{b} + \bvec{c})\)
\item 加法交换律:\(\bvec{a} + \bvec{b} = \bvec{b} + \bvec{a}\)
\item 零向量:存在$m$维向量\(\bvec{0} =
\begin{bmatrix}
0\\0\\\vdots\\0
\end{bmatrix}\),满足\(\bvec{a} + \bvec{0} = \bvec{a}\)
\item 负向量:对任意\(\bvec{a} =
\begin{bmatrix}
a_1\\a_2\\\vdots\\a_m
\end{bmatrix}\)
,记
\(-\bvec{a} =
\begin{bmatrix}
-a_1\\-a_2\\\vdots\\-a_m
\end{bmatrix}\)
,则\(\bvec{a} + (-\bvec{a}) = \bvec{a}\),称$-\bvec{a}$$\bvec{a}$的负向量;
\item 单位数:$1\bvec{a} = \bvec{a}$
\item 数乘结合律:$(kl)\bvec{a} = k(l\bvec{a})$
\item 数乘关于数的分配律:$(k+l)\bvec{a} = k\bvec{a} + l\bvec{a}$
\item 数乘关于向量的分配律:$k(\bvec{a} + \bvec{b}) = k\bvec{a} + k\bvec{b}$
\end{enumerate}
\end{proposition}
\begin{definition}[线性映射]
映射$f: \realnum^n \to \realnum^m$,如果满足
\begin{enumerate}
\item 任取$\bvec{x}, \bvec{x}^\prime \in \realnum^n$,都有$f(\bvec{x} + \bvec{x}^\prime) = f(\bvec{x}) + f(\bvec{x}^\prime)$
\item 任取$\bvec{x} \in \realnum^n, k \in \realnum$,都有$f(k\bvec{x}) = kf(\bvec{x})$
\end{enumerate}
则称$f$为从$\realnum^n$$\realnum^m$的线性映射。
\end{definition}
\begin{definition}[线性变换]
$\realnum^n$到自身的线性映射称为$\realnum^n$上的线性变换。
\end{definition}
\section{线性映射的表示矩阵}
\begin{definition}[标准坐标向量]
$\realnum^n$中的一组向量
\[\bvec{e}_1 =
\begin{bmatrix}
1\\0\\\vdots\\0
\end{bmatrix}
,\quad
\bvec{e}_2 =
\begin{bmatrix}
0\\1\\\vdots\\0
\end{bmatrix}
,\quad \dots, \quad
\bvec{e}_n =
\begin{bmatrix}
0\\0\\\vdots\\1
\end{bmatrix}\]
称为$\realnum^n$的标准坐标向量组,其中$\bvec{e}_i$称为第$i$个标准坐标向量。
\end{definition}
\begin{definition}[线性组合与线性表示]
给定$\realnum^m$中向量组\[\bvec{a}_1, \bvec{a}_2, \dots, \bvec{a}_n\]和一组数\[k_1, k_2, \dots, k_n \in \realnum\eqco\]称向量$k_1\bvec{a}_1 + k_2\bvec{a}_2 + \dots + k_n\bvec{a}_n$是向量组$\bvec{a}_1, \bvec{a}_2, \dots, \bvec{a}_n$的一个线性组合。
$\bvec{b}$$\realnum^m$中的向量,如果存在一组数$k_1, k_2, \dots, k_n \in \realnum$,使得\[\bvec{b} = k_1\bvec{a}_1 + k_2\bvec{a}_2 + \dots + k_n\bvec{a}_n\eqco\]则称$\bvec{b}$可以被向量组$\bvec{a}_1, \bvec{a}_2, \dots, \bvec{a}_n$线性表示。
\end{definition}
\begin{proposition}
$f, g: \realnum^n \to \realnum^m$是两个线性映射,如果$f(\bvec{e}_i) = g(\bvec{e}_i),i = 1, 2, \dots, n$,则$f = g$
\end{proposition}
\begin{proposition}
任取$\realnum^m$中的$n$个向量$\bvec{a}_1, \bvec{a}_2, \dots, \bvec{a}_3$,都存在唯一的线性映射$f: \realnum^n \to \realnum^m$,满足$f(\bvec{e}_i) = \bvec{a}_i, i = 1, 2, \dots, n$
\end{proposition}
\begin{definition}[线性映射的表示矩阵]
设线性映射$f: \realnum^n \to \realnum^m$$\bvec{e}_i(i = 1, 2, \dots, n)$$\realnum^n$的标准坐标向量,若$\bvec{a}_i = f(\bvec{e}_i)$,则称矩阵
\(A =
\begin{bmatrix}
\bvec{a}_1 & \bvec{a}_2 & \cdots & \bvec{a}_n
\end{bmatrix}\)
为线性映射$f$在标准坐标向量下的表示矩阵。
\end{definition}
\begin{definition}[矩阵与向量的乘积]
定义$m \times n$矩阵$A$$n$维列向量$\bvec{x}$的乘积:
\[A\bvec{x} =
\begin{bmatrix}
a_{11} & a_{12} & \cdots & a_{1n}\\
a_{21} & a_{22} & \cdots & a_{2n}\\
\vdots & \vdots & \ddots & \vdots\\
a_{m1} & a_{m2} & \cdots & a_{mn}
\end{bmatrix}
\begin{bmatrix}
x_1\\x_2\\\vdots\\x_n
\end{bmatrix}
=
\begin{bmatrix}
a_{11}x_1 + a_{12}x_2 + \cdots + a_{1n}x_n\\
a_{21}x_1 + a_{22}x_2 + \cdots + a_{2n}x_n\\
\vdots\\
a_{m1}x_1 + a_{m2}x_2 + \cdots + a_{mn}x_n
\end{bmatrix}\eqper\]
\end{definition}
\begin{proposition}
矩阵和向量的成绩对向量的线性运算满足分配律:
\[A(k_1\bvec{x_1} + k_2\bvec{x}_2) = k_1(A\bvec{x}_1) = k_2(A\bvec{x}_2)\eqper\]
\end{proposition}
\begin{definition}[单位矩阵]
$\realnum^n$上的恒同变换的表示矩阵为对角元素都是1非对角元素都是0的矩阵它称为$n$阶恒同矩阵或$n$阶单位矩阵,记为$I_n$
\end{definition}
\begin{definition}[对角矩阵]
一般地,非对角元素全为零的方阵称为对角矩阵:
\[D =
\begin{bmatrix}
d_1 & & & \\
& d_2& & \\
& & \ddots &\\
& & & d_n
\end{bmatrix}
:=
\diag(d_1, d_2, \dots, d_n)\]
如果对角元素依次为$d_1, d_2,\dots, d_n$,那么这个对角矩阵称为$\diag(d_1, d_2, \dots, d_n)$表示。
\end{definition}
\begin{definition}[上下三角矩阵]
形如
\(U =
\begin{bmatrix}
u_{11} & \cdots & u_{1n}\\
& \ddots & \vdots\\
& & u_{nn}
\end{bmatrix}\)
的方阵称为$n$阶上三角矩阵,形如
\(L =
\begin{bmatrix}
l_{11} & &\\
\vdots & \ddots &\\
l_{n1} & \cdots & l_{nn}
\end{bmatrix}\)
的方阵称为$n$阶下三角矩阵。如果上三角矩阵的对角元素都是0则称为严格上三角矩阵。如果上三角矩阵的对角元素都是1则称为单位上三角矩阵。
\end{definition}
\section{线性方程组}
\begin{definition}[系数矩阵与增广矩阵]
对于线性方程组$A\bvec{x} = \bvec{b}$$A$称为线性方程组的系数矩阵,
\(\begin{bmatrix}
A & \bvec{b}
\end{bmatrix}\)
称为线性方程组的增广矩阵。
\end{definition}
\begin{definition}[初等变换]
对线性方程组施加的如下三类变换的每一类都称为线性方程组的初等变换:
\begin{enumerate}
\item 对换变换:互换两个方程的位置;
\item 倍乘变换:把某个方程两边同乘一个非零常数$k$
\item 倍加变换:把某个方程的$k$倍加到另一个方程上。
\end{enumerate}
\end{definition}
\begin{theorem}
线性方程组经某个初等变换后得到的新方程组与原方程组同解。
\end{theorem}
\begin{definition}[初等行(列)变换]
对矩阵施加的如下三类变换的每一类都称为矩阵的初等行(列)变换:
\begin{enumerate}
\item 对换变换:互换两行(列)的位置;
\item 倍乘变换:某一行(列)乘以非零常数$k$
\item 倍加变换:把某个行(列)的$k$倍加到另一个行(列)上。
\end{enumerate}
\end{definition}
\begin{definition}[自由变量、主变量]
在方程中可以任意取值的未知数称为自由变量,而取值依赖于右端项和自由变量的未知数称为主变量。用含自由变量的表达式表示主变量称为通解或一般解。
\end{definition}
\setcounter{MaxMatrixCols}{13}
\begin{definition}[阶梯形矩阵]
对增广矩阵做初等变换后的矩阵若满足
\begin{enumerate}
\item 元素全为0的行称为零行只存在于下方
\item 元素不全为0的行称为非零行从左数第一个不为0的元素称为主元的列指标随着行指标的增加而严格增加。
\end{enumerate}
则称为阶梯形矩阵。它具有以下形式:
\[\begin{bmatrix}
\makedot & \ast & \cdots & \ast & \ast & \cdots & \ast & \ast & \cdots & \ast & \ast & \cdots & \ast\\
& & & \makedot & \ast & \cdots & \ast & \ast & \cdots & \ast & \ast & \cdots & \ast\\
& & & & & & \makedot & \ast & \cdots & \ast & \ast & \cdots & \ast\\
& & & & & & & & \ddots & \vdots & \vdots & & \vdots\\
& & & & & & & & & \makedot & \ast & \cdots & \ast\\
& & & & & & & & & & & &
\end{bmatrix}\eqper\]
其中“$\ast$”表示可能不为0的数\makedot”表示一定不为0的数即“\makedot”处元素是主元。一个阶梯形矩阵的非零行数称为它的阶梯数。
在线性方程组的系数矩阵中,化成阶梯形后主元所在的列,对应着主变量的系数,称为主列;其它列对应着自由变量的系数,称为自由列。
\end{definition}
\begin{definition}[行简化阶梯形矩阵]
满足
\begin{enumerate}
\item 每个非零行的主元都是1
\item 每个主列除主元外的其它元素都是0
\end{enumerate}
的阶梯形矩阵称为行简化阶梯形矩阵。它具有以下形式:
\[\begin{bmatrix}
1 & \ast & \cdots & 0 & \ast & \cdots & 0 & \ast & \cdots & 0 & \ast & \cdots & \ast\\
& & & 1 & \ast & \cdots & 0 & \ast & \cdots & 0 & \ast & \cdots & \ast\\
& & & & & & 1 & \ast & \cdots & 0 & \ast & \cdots & \ast\\
& & & & & & & & \ddots & \vdots & \vdots & & \vdots\\
& & & & & & & & & 1 & \ast & \cdots & \ast\\
& & & & & & & & & & & &
\end{bmatrix}\eqper\]
矩阵$A$的行简化阶梯形记为$\rref(A)$
\end{definition}
\begin{theorem}
\begin{enumerate}
\item 任意矩阵都可以用对换行变换和倍加行变换化为阶梯形;
\item 任意矩阵都可以用初等行变换化为行简化阶梯形。
\end{enumerate}
\end{theorem}
\begin{theorem}[线性方程解的判定定理]
\begin{enumerate}
\item 如果
\(\begin{bmatrix}
A & \bvec{b}
\end{bmatrix}\)
对应的阶梯数比$A$对应的阶梯数多1此时方程出现了矛盾则方程组无解。
\item 如果
\(\begin{bmatrix}
A & \bvec{b}
\end{bmatrix}\)
$A$的阶梯数相等,则方程组有解。其中,
\begin{enumerate}
\item 如果阶梯形的阶梯数和未知数个数相等,则方程组有唯一解;
\item 如果阶梯形的阶梯数小于未知数个数,则方程组有无穷多组解。
\end{enumerate}
\end{enumerate}
\end{theorem}
\begin{definition}
方程组$A\bvec{x} = \bvec{0}$称为齐次线性方程组。它显然有一组解$x_1 = x_2 = \dots = x_n = 0$,称为零解或平凡解。除此之外其他解(如果存在)称为非零解或非平凡解。对应地,不是齐次的线性方程组,称为非齐次线性方程组。
\end{definition}
\begin{proposition}
一个齐次线性方程组只有零解当且仅当其系数矩阵的(行简化)阶梯形的阶梯数等于未知数的个数。等价地,一个齐次线性方程组有无穷多组解当且仅当它的(行简化)阶梯形的阶梯数小于未知数个数。
\end{proposition}
\begin{proposition}
一个齐次线性方程组中的方程个数小于未知数个数,则一定存在非零解。
\end{proposition}
\begin{definition}[三对角矩阵]
除对角元素及与其相邻的元素以外的其余元素都是零的方阵称为三对角矩阵。例如:
\[\begin{bmatrix}
1 & 1 & &\\
1 & 2 & 1 &\\
& 1 & 2 & 1\\
& & 1 & 2
\end{bmatrix} \eqper\]
\end{definition}
\begin{definition}[点空间]
空间中所有点构成的集合称为点空间。
\end{definition}
\section{线性映射的运算}
\subsection{线性运算}
\begin{definition}[映射的线性运算]
$\bvec{A},\bvec{B}: \realnum^n \to \realnum^m$是两个线性映射,$k \in \realnum$定义两个新的映射:
\[\begin{array}{rccc}
\bvec{A} + \bvec{B}: & \realnum^n & \to & \realnum^m\\
& \bvec{x} & \mapsto & \bvec{A}(\bvec{x}) + \bvec{B}(\bvec{x})\eqco\\
k\bvec{A}: & \realnum^n & \to & \realnum^m\\
& \bvec{x} & \mapsto & k\bvec{A}(\bvec{x})\eqper
\end{array}\]
$\bvec{A} + \bvec{B}$$\bvec{A}$$\bvec{B}$的和,$k\bvec{A}$为数$k$$\bvec{A}$的数乘。
\end{definition}
\begin{proposition}
映射$\bvec{A} + \bvec{B}$$k\bvec{A}$都是线性映射。
\end{proposition}
\begin{definition}[矩阵的线性运算]
\(A =
\begin{bmatrix}
a_{ij}
\end{bmatrix}_{m\times n}
, B =
\begin{bmatrix}
b_{ij}
\end{bmatrix}_{m\times n}\)
是两个$m \times n$矩阵,$k \in \realnum$,定义
\[A + B =
\begin{bmatrix}
a_{11} + b_{11} & a_{12} + b_{12} & \cdots & a_{1n} + b_{1n}\\
a_{21} + b_{21} & a_{22} + b_{22} & \cdots & a_{2n} + b_{2n}\\
\vdots & \vdots & \ddots & \vdots\\
a_{m1} + b_{m1} & a_{m2} + b_{m2} & \cdots & a_{mn} + b_{mn}
\end{bmatrix}\text{}\]
\[kA =
\begin{bmatrix}
ka_{11} & ka_{12} & \cdots & ka_{1n}\\
ka_{21} & ka_{22} & \cdots & ka_{2n}\\
\vdots & \vdots & \ddots & \vdots\\
ka_{m1} & ka_{m2} & \cdots & ka_{mn}
\end{bmatrix}\eqper\]
\end{definition}
\begin{proposition}
矩阵加法和数乘满足如下八条运算法则:
\begin{enumerate}
\item 加法结合律:$(A + B) + C = A + (B + C)$
\item 加法交换律:$A + B = B + A$
\item 零矩阵:$A + O_{m\times n} = A$,其中$O_{m \times n}$是所有元素全为0的矩阵称为$m \times n$零矩阵,简记为$O$
\item 负矩阵:对任意
\(A =
\begin{bmatrix}
a_{11} & a_{12} & \cdots & a_{1n}\\
a_{21} & a_{22} & \cdots & a_{2n}\\
\vdots & \vdots & \ddots & \vdots\\
a_{m1} & a_{m2} & \cdots & a_{mn}
\end{bmatrix}\)
,记
\(-A =
\begin{bmatrix}
-a_{11} & -a_{12} & \cdots & -a_{1n}\\
-a_{21} & -a_{22} & \cdots & -a_{2n}\\
\vdots & \vdots & \ddots & \vdots\\
-a_{m1} & -a_{m2} & \cdots & -a_{mn}
\end{bmatrix}\)
,它满足$A + (-A) = O$,称它为$A$的负矩阵;
\item 单位数:$1A = A$
\item 数乘结合律:$(kl)A = k(lA)$
\item 数乘对数的分配律:$(k+l)A = kA + lA$
\item 数乘对矩阵的分配律:$k(A + B) = kA + kB$
\end{enumerate}
\end{proposition}
\begin{proposition}
矩阵和向量的乘积对矩阵的线性运算满足分配律:
\[(k_1A_1 + k_2A_2)\bvec{x} = k_1(A_1\bvec{x}) + k_2(A_1\bvec{x})\eqper\]
\end{proposition}
\begin{definition}[转置]
定义$m \times n$矩阵$A$的转置:
\[A\trans =
\begin{bmatrix}
a_{11} & a_{12} & \cdots & a_{1,n-1} & a_{1n}\\
a_{21} & a_{22} & \cdots & a_{2,n-1} & a_{2n}\\
\vdots & \vdots & \ddots & \vdots & \vdots\\
a_{m1} & a_{m2} & \cdots & a_{m,n-1} & a_{mn}
\end{bmatrix}\trans
=
\begin{bmatrix}
a_{11} & a_{21} & \cdots & a_{m1}\\
a_{12} & a_{22} & \cdots & a_{m2}\\
\vdots & \vdots & \ddots & \vdots\\
a_{1,n-1} & a_{2,n-2} & \cdots & a_{m,n-1}\\
a_{1n} & a_{2n} & \cdots & a_{mn}
\end{bmatrix}\]
即,$A\trans$是由对调$A$的行和列得到的$n \times m$矩阵。
\end{definition}
\begin{definition}[对称矩阵]
如果矩阵$A$满足$A = A\trans$,就称之为对称矩阵。如果矩阵$A$满足$A = -A\trans$,就称之为反对称矩阵或斜对称矩阵。
\end{definition}
\subsection{复合}
\begin{proposition}
$\bvec{B}: \realnum^n \to \realnum^m, \bvec{A}:\realnum^m \to \realnum^l$是两个线性映射,则二者的复合映射$\bvec{A}\circ \bvec{B}: \realnum^n \to \realnum^l$也是一个线性映射。
\end{proposition}
\begin{definition}[矩阵乘法]
给定$l \times m$矩阵$A$$m \times n$矩阵
\(B =
\begin{bmatrix}
\bvec{b}_1 & \bvec{b}_2 & \cdots & \bvec{b}_n
\end{bmatrix}\)
,定义二者乘积$AB$是如下$l \times m$矩阵:
\[AB = A
\begin{bmatrix}
\bvec{b}_1 & \bvec{b}_2 & \cdots & \bvec{b}_n
\end{bmatrix}
:=
\begin{bmatrix}
A\bvec{b}_1 & A\bvec{b}_2 & \cdots & A\bvec{b}_n
\end{bmatrix}\eqper\]
特别地,对正整数$k$,方阵$A$$k$次幂定义为$A^k = \underbrace{AA\dots A}_{k\text{}}$
\end{definition}
\begin{proposition}
$\bvec{A}: \realnum^m \to \realnum^l, \bvec{B}: \realnum^n \to \realnum^m$是两个线性映射,记二者的表示矩阵分别为$A$$B$,则复合映射$\bvec{A} \circ \bvec{B}: \realnum^n \to \realnum^l$的表示矩阵为$C = AB$
\end{proposition}
\begin{proposition}
矩阵乘法满足结合律:$A(BC) = (AB)C$
\end{proposition}
\begin{definition}
如果$AB = BA$,我们称$A,B$可交换。此时$A,B$一定是同阶方阵。类似地,如果两个映射$\bvec{A},\bvec{B}$满足$\bvec{B}\circ \bvec{A} = \bvec{A} \circ \bvec{B}$,则称$\bvec{A},\bvec{B}$可交换。
\end{definition}
\begin{proposition}
$\bvec{B}, \bvec{B}^\prime: \realnum^n \to \realnum^m$$\bvec{A}, \bvec{A}^\prime: \realnum^m \to \realnum^l$是线性映射,$k \in \realnum$,则有如下运算法则:
\begin{enumerate}
\item 对加法的分配律:$(\bvec{A} + \bvec{A}^\prime) \circ \bvec{B} = \bvec{A} \circ \bvec{B} + \bvec{A}^\prime \circ \bvec{B}, \bvec{A} \circ (\bvec{B} + \bvec{B}^\prime) = \bvec{A} \circ \bvec{B} + \bvec{A} \circ \bvec{B}^\prime$
\item 对数乘的交换律:$k(\bvec{A} \circ \bvec{B}) = (k\bvec{A}) \circ \bvec{B} = A \circ (k \bvec{B})$
\end{enumerate}
\end{proposition}
\begin{proposition}
矩阵的乘法还满足如下运算法则:
\begin{enumerate}
\item 对加法的分配律:$(A + B)C = AC + BC, A(B+C) = AB + AC$
\item 对数乘的交换律:$k(AB) = (kA)B = A(kB)$
\end{enumerate}
\end{proposition}
\begin{definition}
$kI_n$称为数量矩阵,因为$kI_n$在矩阵乘法下的作用和数乘一样:$(kI_n)A = k(I_nA) = kA$
\end{definition}
\begin{proposition}
$A,B$分别是$l \times m$矩阵和$m \times n$矩阵,$\bvec{a}, \bvec{x}$$m$维列向量,则
\begin{enumerate}
\item $\bvec{a}\trans \bvec{x} = \bvec{x}\trans \bvec{a}$
\item $(A\bvec{x})\trans = \bvec{x}\trans A\trans$
\item $(AB)\trans = B\trans A\trans$
\end{enumerate}
\end{proposition}
\begin{definition}[矩阵的迹]
方阵$A$的对角元素的和称为它的迹,记作$\trace(A)$
\end{definition}
\begin{proposition}
矩阵的迹具有下列性质:
\begin{enumerate}
\item 对任意同阶方阵$A,B$$\trace(A+B) = \trace(A) + \trace(B)$
\item 对任意方阵$A$与实数$k$$\trace(kA) = k\trace(A)$
\item$m$阶单位阵$I_m$$\trace(I_m) = m$
\item 对任意方阵$A$$\trace(A) = \trace(A\trans)$
\item$\bvec{v},\bvec{w}$$m$维向量,则$\trace(\bvec{v}\trans \bvec{w}) = \trace(\bvec{w}\bvec{v}\trans)$
\item$A,B$分别是$m \times n, n \times m$矩阵,则$\trace(AB) = \trace(BA)$
\end{enumerate}
\end{proposition}
\section{矩阵的逆}
\subsection{初等矩阵}
\begin{definition}[初等矩阵]
对恒同矩阵$I_n$做一次初等变换,得到的矩阵统称为初等矩阵:
\begin{enumerate}
\item 对换行变换:把$I_n$的第$i,j$行位置互换,得到对换矩阵
\[P_{ij} =
\begin{bNiceMatrix}[last-row,last-col]
\ddots & & & & & & & & & \\
& 1 & & & & & & & &\\
& & 0 & & & & 1 & & & i\\
& & & 1 & & & & & &\\
& & & & \ddots & & & & &\\
& & & & & 1 & & & &\\
& &1 & & & & 0 & & &j\\
& & & & & & & 1 & &\\
& & & & & & & & \ddots &\\
& & i & & & & j & & &
\end{bNiceMatrix} \text{}\]
\item 倍乘行变换:第$i$行乘非零常数$k$,得到倍乘矩阵
\[E_{ii;k} =
\begin{bNiceMatrix}[last-row,last-col]
\ddots & & & & &\\
& 1 & & & & \\
& & k & & & i\\
& & & 1 & &\\
& & & & \ddots &\\
& & i & & &
\end{bNiceMatrix}\text{}\]
\item 倍加行变换:把第$i$行的$k$倍加到第$j$行上,得到倍加矩阵
\[E_{ji;k} =
\begin{bNiceMatrix}[last-row,last-col]
\ddots & & & & &\\
& 1 & & & & i\\
& & \ddots & & &\\
&k & & 1 & & j\\
& & & & \ddots &\\
& i & & j & &
\end{bNiceMatrix}
(j > i),\quad
E_{ji;k} =
\begin{bNiceMatrix}[last-row,last-col]
\ddots & & & & &\\
& 1 & & k & & j\\
& & \ddots & & &\\
& & & 1 & & i\\
& & & & \ddots &\\
& j & & i & &
\end{bNiceMatrix}
(j < i) \eqper\]
\end{enumerate}
\end{definition}
\begin{proposition}
\begin{enumerate}
\item 若矩阵$I_m$经过某一初等行变换得到矩阵$T$,则任意$m \times n$矩阵$A$经过相同初等行变换得到矩阵$TA$
\item 若矩阵$I_m$经过某一初等列变换得到矩阵$T$,则任意$m \times n$矩阵$A$经过相同初等列变换得到矩阵$AT$
\end{enumerate}
\end{proposition}
\subsection{可逆矩阵}
\begin{definition}[逆矩阵]
$A$$n$阶方阵,如果存在$n$阶方阵$B$,使得$AB = BA = I_n$则称$A$是可逆矩阵或非奇异矩阵,并称$B$$A$的一个逆(矩阵),记为$A\revmat$
\end{definition}
\begin{proposition}
初等矩阵可逆,且$P_{ij}\revmat = P_ij, E_{ii;k}\revmat = E_{ii;k^{-1}}, E_{ji;k}\revmat = E_{ji;-k}$
\end{proposition}
\begin{proposition}
对角矩阵$D$可逆当且仅当对角元算都不为零,且$D$可逆时有
\[D\revmat =
\begin{bmatrix}
d_1 & & &\\
& d_2 & &\\
& & \ddots &\\
& & &d_n
\end{bmatrix}\revmat
=
\begin{bmatrix}
d_1\revmat & & &\\
& d_2\revmat & &\\
& & \ddots &\\
& & &d_n\revmat
\end{bmatrix}\eqper\]
\end{proposition}
\begin{proposition}
$A,B$是可逆矩阵,则:
\begin{enumerate}
\item $A\revmat$可逆,且$(A\revmat)\revmat = A$
\item $A\trans$可逆,且$(A\revmat)\trans = (A\trans)\revmat$,记为$A^{-\mathrm{T}}$
\item $AB$可逆,且$(AB)\revmat = B\revmat A\revmat$
\end{enumerate}
\end{proposition}
\begin{theorem}
$A$$n$阶方阵,以下叙述等价:
\begin{enumerate}
\item $A$可逆;
\item 任取$n$维向量$\bvec{b}$,线性方程组$A\bvec{x} = \bvec{b}$的解唯一;
\item 齐次线性方程组$A\bvec{x} = \bvec{0}$只有零解;
\item $A$对应的阶梯形有矩阵有$n$个主元;
\item $A$对应的行简化阶梯形矩阵一定是$I_n$
\item $A$是有限个初等矩阵的乘积。
\end{enumerate}
\end{theorem}
\begin{proposition}
上三角矩阵可逆当且仅当其对角元素都不为零。此时其逆矩阵也是上三角矩阵,逆矩阵的对角元素是该矩阵的对应对角元素的倒数。
下三角矩阵也有类似性质。
\end{proposition}
\begin{definition}[置换矩阵]
单位矩阵经一系列对换行变换得到的矩阵为置换矩阵。
\end{definition}
\begin{proposition}
置换矩阵具有下列性质:
\begin{enumerate}
\item 单位矩阵经一系列对换列变换得到的矩阵也是置换矩阵;
\item 置换矩阵可以通过按某种次序排列单位矩阵的行来得到;
\item 置换矩阵可以通过按某种次序排列单位矩阵的列来得到;
\item 不同的$n$阶置换矩阵共有$n!$个;
\item 置换矩阵的乘积也是置换矩阵;
\item 置换矩阵的逆是其转置,也是置换矩阵。
\end{enumerate}
\end{proposition}
\begin{definition}[对角占优]
如果矩阵
\(A =
\begin{bmatrix}
a_{ij}
\end{bmatrix}_{m \times n}\)
$i = 1, 2, \dots, n$,都有$\vert a_ii \vert > \sum \limits_{j\neq i} \vert a_{ij} \vert$,则称其为(行)对角占优矩阵。
\end{definition}
\begin{proposition}
对角占优矩阵一定可逆。
\end{proposition}
\subsection{等价关系}
\begin{definition}[左相抵]
如果矩阵$A$可以一系列初等行变换化成矩阵$B$,则称$A$$B$左相抵。
\end{definition}
\begin{proposition}
给定两个$m \times n$矩阵$A, B$。那么二者左相抵,当且仅当存在$m$阶可逆矩阵$P$,使得$PA=B$
\end{proposition}
\begin{definition}[等价关系]
如果非空集合$S$的元素之间定义了一种二元关系“$\sim$”,满足:
\begin{enumerate}
\item 反身性:对任意$a \in S$$a \sin a$
\item 对称性:如果$a \sim b$,那么$b \sim a$
\item 传递性:如果$a \sim b, b \sim c$,那么$a \sim c$
\end{enumerate}
则称次关系为$S$上的一个等价关系。
$S$中所有与其中某一元素$a$等价的元素组成的集合称为$a$所在的等价类。由元素$a$变成预期等价的元素$b$的过程称为对应于这一等价关系的等价变换。同一等价类中的元素共享的某个属性称为这一等价关系中(或这一等价变换下)的不变量。同一等价类中的形式最简单、性质最好的元素往往称为这一等价关系中(或这一等价变换下)的标准形。
\end{definition}
\section{分块矩阵}
\begin{proposition}[分块矩阵的乘法和转置]
可以把矩阵分为任意大小的快,如
\[A =
\begin{bmatrix}
A_{11} & A_{12} & \cdots & A_{1s}\\
A_{21} & A_{22} & \cdots & A_{2s}\\
\vdots & \vdots & \ddots & \vdots\\
A_{r1} & A_{r2} & \cdots & A_{rs}
\end{bmatrix}
, B =
\begin{bmatrix}
B_{11} & B_{12} & \cdots & B_{1t}\\
B_{21} & B_{22} & \cdots & B_{2t}\\
\vdots & \vdots & \ddots & \vdots\\
B_{s1} & B_{s2} & \cdots & B_{st}
\end{bmatrix}\eqco\]
其中,$A_ij$$l_i \times m_j$矩阵,$B_{jk}$$m_j \times n_k$矩阵,则分块矩阵的乘法和转置分别为
\[AB =
\begin{bNiceMatrix}
\sum \limits_{p=1}^s A_{1p}B_{p1} & \sum \limits_{p=1}^s A_{1p}B_{p2} & \cdots & \sum \limits_{p=1}^s A_{1p}B_{pt}\\
\sum \limits_{p=1}^s A_{2p}B_{p1} & \sum \limits_{p=1}^s A_{2p}B_{p2} & \cdots & \sum \limits_{p=1}^s A_{2p}B_{pt}\\
\vdots & \vdots & \ddots & \vdots\\
\sum \limits_{p=1}^s A_{rp}B_{p1} & \sum \limits_{p=1}^s A_{rp}B_{p2} & \cdots & \sum \limits_{p=1}^s A_{rp}B_{pt}
\end{bNiceMatrix}
,\quad A\trans=
\begin{bmatrix}
A_{11}\trans & A_{21}\trans & \cdots & A_{r1}\trans\\
A_{12}\trans & A_{22}\trans & \cdots & A_{r2}\trans\\
\vdots & \vdots & \ddots & \vdots\\
A_{1s}\trans & A_{2s}\trans & \cdots & A_{rs}\trans
\end{bmatrix}\eqper\]
\end{proposition}
\begin{proposition}
若矩阵$A_{11}$$A_{22}-A_{21}A_{11}\revmat A_{12}$可逆,则矩阵
\(\begin{bmatrix}
A_{11} & A_{12}\\
A_{21} & A_{22}
\end{bmatrix}\)可逆,且
\[\begin{bmatrix}
A_{11} & A_{12}\\
A_{21} & A_{22}
\end{bmatrix}\revmat
=
\begin{bmatrix}
I & -A_{11}\revmat A_{12}\\
O & I
\end{bmatrix}
\begin{bmatrix}
A_{11} & A_{12}\\
O & (A_{22} - A_{21}A_{11}\revmat A_{12})\revmat
\end{bmatrix}
\begin{bmatrix}
I & O\\
-A_{21}A_{11}\revmat & I
\end{bmatrix}\eqper\]
\end{proposition}
\begin{corollary}
若矩阵$A_{22}$$A_{11} - A_{12}A_{22}\revmat A_{21}$可逆,则矩阵
\(\begin{bmatrix}
A_{11} & A_{12}\\
A_{21} & A_{22}
\end{bmatrix}\)可逆,且
\[\begin{bmatrix}
A_{11} & A_{12}\\
A_{21} & A_{22}
\end{bmatrix}\revmat
=
\begin{bmatrix}
I & O\\
-A_{22}\revmat & I
\end{bmatrix}
\begin{bmatrix}
A_{11} & A_{12}\\
O & (A_{22} - A_{21}A_{11}\revmat A_{12})\revmat
\end{bmatrix}
\begin{bmatrix}
I & -A_{12}A_{22}\revmat\\
O & I
\end{bmatrix}
\eqper\]
\end{corollary}
\section{LU分解}
\begin{theorem}[LU分解]
如果$n$阶方阵$A$只使用倍加矩阵$E_{ji;k}(j > i)$做行变换就可以化成阶梯形矩阵,那么存在$n$阶单位下三角矩阵$L$$n$上三角矩阵$U$,使得$A=LU$
分解$A = LU$称为$A$$LU$分解。
\end{theorem}
\begin{definition}[顺序主子阵]
方阵$A$的左上角$k \times k$块,称为$A$的第$k$个顺序主子阵。
\end{definition}
\begin{theorem}[可逆矩阵的LU分解]
$n$阶可逆矩阵$A$$A$$LU$分解$A = LU$,当且仅当$A$的所有顺序主子阵可逆。此时,$A$$LU$分解唯一。
\end{theorem}
\begin{proposition}[LDU分解]
如果$n$阶方阵$A$存在$LU$分解,那么存在$n$阶单位下三角矩阵$L$对角元素均不为0的$n$阶对角矩阵$D$,和$n$阶单位上三角矩阵$U$,使得$A = LDU$,且该分解唯一。
分解$A = LDU$称为矩阵$A$的LDU分解。
\end{proposition}
\begin{corollary}
可逆对称矩阵$A$如果有LDU分解$A = LDU$,则$L = U\trans$
分解$A = LDF\trans$称为对称矩阵$A$$\mathrm{LDL}\trans$分解。
\end{corollary}
\begin{theorem}[PLU分解]
给定$n$阶可逆矩阵$A$,则存在$n$阶置换矩阵$P$$n$阶单位下三角矩阵$L$和对角元素不为0的上三角矩阵$U$,使得$A = PLU$。特别地,下三角矩阵$L$可以选为所有元素的绝对值都不大于1的。
分解$A = PLU$称为矩阵$A$的PLU分解。
\end{theorem}