【矩阵论】Chapter 8—范数与极限知识点总结复习

1 向量范数

• 向量范数定义

  设$V$是数域$P$上的线性空间，$||x||$是以$V$中的向量$x$为自变量的非负实值函数，如果满足以下三个条件：

  1. 非负性：$||x||\ge 0$，且$||x||=0$当且仅当$x=0$
  2. 齐次性：$\forall \alpha \in P,x\in V$，有$||\alpha x||=|\alpha |||x||$
  3. 三角不等式：$\forall x,y\in V$，有$||x+y||\le ||x||+||y||$

  则称$||x||$为向量$x$的范数，并称定义了范数的线性空间为赋范线性空间。

• $1$范数，$2$范数、$\infty$范数和$p$范数

  在$n$维向量空间$C^n$中，对任意向量$x=(x_1,...,x_n{)}^T\in C^n$

  $1$范数：$||x|{|}_1={\sum }_{i=1}^n|x_i|$

  $2$范数：$||x|{|}_2=({\sum }_{i=1}^n|x_i{|}^2{)}^{\frac{1}{2}}$

  $\infty$范数：$$\begin{gathered} ||x|{|}_{\infty }={\max }_{ \\ 1\le i\le n}|x_i| \end{gathered}$$

  $p$范数：$||x|{|}_p=({\sum }_{i=1}^n|x_i{|}^p{)}^{\frac{1}{p}}$

• 利用已知范数构造新范数

  设$||\cdot |{|}_{\beta }$是$C^m$上的向量范数，$A\in C^{m\times n}$且$rank(A)=n$，则由$||x|{|}_{\alpha }=||Ax|{|}_{\beta },x\in C^n$所定义的$||\cdot ||$是$C^n$上的向量范数

• 性质

  1. 向量范数的等价具有自反性、对称性和传递性
  2. 有限维线性空间$V$上的任意两个向量范数都是等价的

2 矩阵范数

• 矩阵范数定义

  设$||A||$是以$C^{m\times n}$中的矩阵$A$为自变量的非负实值函数，如果满足以下四个条件：

  1. 非负性：$||A||\ge 0$，且$||A||=0$当且仅当$A=0$
  2. 齐次性：$\forall \alpha \in C,A\in C^{m\times n}$，有$||\alpha A||=|\alpha |||A||$
  3. 三角不等式：$\forall A,B\in C^{m\times n}$，有$||A+B||\le ||A||+||B||$
  4. 相容性：$\forall A,B\in C^{m\times n}$，有$||AB||\le ||A||||B||$

  则称$||A||$为$m\times n$矩阵$A$的范数

• 定理

  设$A=(a_{ij})\in C^{n\times n}$，则由$l_1,l_2,l_{\infty }$向量范数各自推导得到的矩阵范数$||A|{|}_1,||A|{|}_2,||A|{|}_{\infty }$

  1. 行和范数：$||A|{|}_1={\max }_{\begin{array}{c}\\ 1\le j\le n\end{array}}{\sum }_{\begin{array}{c}i\end{array}=1}^n|a_{ij}|$
  2. 列和范数：$||A|{|}_{\infty }={\max }_{\begin{array}{c}\\ 1\le i\le n\end{array}}{\sum }_{\begin{array}{c}j\end{array}=1}^n|a_{ij}|$
  3. 谱范数：$||A|{|}_2=\sqrt{{\lambda }_{max}(A^{H}A)}$
  4. $F$范数：$||A|{|}_f=\sqrt{{\sum }_{\begin{array}{c}\end{array}i=1}^n{\sum }_{\begin{array}{c}j\end{array}=1}^n|a_{ij}{|}^2}$

• Python求解矩阵范数

  import numpy as np
  
  A = np.matrix([[-1, -1, 4], [1, 1, 2], [1, -2, 2]])
  
  # 表示复数矩阵[[1, -1, 1], [-i, 0, 2i], [1, 1, 1]]
  B = np.matrix([[1, -1, 1], [-1j, 0, 2j], [1, 1, 1]])
  
  # 求A的矩阵范数，ord分别为1，2，np.inf，F
  print("A范数")
  print("A的1范数（列和范数）：", np.linalg.norm(A, ord=1))
  print("A的2范数（谱范数）：", np.linalg.norm(A, ord=2))
  print("A的无穷范数（行和范数）：", np.linalg.norm(A, ord=np.inf))
  print("A的F范数：", np.linalg.norm(A, ord='fro'))
  
  print("B范数")
  print("B的1范数（列和范数）：", np.linalg.norm(B, ord=1))
  print("B的2范数（谱范数）：", np.linalg.norm(B, ord=2))
  print("B的无穷范数（行和范数）：", np.linalg.norm(B, ord=np.inf))
  print("B的F范数：", np.linalg.norm(B, ord='fro'))
  

3 矩阵序列

• 矩阵序列的收敛

  设有矩阵序列 { A ( k ) } \{A^{(k)}\} {A(k)}，其中$A^{(k)}=(a_{ij}^{(k)})\in C^{m\times n}$，如果当$k\to \infty$时，矩阵$A^{(k)}$的每一个元素$a_{ij}^{(k)}$都有极限$a_{ij}$，即
  $$\underset{k\to \infty }{\lim }{a}_{ij}^{(k)}=a_{ij},1\le i\le m;1\le j\le n$$
  则称矩阵序列 { A ( k ) } \{A^{(k)}\} {A(k)}是收敛的，并把矩阵$A=(a_{ij})\in C^{m\times n}$称为 { A ( k ) } \{A^{(k)}\} {A(k)}的极限。

• 定理

  设$A\in C^{n\times n}$，$$\begin{gathered} {\lim }_{ \\ k\to \infty }{A}^k=0 \end{gathered}$$的充要条件是$\rho (A)<1$。其中$\rho (A)$为$A$的谱半径，即所有特征值的绝对值的最大值。

4 矩阵级数

• 矩阵级数定义

  设有矩阵序列 { A ( k ) } ∈ C m × n \{A^{(k)}\}\in C^{m\times n} {A(k)}∈Cm×n，则无穷和$A^{(1)}+A^{(2)}+...+A^{(k)}+...$称为矩阵级数，记为$$\begin{gathered} {\sum }_{ \\ k=1}^{\infty }{A}^{(k)} \end{gathered}$$。由定义可知，矩阵级数收敛的充要条件是$mn$个数项级数$$\begin{gathered} {\sum }_{ \\ k=1}^{\infty }{a}_{ij}^{(k)}(1\le i\le m,1\le j\le n) \end{gathered}$$都收敛，如果它们都绝对收敛，则称矩阵级数绝对收敛。

• 定理

  矩阵级数$$\begin{gathered} {\sum }_{ \\ k=1}^{\infty }{A}^{(k)} \end{gathered}$$绝对收敛的充要条件是数项级数$$\begin{gathered} {\sum }_{ \\ k=1}^{\infty }||A^{(k)}|| \end{gathered}$$，其中$||\cdot ||$是$C^{m\times n}$上的任一矩阵范数。

• 矩阵幂级数定义

  设$A\in C^{n\times n}$，形如
  $$\begin{gathered} \sum _{ \\ k=0}^{\infty }{c}_k{A}^k=c_{0}I+c_{1}A+c_2{A}^2+\cdots +c_k{A}^k+\cdots \end{gathered}$$
  的矩阵级数称为矩阵幂级数。

• 定理

  设$A\in C^{n\times n}$，并且幂级数$$\begin{gathered} {\sum }_{ \\ k=0}^{\infty }{c}_k{x}^k \end{gathered}$$的收敛半径为$R$，如果$\rho (A)<R$，则矩阵幂级数$$\begin{gathered} {\sum }_{ \\ k=0}^{\infty }{c}_k{A}^k \end{gathered}$$绝对收敛；如果$\rho (A)>R$，则矩阵幂级数$$\begin{gathered} {\sum }_{ \\ k=0}^{\infty }{c}_k{A}^k \end{gathered}$$发散。

• 求收敛半径

  设幂级数$$\begin{gathered} {\sum }_{ \\ k=0}^{\infty }{c}_k{x}^k \end{gathered}$$

  1. 比值法

     $$\begin{gathered} R={\lim }_{ \\ n\to \infty }|\frac{a_n}{a_{n+1}}| \end{gathered}$$

  2. 根式法

     $$\begin{gathered} R={\lim }_{ \\ n\to \infty }|\frac{1}{\sqrt[n]{a_n}}| \end{gathered}$$

• 例题

  Given $A=\left[\begin{array}{ccc}1& 0& -2\\ -10& 3& -28\\ 0& 0& 1\end{array}\right]$

  For $T>0$, find the radius of covergence for
  $$\begin{gathered} s(z)=\sum _{ \\ k=0}^{\infty }\frac{1}{(T^3+\frac{3}{k^2+3}{)}^{\frac{k}{3}}}{z}^k \end{gathered}$$
  Let $h(z)=s(2z-T)$. Decide when the matrix power series $h(A)$ converges absolutely.

  Solution:

  For $s(z)$: $$\begin{gathered} R={\lim }_{ \\ k\to \infty }\frac{(T^3+\frac{3}{(k+1{)}^2+3}{)}^{\frac{k+1}{3}}}{(T^3+\frac{3}{k^2+3}{)}^{\frac{k}{3}}}={\lim }_{ \\ k\to \infty }\frac{(T^3{)}^{\frac{k+1}{3}}}{(T^3{)}^{\frac{k}{3}}}=T \end{gathered}$$

  So for matrix $2A-TI$, we can determine $|\lambda I-2A+TI|=(\lambda -2+T{)}^2(\lambda -6+T)=0$, The eigenvalues are solved as: $2-T,2-T,6-T$.

  From $\{\begin{array}{c}|2-T|<T\\ |6-T|<T\end{array}$ , so when $T>3$, $h(A)$ converges absolutly.

5 矩阵函数

• 矩阵函数定义

  设$A\in C^{n\times n}$，一元函数$f(z)$能够展开为$z$的幂级数$$\begin{gathered} f(z)={\sum }_{ \\ k=0}^{\infty }{c}_k{z}^k \end{gathered}$$，并且该幂级数的收敛半径为$R$。当矩阵$A$的谱半径$\rho (A)<R$时，则将收敛矩阵幂级数$$\begin{gathered} {\sum }_{ \\ k=0}^{\infty }{c}_k{A}^k \end{gathered}$$的和定义为矩阵函数，记为$f(A)$，即$$\begin{gathered} f(A)={\sum }_{ \\ k=0}^{\infty }{c}_k{A}^k \end{gathered}$$。

• 常见矩阵函数

  1. 矩阵指数函数：$$\begin{gathered} e^A={\sum }_{ \\ k=0}^{\infty }\frac{1}{k!}{A}^k=I+A+\frac{1}{2!}+\cdots +\frac{1}{n!}{A}^n+\cdots \end{gathered}$$
  2. 矩阵正弦函数：$$\begin{gathered} sinA={\sum }_{ \\ k=0}^{\infty }\frac{(-1{)}^k}{(2k+1)!}{A}^{2k+1}=A-\frac{1}{3!}{A}^3+\frac{1}{5!}{A}^5-\cdots +(-1{)}^n\frac{1}{(2n+1)!}{A}^{2n+1} \end{gathered}$$
  3. 矩阵余弦函数：$$\begin{gathered} cosA={\sum }_{ \\ k=0}^{\infty }\frac{(-1{)}^k}{(2k)!}{A}^{2k}=A-\frac{1}{2!}{A}^2+\frac{1}{4!}{A}^4-\cdots +(-1{)}^n\frac{1}{(2n)!}{A}^{2n} \end{gathered}$$

• 定理

  设$A,B\in C^{n\times n}$，如果$AB=BA$，则$e^A{e}^B=e^B{e}^A=e^{A+B}$。

• 利用Jordan标准型求矩阵函数$f(A)$

  1. 求出矩阵$A$的若当标准型$J$和可逆矩阵$P,P^{-1}$，其中$J=diag(J_1,J_2,\cdots ,J_s)$
  2. 计算$$\begin{gathered} f(J_i)={\sum }_{ \\ k=1}^{\infty }{a}_k{J}_i^k={\sum }_{ \\ k=1}^{\infty }{a}_k=\left[\begin{array}{cccc}f({\lambda }_i)& \frac{1}{1!}{f}^{\prime }({\lambda }_i)& \cdots & \frac{1}{(m_i-1)!}{f}^{(m_i-1)}({\lambda }_i)\\ & f({\lambda }_i)& \cdots & \frac{1}{(m_i-2)!}{f}^{(m_i-2)}({\lambda }_i)\\ & & \ddots & ⋮\\ & & & f({\lambda }_i)\end{array}\right] \end{gathered}$$
  3. 则$$\begin{gathered} f(A)={\sum }_{ \\ k=0}^{\infty }{a}_{k}P{J}^k{P}^{-1}=P({\sum }_{ \\ k=0}^{\infty }{a}_k{J}^k)P^{-1}=P\left[\begin{array}{ccc}f(J_1)& & \\ & \ddots & \\ & & f(J_s)\end{array}\right]P^{}-1 \end{gathered}$$