机器学习数学基础：18.向量组及其线性组合

向量组与线性表示：案例与教程详解

一、基础概念

（一）向量组

向量组是若干同位数列向量组成的集合。比如在平面直角坐标系中，向量组 { α ⃗ 1   = [ 1 0 ] , α ⃗ 2   = [ 0 1 ] } \{\vec{\alpha}_1 \ = \begin{bmatrix}1\\0\end{bmatrix}, \vec{\alpha}_2 \ = \begin{bmatrix}0\\1\end{bmatrix}\} {α 1​ =[10​],α 2​ =[01​]}，这两个向量都是二维列向量，构成了一个简单的向量组。再如三维空间里的向量组 { β ⃗ 1   = [ 1 2 3 ] , β ⃗ 2   = [ 4 5 6 ] } \{\vec{\beta}_1 \ = \begin{bmatrix}1\\2\\3\end{bmatrix}, \vec{\beta}_2 \ = \begin{bmatrix}4\\5\\6\end{bmatrix}\} {β ​1​ = ​123​ ​,β ​2​ = ​456​ ​}，它们是三维列向量组。

（二）秩

秩可理解为有效方程或独立向量的个数。以方程组$\{\begin{array}{l}x+2y=3\\ 2x+4y=6\end{array}$为例，第二个方程是第一个方程的 2 倍，实际上只有一个有效方程，对应的向量组 { [ 1 2 ] , [ 2 4 ] } \{\begin{bmatrix}1\\2\end{bmatrix}, \begin{bmatrix}2\\4\end{bmatrix}\} {[12​],[24​]}的秩为 1，因为只有一个独立向量（第二个向量可由第一个向量乘以 2 得到）。确定秩的方法通常是将向量组构成的矩阵化为行阶梯形矩阵，非零行的行数就是秩。

二、向量的线性表示

（一）定义与判定

若存在一组数${\lambda }_1,{\lambda }_2,\cdots ,{\lambda }_m$，使$\vec{\beta }={\lambda }_1{\vec{\alpha }}_1+{\lambda }_2{\vec{\alpha }}_2+\cdots +{\lambda }_m{\vec{\alpha }}_m$，则向量$\vec{\beta }$能由向量组${\vec{\alpha }}_1,{\vec{\alpha }}_2,\cdots ,{\vec{\alpha }}_m$线性表示。

案例：设向量组${\vec{\alpha }}_1=\left[\begin{array}{c}1\\ 1\end{array}\right]$，${\vec{\alpha }}_2=\left[\begin{array}{c}2\\ 2\end{array}\right]$，$\vec{\beta }=\left[\begin{array}{c}3\\ 3\end{array}\right]$。判断$\vec{\beta }$能否由${\vec{\alpha }}_1,{\vec{\alpha }}_2$线性表示。
从线性方程组角度，设$\vec{\beta }=x{\vec{\alpha }}_1+y{\vec{\alpha }}_2$，即$\left[\begin{array}{c}3\\ 3\end{array}\right]=x\left[\begin{array}{c}1\\ 1\end{array}\right]+y\left[\begin{array}{c}2\\ 2\end{array}\right]$，可化为方程组$\{\begin{array}{l}x+2y=3\\ x+2y=3\end{array}$。
计算向量组${\vec{\alpha }}_1,{\vec{\alpha }}_2$构成的矩阵$A=\left[\begin{array}{cc}1& 2\\ 1& 2\end{array}\right]$的秩$r(A)$，通过初等行变换得到$\left[\begin{array}{cc}1& 2\\ 0& 0\end{array}\right]$，$r(A)=1$。
增广矩阵$(A|\vec{\beta })=\left[\begin{array}{ccc}1& 2& 3\\ 1& 2& 3\end{array}\right]$，经初等行变换为$\left[\begin{array}{ccc}1& 2& 3\\ 0& 0& 0\end{array}\right]$，秩$r(A|\vec{\beta })=1$。
因为$r(A)=r(A|\vec{\beta })=1$，所以方程组有解，$\vec{\beta }$能由${\vec{\alpha }}_1,{\vec{\alpha }}_2$线性表示，且$\vec{\beta }=3{\vec{\alpha }}_1+0{\vec{\alpha }}_2$。

（二）求解线性表示表达式

教程：

1. 将向量组${\vec{\alpha }}_1,{\vec{\alpha }}_2,\cdots ,{\vec{\alpha }}_m$构成系数矩阵$A$，向量$\vec{\beta }$构成增广矩阵$(A|\vec{\beta })$。
2. 对增广矩阵进行初等行变换化为行最简形矩阵。
3. 从行最简形矩阵读取线性表示的系数。

案例：向量组${\vec{\alpha }}_1=\left[\begin{array}{c}1\\ 2\end{array}\right]$，${\vec{\alpha }}_2=\left[\begin{array}{c}2\\ 3\end{array}\right]$，$\vec{\beta }=\left[\begin{array}{c}3\\ 4\end{array}\right]$。
构建增广矩阵$\left[\begin{array}{ccc}1& 2& 3\\ 2& 3& 4\end{array}\right]$。
进行初等行变换：

• 第二行减去第一行的 2 倍，得$\left[\begin{array}{ccc}1& 2& 3\\ 0& -1& -2\end{array}\right]$。
• 第二行乘以 - 1，得$\left[\begin{array}{ccc}1& 2& 3\\ 0& 1& 2\end{array}\right]$。
• 第一行减去第二行的 2 倍，得$\left[\begin{array}{ccc}1& 0& -1\\ 0& 1& 2\end{array}\right]$。
  所以$\vec{\beta }=-1{\vec{\alpha }}_1+2{\vec{\alpha }}_2$。

三、向量组之间的关系

（一）相互线性表示

设有向量组$(I):{\vec{\alpha }}_1,{\vec{\alpha }}_2$及向量组$(II):{\vec{\beta }}_1,{\vec{\beta }}_2$。若向量组$(II)$中每个向量都能由向量组$(I)$线性表示，如${\vec{\beta }}_1=x_1{\vec{\alpha }}_1+y_1{\vec{\alpha }}_2$，${\vec{\beta }}_2=x_2{\vec{\alpha }}_1+y_2{\vec{\alpha }}_2$，则称向量组$(II)$能由向量组$(I)$线性表示。

（二）向量组等价

定义：若向量组$(I)$与向量组$(II)$可以相互线性表示，则称这两个向量组等价。

判定：

• 充要条件是$r(I)=r(II)=r(I,II)$。
• 若向量组$(I)$可由向量组$(II)$线性表示且$r(I)=r(II)$，则两个向量组等价。

案例：向量组$(I):{\vec{\alpha }}_1=\left[\begin{array}{c}1\\ 0\end{array}\right]$，${\vec{\alpha }}_2=\left[\begin{array}{c}0\\ 1\end{array}\right]$；向量组$(II):{\vec{\beta }}_1=\left[\begin{array}{c}1\\ 1\end{array}\right]$，${\vec{\beta }}_2=\left[\begin{array}{c}2\\ 2\end{array}\right]$。
向量组$(I)$的秩$r(I)=2$。
${\vec{\beta }}_1={\vec{\alpha }}_1+{\vec{\alpha }}_2$，${\vec{\beta }}_2=2{\vec{\alpha }}_1+2{\vec{\alpha }}_2$，所以向量组$(II)$能由向量组$(I)$线性表示。
将向量组合并为$(I,II):{\vec{\alpha }}_1,{\vec{\alpha }}_2,{\vec{\beta }}_1,{\vec{\beta }}_2$，其秩$r(I,II)=2$。
${\vec{\alpha }}_1={\vec{\beta }}_1-{\vec{\alpha }}_2$（这里${\vec{\alpha }}_2$可由${\vec{\beta }}_1$和${\vec{\alpha }}_1$表示，且${\vec{\alpha }}_1$本身存在），${\vec{\alpha }}_2={\vec{\beta }}_1-{\vec{\alpha }}_1$，所以向量组$(I)$能由向量组$(II)$线性表示，且$r(II)=2$，满足$r(I)=r(II)=r(I,II)$，两个向量组等价。

（三）相关结论

1. 被表示的秩不大

设向量组$(I)=\left\{{\vec{\alpha }}_1=\left[\begin{array}{c}1\\ 0\end{array}\right]\right\}$，这是一个一维向量组，其秩$r(I)=1$。
向量组$(II)=\left\{{\vec{\beta }}_1=\left[\begin{array}{c}1\\ 0\end{array}\right],{\vec{\beta }}_2=\left[\begin{array}{c}0\\ 1\end{array}\right]\right\}$，这是一个二维向量组，其秩$r(II)=2$。
可以发现向量组$(I)$中的向量${\vec{\alpha }}_1$能由向量组$(II)$中的向量表示，即${\vec{\alpha }}_1=1\times {\vec{\beta }}_1+0\times {\vec{\beta }}_2$，满足向量组$(I)$可由向量组$(II)$表示。同时，$r(I)=1\le r(II)=2$，验证了“被表示的秩不大”这一结论。

2. 被表示的可丢掉

设向量组$(I)=\left\{{\vec{\alpha }}_1=\left[\begin{array}{c}2\\ 2\end{array}\right]\right\}$，向量组$(II)=\left\{{\vec{\beta }}_1=\left[\begin{array}{c}1\\ 1\end{array}\right]\right\}$。
因为${\vec{\alpha }}_1=2\times {\vec{\beta }}_1$，所以向量组$(I)$可由向量组$(II)$表示。
向量组$(II)$构成的矩阵为$B=\left[\begin{array}{c}1\\ 1\end{array}\right]$，其秩$r(II)=1$。
将向量组$(I)$和$(II)$合并得到向量组$(II,I)=\left\{{\vec{\beta }}_1=\left[\begin{array}{c}1\\ 1\end{array}\right],{\vec{\alpha }}_1=\left[\begin{array}{c}2\\ 2\end{array}\right]\right\}$，构成的矩阵$C=\left[\begin{array}{cc}1& 2\\ 1& 2\end{array}\right]$，通过初等行变换可得$\left[\begin{array}{cc}1& 2\\ 0& 0\end{array}\right]$，其秩$r(II,I)=1$。
所以$r(II)=r(II,I)=1$，说明了在向量组$(I)$可由向量组$(II)$表示时，$r(II)=r(II,I)$，即被表示的可丢掉。

3. 但$(II)$不可由$(I)$表示时的秩关系

设向量组$(I)=\left\{{\vec{\alpha }}_1=\left[\begin{array}{c}1\\ 0\\ 0\end{array}\right]\right\}$，秩$r(I)=1$。
向量组$(II)=\left\{{\vec{\beta }}_1=\left[\begin{array}{c}1\\ 0\\ 0\end{array}\right],{\vec{\beta }}_2=\left[\begin{array}{c}0\\ 1\\ 0\end{array}\right]\right\}$，秩$r(II)=2$。
显然向量组$(I)$中的${\vec{\alpha }}_1$可由向量组$(II)$表示，${\vec{\alpha }}_1=1\times {\vec{\beta }}_1+0\times {\vec{\beta }}_2$。
但向量组$(II)$中的${\vec{\beta }}_2$无法由向量组$(I)$表示，因为仅${\vec{\alpha }}_1$无法组合出在$y$轴上有分量的向量。此时$r(I)=1<r(II)=2$，符合“若向量组$(I)$可由向量组$(II)$表示，但$(II)$不可由$(I)$表示，则$r(I)<r(II)$”这一结论。

4. 以少表多，多必相关

设向量组$(I)=\left\{{\vec{\alpha }}_1=\left[\begin{array}{c}1\\ 1\end{array}\right],{\vec{\alpha }}_2=\left[\begin{array}{c}2\\ 2\end{array}\right],{\vec{\alpha }}_3=\left[\begin{array}{c}3\\ 3\end{array}\right]\right\}$，向量组$(II)=\left\{{\vec{\beta }}_1=\left[\begin{array}{c}1\\ 1\end{array}\right]\right\}$。
可以看到${\vec{\alpha }}_1=1\times {\vec{\beta }}_1$，${\vec{\alpha }}_2=2\times {\vec{\beta }}_1$，${\vec{\alpha }}_3=3\times {\vec{\beta }}_1$，即向量组$(I)$可由向量组$(II)$表示。
向量组$(I)$中有$3$个向量，向量组$(II)$中有$1$个向量，$(I)$中向量个数大于$(II)$中向量个数。
对于向量组$(I)$，存在不全为零的数$k_1=-3$，$k_2=3$，$k_3=-1$，使得$k_1{\vec{\alpha }}_1+k_2{\vec{\alpha }}_2+k_3{\vec{\alpha }}_3=\left[\begin{array}{c}-3+6-3\\ -3+6-3\end{array}\right]=\left[\begin{array}{c}0\\ 0\end{array}\right]$，满足线性相关的定义，所以向量组$(I)$一定线性相关，验证了“以少表多，多必相关”的结论。