##### 正交投影的矩阵 - 正交投影的矩阵 - **正交投影的矩阵**是由被[[正交投影|投影]]的子空间上的[[正交基]]构建的[[对称矩阵]]. 设 $\mathbf{b_1}=\text{proj}_W\mathbf{a}$ 是 $\mathbf{a}\in V$ 在子空间 $W$ 上的正交投影向量, $\mathbf{b_1}\in W$, $\mathbf{b_2}\in W^{\perp}$, 设 $\{\mathbf{w_1},\mathbf{w_2},\cdots,\mathbf{w_n}\}$ 是 $W$ 的正交基, 则可构成矩阵 $W=\begin{bmatrix} \mathbf{w_1}&\mathbf{w_2}&\cdots&\mathbf{w_n}\end{bmatrix}$ , 并且有 $\mathbf{a}=\mathbf{b_1}+\mathbf{b_2}$, $\mathbf{b_1}\perp\mathbf{b_2}$, $\mathbf{b_1}=c_1\mathbf{w_1}+...+c_n\mathbf{w_n}=W\mathbf{c}$ , 由 $\mathbf{b_2}$ 与 $W$ 正交与其每个基向量正交可得 - $\begin{cases} \mathbf{w_1}^T\mathbf{b_2} = 0\\\mathbf{w_2}^T\mathbf{b_2} = 0 \\ \cdots \\ \mathbf{w_n}^T\mathbf{b_2} = 0 \end{cases}$ , $\begin{bmatrix} \mathbf{w_1}^T\\\mathbf{w_2}^T\\\vdots\\\mathbf{w_n}^T\end{bmatrix}\mathbf{b_2}=\mathbf{0}$ - $W^T(\mathbf{a}-\mathbf{b_1})=\mathbf{0}$ - $W^T(\mathbf{a}-W\mathbf{c})=\mathbf{0}$ - $W^T\mathbf{a}=W^TW\mathbf{c}$ - $\mathbf{c}=(W^TW)^{-1}W^T\mathbf{a}$ - $\mathbf{b_1}=W\mathbf{c}=W(W^TW)^{-1}W^T\mathbf{a}$ - 所以得正交投影的矩阵 $\mathbf{b_1}=P\mathbf{a}$ - $P=W(W^TW)^{-1}W^T$ - 如果 $W=\begin{bmatrix} \mathbf{w_1}&\cdots&\mathbf{w_n}\end{bmatrix}$ 为标准正交基构成, 则$W^TW=I$ - $P=WW^T$ - 如果 $W=\begin{bmatrix} \mathbf{w_1}\end{bmatrix}$ 为一维空间, 即在直线上的投影 - $\displaystyle P=\frac{\mathbf{w_1}\mathbf{w_1}^T}{\mathbf{w_1}^T\mathbf{w_1}}=\frac{\mathbf{w_1}\mathbf{w_1}^T}{\langle\mathbf{w_1},\mathbf{w_1}\rangle}$ - 正交投影的矩阵 $P$ 可以分解为作用在各个分量的矩阵 - $\displaystyle P=\frac{\mathbf{w_1}\mathbf{w_1}^T}{\langle\mathbf{w_1},\mathbf{w_1}\rangle} + \frac{\mathbf{w_2}\mathbf{w_2}^T}{\langle\mathbf{w_2},\mathbf{w_2}\rangle} + \cdots+\frac{\mathbf{w_n}\mathbf{w_n}^T}{\langle\mathbf{w_n},\mathbf{w_n}\rangle}$ - $\displaystyle P=\mathbf{w_1}\mathbf{w_1}^T + \mathbf{w_2}\mathbf{w_2}^T + \cdots+ \mathbf{w_n}\mathbf{w_n}^T$