我们今天一起来看正交向量和正交矩阵的看法，首先我们来温习一下向量相关。
向量内积这个基本上是中学当中数学课本上的看法，两个向量的内积很是简朴，我们直接看公式回首一下：
这里X和Y都是n维的向量，两个向量能够盘算内积的条件 是两个向量的维度一样。从上面公式可以看出来，两个向量的内积就即是两个向量对应各个维度的分量的乘积的和。
为了和矩阵乘法以及通俗 的乘法做区分，我们通常把两个向量的内积写成：
这里有一个很主要 的性子 ，对于一个向量而言，我们可以用欧几里得公式盘算它的长度。进一步，我们可以用向量的长度以及向量之间的夹角来体现向量的内积，如下：
其中的θ是x和y向量之间的夹角，对于三维及以下空间内的向量，这一点很是直观。对于高维度的向量，我们很难想象它的物理意义。不外没有关系，我们一样可以以为 向量之间存在一个广义超空间内的一个夹角。在机械学习领域，我们通常用这个夹角来反映向量之间的相似度。两个向量越相似，那么它们之间的夹角应该越小，对应的cos余弦值应该越大。以是 我们可以用两个向量之间的余弦值来反映它们之间的相似度。余弦值的盘算就源于此。
正交向量从上面的公式可以看出来，向量的内积即是两个向量长度乘上向量之间的夹角。对于非零向量而言，它们的长度都应该是大于0的。以是 两个向量的内积的巨细，就完全取决于向量之间的夹角θ。
若是 θ小于90°，那么
，那么内积为正值。若是 θ大于90°，那么余弦值为负值。以是 我们可以通过余弦值正负判断夹角是锐角照旧钝角。既然说到夹角，自然就离不开一种特殊情形 ——垂直。
若是 是在二维平面当中，两个向量夹角是90°，那么显然这两个向量垂直。在高维空间当中也是一样，不外我们一样平常 不说垂直，而是会换一个词——正交。两个非零向量的内积为0，说明两个向量正交。
正交向量组搞清晰 了正交向量之后，正交向量组也就明确了。正交向量组是指一组两两正交且非零的向量组。
若是 n维的向量组:
两两正交，那么，它们一定线性无关。也就是说不存在一组不为零的系数λ，使得：
这点很容易证实 ，由于向量组内向量均不为0，我们只需要在等式双方 随便乘上一个向量即可，假设我们乘的是a1。由于它与其他向量两两正交，以是 其他项全为0。若是 要等式建设，那么必须要：由于a1不为0，那么一定不为0，要使得等式建设，只能是λ1为0。 规范正交基我们把正交向量组的看法和基的看法融合，若是 向量组
是向量空间V的一个基。若是 它们之间相互正交，那么就称它们是一组规范正交基。
对于向量a，我们可以很利便 地求出它在规范正交基下各个维度的坐标：
也就是说向量a，在规范正交基下某一个维度的坐标， 即是它和整个维度的正交基向量的内积。
若是 说我们已经知道向量空间V中的一组基是
，我们怎么求V的规范正交基呢？
这里要用到一个算法，叫做施密特算法。通过这个算法，我们可以通过向量空间的一组基来求出它的正交基。
这个算法很简朴，我们可以直接写出它的公式：
我们随便取两个b向量乘一下就知道，b向量组之中两两正交。以是 ，我们只要将b向量组单元化一下，就可以求出对应的规范正交基了。
即：
这个算法虽然不难，但蛮主要 。在机械学习领域中一些降维算法，许多都与施密特正交化要领有关。
正交矩阵之前我们在先容 矩阵的时间 ，曾经说过，我们可以把一个矩阵看成是一个特定的向量组的结构。同样，我们也可以把一个规范正交基向量组看成是一个矩阵，那么这个矩阵就称为是正交矩阵。
它拥有如下性子 ：
其中I是单元矩阵，它的充要条件是矩阵A当中的每一列都是一个单元列向量，而且两两正交。
最后，我们看一下正交矩阵的性子 。它的主要性子 有三个：
1. 若是 A是正交矩阵，那么
，也是正交矩阵，而且
2. 若是 A和B都是正交矩阵，而且它们阶数一样，那么AB也是正交矩阵。
3. 若是 A是正交矩阵，向量y经由 A变换之后行列式保持稳固 。
这三个性子 都很简朴，我们通过正交矩阵的性子 基本上都可以直接推导获得，或者是很是直观，和我们的直觉吻合。着实 怎么推导不是重点，对于算法工程师而言，更主要 的是明确 这些看法的意思，而且将它与算法模子 当中起到的功效联系起来，这才是最主要 的事情。
今天关于正交向量和矩阵的内容就到这里，希望各人学有收获，若是 喜欢本文， 请点个关注或者转发支持作者吧~