协方差（Covariance）协方差及协方差矩阵有着特别广泛的应用，在多元高斯分布、高斯过程、卡尔曼滤波等算法中多有用到，本文从协方差、协方差矩阵讲起，并重点讲解协方差矩阵在高斯分布中的用法及意义，也是讲解高斯过程、贝叶斯优化的铺垫。
X、Y两个随机变量的协方差在和中用于衡量两个变量的总体。用来刻画两个随机变量之间的相关性：
假定我们不知道潜在的概率分布，我们取n个样本来计算：
分别计算这n样本的两个变量的均值，这两个变量的协方差可以用下式来计算：
由于变量都有量纲，如果消除各自量纲影响，将协方差除以两个变量的标准差，则可得相关系数：
