《协方差矩阵的详细说明.docx》由会员分享,可在线阅读,更多相关《协方差矩阵的详细说明.docx(2页珍藏版)》请在三一办公上搜索。
1、协方差矩阵的详细说明协方差矩阵的详细说明 变量说明: 设为一组随机变量,这些随机变量构成随机向量m个样本,则有样本矩阵 每个随机变量有 ,对应着第i个随机单变量的所其中 对应着每个随机向量X的样本向量, 有样本值构成的向量。 单随机变量间的协方差: 随机变量 之间的协方差可以表示为 根据已知的样本值可以得到协方差的估计值如下: 可以进一步地简化为: 协方差矩阵: 其中 ,从而得到了协方差矩阵表达式。 如果所有样本的均值为一个零向量,则式可以表达成: 补充说明: 1、协方差矩阵中的每一个元素是表示的随机向量X的不同分量之间的协方差,而不是不同样本之间的协方差,如元素Cij就是反映的随机变量Xi,
2、 Xj的协方差。 2、协方差是反映的变量之间的二阶统计特性,如果随机向量的不同分量之间的相关性很小,则所得的协方差矩阵几乎是一个对角矩阵。对于一些特殊的应用场合,为了使随机向量的长度较小,可以采用主成分分析的方法,使变换之后的变量的协方差矩阵完全是一个对角矩阵,之后就可以舍弃一些能量较小的分量了。特别是在模式识别领域,当模式向量的维数过高时会影响识别系统的泛化性能,经常需要做这样的处理。 3、必须注意的是,这里所得到的式和式给出的只是随机向量协方差矩阵真实值的一个估计,故而所得的协方差矩阵是依赖于采样样本的,并且样本的数目越多,样本在总体中的覆盖面越广,则所得的协方差矩阵越可靠。 4、如同协方差和相关系数的关系一样,我们有时为了能够更直观地知道随机向量的不同分量之间的相关性究竟有多大,还会引入相关系数矩阵。