《线性代数LinearAlgebra刘鹏.ppt》由会员分享,可在线阅读,更多相关《线性代数LinearAlgebra刘鹏.ppt(43页珍藏版)》请在三一办公上搜索。
1、线 性 代 数Linear Algebra刘鹏,复旦大学通信科学与工程系光华楼东主楼1109 Tel:65100226,问题:非齐次线性方程组 AX=b 的所有解向量 是否构成 Rn 上的线性空间?,否,因为对线性运算不封闭:,设 X1 X1 是解向量,则,对加法运算不封闭,因此不能构成 Rn 上的 线性空间.,三、过渡矩阵与坐标变换公式,定义 4.6:设 1,2,.,n 和 1,2,.,n 是 n 维线性空间 V 中的两个基,且有:,则称矩阵 M 为由基1,2,.,n 到 基1,2,.,n 的过渡矩阵(transition matrix).,定理 4.3:设 1,2,.,n 和1,2,.,n
2、 是 n 维线性空间 V 中的两个基,且有:,则,(1)过渡矩阵 M 是可逆的;,(2)若 V,且在基 1,2,.,n 和 1,2,.,n 下的坐标分别为 x1,x2,.,xn T 和 x1,x2,.,xn T,则有,四、线性子空间的维数与基,基/维数/坐标等概念也可以应用到线性子空间,定理 4.4:设1,2,.,l 与 1,2,.,s 是线性空间 V 中的两个向量组。,(1)L(1,2,.,l)=L(1,2,.,s)的充分必要条件是 1,2,.,l 与 1,2,.,s 等价;,(2)L(1,2,.,l)的维数等于向量组 1,2,.,l 的秩.,4.3 欧几里德(Euclid)空间,一、欧几里
3、德空间的定义及基本性质,定义 4.7:引入内积后的有限维实线性空间 就是欧氏空间.,常定义内积(inner/dot/scalar product)如下,实数,内积的基本性质:,(1)(,)=(,);,(2)(k,)=k(,);,(3)(+,)=(,)+(,);,(4)(,)0,当且仅当=0 时(,)=0.,对称性,(2、3)线性性,恒正性,二、向量的长度与夹角,有了内积的定义,可以进一步给出欧氏空间内 向量的长度与向量间夹角的定义.,定义 4.8:设是欧氏空间 V 的一个向量,称非负实数,为向量的长度(length)或模或范数(norm,2范数),记为:,长度为1的向量:单位向量.,有了范数就
4、可以度量:度量向量间距离的远近,度量向量的长度,度量误差的大小.,长度的基本性质:,(3)三角不等式:|+|+|.,(1)正定性:|0;且|=0=;,(2)齐次性:|k|=|k|(kR);,定理 4.5:柯西施瓦茨不等式(Cauchy-Schwartz Inequality):,对于欧氏空间 V 中任意两个向量,恒有,当且仅当 与 线性相关时等号成立.,定义,的夹角为,定义 4.9:设,是欧氏空间中的两个非零向量,定义 4.10:若(,)=0,即=/2,则称与 正交或垂直,记为.,三、内积的坐标表示,设 V 是一个 n 维欧氏空间,在 V 中任意取定 一个基 1,2,.,n,对 V 中任意两个
5、向量,有,有了内积的定义,线性空间中的基、维数、坐标等概念也可以应用于欧氏空间.,由内积的性质,利用矩阵可表示为,其中,矩阵 A 称为基 1,2,.,n 的 度量矩阵(metric matrix).,由定义,度量矩阵是实对称阵,,度量矩阵的对角线元素恒正.,A 是基中各个向量的内积构成的,度量矩阵确定 后,V 中任意两个向量的内积可由它们的坐标决定.,例:设1,2,3,4 是欧氏空间V 中的一个基,其度量矩阵为,且V 中两个向量,求|2|和(,).,解:由度量矩阵的定义,由(3.8)式,如果基中向量两两正交,度量矩阵变为对角阵;,如果基中向量不仅两两正交,而且长度为1 度量矩阵变为单位阵 内积
6、计算大大简化.,四、标准正交基,线性空间内任一向量可由基和坐标线性表示;,基作为度量标准,首先必需满足:(1)组成向量线性无关;(2)空间中任一向量都可由基线性表示.,基作为度量标准,本身应该尽可能简洁。,普通基不满足:表示不方便,计算不方便,计算不稳定.,而标准正交基类似于几何空间中的直角坐标系:表示方便,计算方便,计算稳定.,后面我们会看到,在标准正交基下,内积、范数、度量矩阵等都具有简单的形式;,标准正交基是基的一种,所以任一向量,总能用标准正交基线性表示.,例如:(1 0 0)(1 1 0)(1 1 1)与(1 0 0)(0 1 0)(0 0 1),定义 4.11 在欧氏空间 V 中,
7、一组非零向量,如果它们两两正交(mutually orthogonal),就称它为正交向量组。,例如 R n 的标准基(e1,e2,.,en),例如,12 1,1 1 1,10 1,证明:作正交向量组1,2,m的线性组合,使得,用 j 对等式作内积,因为,定理 4.6 设1,2,m(mn)是 n 维欧氏空间 V 中的一组正交向量,则1,2,m 线性无关。,故必有 j=0,所以向量组1,2,m 线性无关.,特别地,只有一个非零向量构成的向量组 也称为正交向量组,因为在此向量组中找不到两个向量不正交.,dimV=n 时,V中两两正交的向量不会 超过 n 个,如平面上找不到3个两两正交的向量,空间中
8、找不到4个两两正交的向量.,定义 4.12 在 n 维欧氏空间 V 中,由 n 个两两正交的非零向量所构成的正交向量组称为正交基;,由单位向量构成的正交基称为标准正交基。,例如,12 1,1 1 1,10 1,例:证明向量组:,是欧氏空间R3 的一个标准正交基.,解:由于,且,由定义知 1,2,3 是一组正交基.,若1,2,.,n 是 n 维欧氏空间 V 中的一个 标准正交基,由定义4.12有,标准正交基的度量矩阵为单位阵.,利用度量矩阵,两个向量的内积变得非常简单,因此向量组的正交化非常必要:从内积空间(如欧几里得空间)中的一组线性无关向量出发,得到同一子空间上两两正交的向量组(基).,定理
9、 4.7 任一 n 维欧氏空间(n1)都必有 正交基(orthogonal basis)。,证明:设向量组1,2,n是n 维欧氏空间的任意一个基,我们可以由它构造一个正交基,先取,显然1 0,令,使2与1 正交,即,于是系数,而且2 0,否则 1,2 线性相关,与假设矛盾.,施密特正交化过程(Schmidts Orthonormalization Process),此时2与1 已正交;,我们再令,并且使3 与2、1 都正交,故,于是系数,同理,由,因此,有,且3 0,否则 1,2,3线性相关,与假设矛盾.,此时3、2、1 已两两正交.,重复上述步骤,可得,且n 0,此时 1,2,.,n 两两正
10、交,即为 所求正交基.,Schmidt 正交化提供了正交化方法:通过子空间的一个基 得出子空间的一个正交基,,并可进一步求出对应的标准正交基.,几何解释:设,Rn,且与 线性无关,求常数 k 使+k 与 正交.,解(1):几何方法,与 同方向,所以,施密特正交化的几何解释,定义(投影)若 与 是 n 维内积空间中的向量,则 到 的标量投影(scalar projection)为,则 到 的向量投影(vector projection)为,由前例-.,Schmidt 正交化基本思路就是利用投影原理,在已有正交基的基础上构造一个新的正交基。,具体的说,从其中一个向量所张成的一维子空间 开始,重复扩
11、展构造直到 n 维空间:,Erhard Schmidt,(1876.1.13-1959.12.6)德国数学家,哥廷根大学博士,师从希尔伯特,拉普拉斯和柯西更早发现这一正交化方法,但没有达到施密特的高度.,主要工作在积分方程和希尔伯特空间方面,,创立了泛函分析。,现代数学的奠基人之一。,实际数值计算中,Schmidt正交化并不稳定,误差累积会使得正交性越来越差,,常用的是 Householder 变换 或 Givens旋转.,4.7推论 任一 n 维欧氏空间(n1)都有一个标准正交基(orthonormal basis)。,只要将定理4.7中的正交基单位化即得.,1,2,.,n 即为 所求标准正
12、交基.,标准正交基 正交矩阵 线性方程组求解,正交基带来的好处:,计算的方便性和稳定性,例:已知欧氏空间 R4 的向量组:,试求:(1)生成子空间 L(1,2,3)的一个标准正交基;(2)将此标准正交基扩充成 R4 的一个标准正交基.,解:(1)先求向量组的秩,得到一组基,向量组的秩 r=2,dim L(1,2,3)=2,取 1,2 为基.,将 1,2 正交化,令,再标准化,得,即为生成子空间 L(1,2,3)的一个标准正交基.,(2)将此标准正交基扩充成 R4 的一个标准正交基.,设向量=x 1,x 2,x 3,x 4 R4,且 1,2,即,求齐次线性方程组的基础解系,得,将 4,5 正交化
13、,令,再标准化,得,向量组 1,2,3,4 就是 R4 的一个标准正交基.,练习:考虑 Px3 中定义的内积,求 Px3 的一组标准正交基.,提示:不妨从标准基出发,先正交化,再单位化,(1)正交化,令,(2)单位化:,选择系数,令 n(1)=1 n 阶勒让德多项式:,40,例:令矩阵,试求:A 的列空间的一组标准正交基;,解:显然 A 的3个列向量线性无关,它们构成 R4 的3 维子空间的一组基,可以使用施密特正交化过程,正交化、标准化同时进行,令,令,令,向量组 q1,q2,q3 就是 A 的列空间的一组标准正交基.,定理(QR分解)若 A 是一秩为 n 的 mn 阶矩阵,则A 可以分解为乘积 QR,其中 Q 为列正交的mn 阶矩阵,R 为对角线元素均为正的 nn 阶上三角阵。,例中的 QR 分解为,