《概率论与数理统计笔记.docx》由会员分享，可在线阅读，更多相关《概率论与数理统计笔记.docx（35页珍藏版）》请在三一办公上搜索。
1、概率论与数理统计笔记概率论与数理统计读书笔记 第一章 概率论的基本概念 1 随机试验 1.对随机现象的观察、记录、试验统称为随机试验. 2.随机试验E的所有结果构成的集合称为E的样本空间，记为S=e， 称S中的元素e为基本事件或样本点. 3.可以在相同的条件下进行相同的实验；每次实验的可能结果不止一个，并且能事先明确试验的所有可能结果；进行一次试验之前不能确定哪一个结果会实现. 2.样本空间、随机事件 1.对于随机试验，尽管在每次试验之前不能预知试验结果，但试验的所有可能结果组成的集合是已知的.我们将随机试验E的所有可能结果组成的集合称为E的样本空间，记为S样本空间的元素，即E的每个结果称为样
2、本点. 2.一般我们称S的子集A为E的随机事件A，当且仅当A所包含的一个样本点发生称事件A发生.如果将S亦视作事件，则每次试验S总是发生，故又称S为必然事件。为方便起见，记f为不可能事件，f不包含任何样本点. 3.若AB，则称事件B包含事件A，这指的是事件A发生必导致事件的发生。若AB且BA，即A=B，则称事件A与事件B相等. 1 概率论与数理统计读书笔记 4.和事件AB=xxA或xA：A与B至少有一发生.5.当AB=f时，称事件A与B不相容的，或互斥的.这指事件A与事件B不能同时发生.基本事件是两两互不相容的. A的逆事件记为A,AA=SAA=,若AA=SAB=B发生.A,则称A,B互逆，互
3、斥.B也记作AB. 6.当且仅当A,B同时发生时，事件A 当且仅当A,B同时发生时，事件AB发生,AB也记作AB.7. 事件 A 的对立事件：设 A 表示事件 “A 出现”, 则“事件 A 不出现”称为事件 A 的对立事件或逆事件. 事件间的运算规律：设A,B,C为事件, 则有 交换律：AB=BA,AB=BA 结合律：(AB)C=A(BC),(AB)C=A(BC) 分配律：(AB)C=(AC)(BC)=ACde Morgan 律：AB=AB,AB=AB BC 3.频率和概率 1.记fn(A)=nA n其中nA-A发生的次数；n-总试验次数.称fn(A)为A在这n次试验中发生的频率.(A)反映了
4、事件A发生的频繁程度. 频率 fn 2.频率的性质： 。 1 0fn(A)12。 fn(S)=1 2 f(3若A1,A2,Ak两两互不相容，则 n。 ki=1Ai)=fn(Ai)i=1k概率论与数理统计读书笔记 fn(A)呈现出稳定性，3.当重复试验次数n逐渐增大时，频率 逐渐稳定于某个常数.这种“频率稳定性”即通常所说的统计规律性.我们让试fn(A)以它来表征事件A发生可能性的大验重复大量次数，计算频率 fn(A)随n的增大渐趋稳定，记稳定值为p. fn(A)的稳定小是合适的. 值p定义为A的概率，记为P(A)=p. 4.概率定义：设E是随机试验，S是它的样本空间.对于E的每一个事件A赋予一
5、个实数，记为P(A)，称为事件A的概率. 满足下列条件: (1) 非负性：对于每一个事件A,有P(A)0; (2) 规范性：对于必然事件S,有P(S)=1; (3) 可列可加性：设A1,A2,是两两相互不相容的事件，即对于，则有 ； ij，AiAj=f，i,j=1,2P(A1A2)=P(A(A2)+1)+P5.概率定义推得的重要性质. P(f)=0 有限可加性 若A1A2A3An是两两互不相容的事件 则有P(A1A2An)=P(A1)+P(A2)+P(An) 对于任一事件P(A)1 对于任一事件A有 P(A)=1-P(A) (5) P(AB)=P(A)+P(B)-P(AB) 3 概率论与数理统
6、计读书笔记 4等可能概型 1.当试验的样本空间只含有有限个元素，并且试验中每个基本事件发生的可能性相同，具有这样特点的试验是大量存在的，则称这种试验为等可能概型.它在概率论发展初期曾是主要的研究对象，所以也称为等可能概型. 2. P(A)=Peijj=1k()kA包含的基本事件数=即是等可能概型中nS中基本事件的总数事件A的概率的计算公式. 5.条件概率 1. 条件概率定义：设A,B是两个事件,且P(A)0，称P(BA)=为在A事件发生条件下B事件发生的条件概率. 2.符合条件概率的三个条件，即： 非负性 对于每一事件B, 有 P(BA)0 规范性 对于必然事件S，有 P(SA)=1 可列可加
7、性 设B1B2PBiA=P(BiA) i=1i=1P(AB)P(A)是两两互不相容的事件，则有3. 乘法定理：设P(A)0，则有 P(AB)=P(BA)P(A) 推广: 一般设 A1A2An为n个事件，且P(n2，AA12A1n-)0有 P(A1A2An)=P(AnA1A2An-1)P(An-1A1A2An-2)，P(A2A1)P(A1). 4.全概率公式：设试验E的样本空间为S4 A为E的事件, 概率论与数理统计读书笔记 B1,B2,.,Bn为S的一个划分，且P(Bi)0(i=1,2,.,n)，则 P(A)=P(AB1)P(B1)+P(AB2)P(B2)+P(ABn)P(Bn) ，5.贝叶斯
8、公式：设试验E的样本空间为SA为E的事件, B1,B2,.,Bn为S的一个划分，且P(Bi)0(i=1,2,.,n)，则 P(BiA)=P(ABi)P(Bi)P(AB)P(B)jjj=1n6.独立性 1.定义：设A,B是两事件，如果满足等式P(AB)=P(A)P(B)，则称事件A,B相互独立，简称A,B独立. 若P(A)0,P(B)0,则A,B相互独立与A,B互不相容不能同时成立. 2. 定理一：设A,B是两事件，且P(A)0，若A,B相互独立，则P(BA)=P(B).反之亦然. 3.定理二：若事件A与B相互独立则A与B，A与B，A与B也相互独立. 4.推广定义：设A,B,C是三个事件，如果满
9、足等式P(AB)=P(A)P(B),P(BC)=P(B)P(C)，P(AC)=P(A)P(C),P(ABC)=P(A)P(B)P(C)则称事件A,B,C相互独立. 5. A,B相互独立A,B相互独立A,B相互独立A,B相互独立当P(AB)=P(A)P(B)时P(AB)=P(A-AB)=P(A)-P(AB)=P(A)1-P(B)=P(A)P(B) 5 概率论与数理统计读书笔记 第二章 随机变量及其分布 1. 随机变量 1.定义：设随机试验的样本空间S=e,X=Xe是定义在样本空间S上的实值单值函数，称X=Xe为随机变量. 离散型常见的两类随机变量. 连续型2.本书中一般以大写字母如X,Y,Z,W
10、,.表示随机变量，而以小写字母x,y,z,w,.表示实数. 2. 离散型随机变量及其分布律 1.定义：有些随机变量，它全部可能取到的不相同的值是有限个或可列无限多个，这种随机变量称为离散型随机变量. 2.定义：取值可数的随机变量为离散量. 一般地，设离散型随机变量X所有可能取的值为x(k=1,2,) kx取各个可能值的概率论，即事件的概率为PX=xk=pk,k=1,2,称为离散型随机变量X的分布律。pk满足如下两个条件： pk0 pk=1 k=13.分布 设随机变量X只可能取0与1两个值,它的分布律是 PX=k=pkq1-k,k=0,1(0p1,p+q=1)，则称 X 服从分布或两点分布. 6
11、 概率论与数理统计读书笔记 分布的分布律也可写成 4.设试验只有两个可能结果：A 及A, 则称E为伯努利试验设P(A)=p(0p0是常数， k！lke-l X 服从参数为 l 的泊松分布， 记为 X P ) . (l则称3.随机变量的分布函数 1. 分布函数的定义 设X是一个连续随机变量，称F(x)=p(Xx)(-x+)为 X的分布函数.X是随机变量, x是自变量. 由定义，对任意实数 x1x2，随机点落在区间(x1,x2的概率为：Px1Xx2=PXx2-PXx1=F(x2)-F(x1). 2. 分布函数性质 7 概率论与数理统计读书笔记 (1)0F(x)1,x(-,)(2)F(x1)F(x2
12、),(x1x2)(单调不减性)x-x(3)F(-)=limF(x)=0,F()=limF(x)=1(4)lim+=F(x0),(-x0)xx0即任一分布函数处处右连续. 3.公式 (1)Paa=1-F(a).4.连续型随机变量及其概率密度 1.如果对于随机变量X的分布函数F(x)，存在非负函数f(x)，使对任意实数x有F(x)=f(t)dt，则称X为连续型随机变量，其中-x函数f(x)称为X的概率密度函数简称概率密度。在实际应用中遇到的基本上是离散型或连续型随机变量. 2.概率密度f(x)性质： f(x)0 f(x)dx=1 -对于任意实数x1,x2，(x1x2)， Px1Xx2=F(x2)-
13、F(x1)=f(x)dx x1x2若f(x)在点x处连续则有 F(x)=f(x) 3.均匀分布：设连续型随机变量X具有概率密度1,ax0，其中q0为常数，则称X服从参数为q的指f(x)=q0,其他数分布.易知f(x)0,且f(x)dx=1. -5 正态分布：设连续型随机变量X具有概率密度f(x)=1e2ps2x-m)(-2s2,-x， 则称X服从参数为m,s的正态分布.特别的，当m=0,s=1时，称X服从标准正态分布. 5.随机变量的函数分布 定理：设随机变量X具有概率密度fX(x)，-x0(或恒有g(x)0)，则Y=g(X)是连续型随机变量，其概率密度为 fY(x)=fXh(y)h(y)0a
14、yx1F(x,y)是变量x和y的不减函数，时F(x2,y)F(x1,y);对于任意固定的x，当y2y1时F(x,y2)F(x,y1). 0F(x,y)1，且对于任意固定的y，F(-,y)=0，对于任意固定的x,F(x,-)=0,F(-,-)=0,F(,)=1. (3) F(x,y)=F(x+0,y)，即FxyF(x,y)=F(x,y+0)，(,)关于x右连续，关于y也右连续. (4) 对于任意(x1,y1)，(x2,y2)，x2x1，y2y1，下述不等式成立: F(x2,y2)-F(x2,y1)+F(x1,y1)-F(x1,y2)0. 如果二维随机变量(X,Y)全部可能取到的不相同的值是有限对
15、或可列无限多对，则称(X,Y)是离散型的随机变量. 3. 对于二维随机变量(X,Y)的分布函数F(x,y).如果存在非负的函数f(x,y)使对于任意(X、Y)有F(x,y)=y-xf(m,u)dmdu,则称(X,Y)是连续型的二维随机变量，函数f(x,y)称为二维随机变量(X,Y)的概率密度，或称为随机变量X和Y的联合概率密度. 概率密度f(x,y)具有以下性质： f(x,y)0 -f(x,y)dxdy=F(,)=1 (3) 设G是xOy平面上的区域，点(X、Y)落在G内的概率为P(X,Y)G=f(x,y)dxdy G10 概率论与数理统计读书笔记 2F(x,y)(4) 若f(x,y)在点(X
16、、Y)连续 则有=f(x,y) xy4. 两个常用的分布 均匀分布：定义设D为闭区域面积为A，若随机变量(X、Y) 的(联合)密度为： f(x,y)=1/A0(x,y)D其它则称: (X、Y)服从D上的均匀分布. (2)二维正态分布：若二维随机变量 (X、Y)的概率密度为： f(x,y)= exp12ps1s21-r2 -x+;-y0，s20，|r|1是常数.记为：(X、Y)N (m1、m2、s12、s22、r) . 2.边缘分布 1.二维随机变量(X,Y)作为一个整体，具有分布函数F(x,y)，而X和Y都是随机变量，也有也有分布函数，将他们分别记为FX(x)，FY(y)，依次称为二维随机变量
17、(X,Y)关于X和Y的边缘分布函数。边缘分布函数可以由(X,Y)的分布函数F(x,y)所确定，事实上FX(x)=F(,x). 2.X是一个连续型随机变量，则其概率密度fX(x)=-f(x,y)dy 和 fY(y)=-f(x,y)dx分别称fX(x)，fY(y)为(X,Y)关于X和关于Y的边缘概率密度函数. 11 概率论与数理统计读书笔记 3. 离散型随机变量的边缘概率分布： -f(x,y)dydxx+3.条件分布 1.定义:设(X,Y)使二维离散型随机变量，对于固定的j，若有PY=yj0，则称 PX=xiY=yj=PX=xi,Y=yjPY=yj=pijpj,i=1,2,，为在Y=yj条件下随机
18、变量X的条件分布律。同样，对于固定的i，若PX=x则称PY=yjX=xi=i0PX=xi,Y=yjPX=xi=pijpi?,j=1,2,，为在X=xi条件下随机变量Y的条件分布律. 2.定义：设二维随机变量(X,Y)的概率密度为f(x,y)，(X,Y)关于f(x,y)Y的边缘概率密度为fY(y).对于固定的y，fY(y)0,则称fY(y)f(x,y)为在Y=y的条件下X的条件概率密度，记为fXY(xy)=. fY(y)称x-fXY(xy)dx=x-f(x,y)dx为在Y=y的条件下，X的条件分布fY(y)函数，记为PXxY=y或FXY(xy)即 FXY(xy)=PXxY=y=x-f(x,y)d
19、x， fY(y)yf(x,y)f(x,y)dy. 类似的，可以定义fYX(yx)=和FYX(yx)=-fX(x)fX(x)3. 离散型随机变量的条件分布 12 概率论与数理统计读书笔记 设是二维离散型随机变量，对于固定的j，若PY=j0,则称PX=xiY=yj=PX=xi,Y=yjPY=yj=pijpj,i=1,2,.为在Y=yj条件下随机变量X的条件分布律.4.连续型随机变量的条件分布 给定y,设对于任意固定的正数e,Py-e0,且 若对于任意实数x,极限 lim+PXxy-eYy+e=lim+e0e0PXx,y-eYy+ePy-ez=1-PXz,Yz=1-PXzPYz 即Fmin(z)=1
20、-1-FX(z)1-FY(z). 14 概率论与数理统计读书笔记 第四章 随机变量的数字特征 1. 数学期望 k=1,21. 定义：设离散型随机变量X的分布律为PX=xk=pk，若级数xkpk绝对收敛，则称级数xkpk的和为随机变量X的数k=1k=1学期望，记为E(X)=xkpk. k=12. 设连续型随机变量X的概率密度为f(x),若积分xf(x)dx的-值为随机变量X的数学期望,即E(X)=xf(x)dx. -数学期望简称期望，又称均值. 3. 定理：设Y是随机变量X的函数: Y=g(X). k=1,21) 若X是离散型随机变量，它的分布律为PX=xk=pk，若级数g(xk)pk绝对收敛，
21、则有E(Y)=Eg(X)=g(xk)pk. k=1k=12) 若X是连续型随机变量，它的概率密度为f(x) 若-g(x)f(x)dx绝对收敛则有E(Y)=Eg(X)= g(x)f(x)dx. -4.数学期望的重要性质： 设C是常数，则有 E(C)=C 设X是一个随机变量，C是常数，则有 E(CX)=CE(X) 设X,Y是两个随机变量，则有 E(X+Y)=E(X)+E(Y).这一性质可以推广到任意有限个随机变量之和的情况. 设X,Y是相互独立的随机变量，则有E(XY)=E(X)E(Y)；15 概率论与数理统计读书笔记 这一性质可以推广到任意有限个相互独立的随机变量之积的情况. 5. 几个重要随机
22、变量的期望 0-1分布的数学期望：E(X)=p 二项分布b=(n,p)：E(X)=np XPX=k=(3) 泊松分布: lkk!e-l,k=0,1,2,.E(X)=kk=0lkk!e-l=le-lk=1lk-1(k-1)!=l1(4) 均匀分布XU(a,b). Xf(x)=b-a，ax0,都有：PX-E(X)e2 es2定理的等价形式为：PX-E(X)0,均有：limPXn-me=0,则称随机变量序列Xn依概率收敛于常数m，p记为：Xm.n19 概率论与数理统计读书笔记 3. 定理(契比雪夫不等式的特殊情形)：设随机变量序列X1,X2,Xn,2相互独立，且具有相同的数学期望m和相同的方差s，作
23、前n个随机 n1X则e0，变量的算术平均：Y=nk nk=11n 有：limPYn-me=limPXk-m0,有：limPA-pe=1.n+ n2.中心极限定理 1. 定理 (独立同分布的中心极限定理) 设随机变量X1,X2,Xn,相互独立同分布，E(Xi)=m,D(Xi)=s2,i=1,2, 则前n个变量的和的标准化变量为：Yn=Xi=1ni-nmxR,有：nsnX-nm2ix-t limP(Yx)=limP1e2dt.i=1x=nn+n+ns-2p20 概率论与数理统计读书笔记 此定理表明，当n充分大时，Yn近似服从N(0,1).ni12即：XN(nm,ns), ib-nma-nm从而，P(aXib)F-F.nsnsi=12. 定理 (德莫佛-拉普拉斯定理) 设nA为n次贝努里试验中A发生的次数，P(A)=p(0p1),b1-t22 nA-np则对任何区间a,b，有：limPab=edt.n+anp(1-p)2p n21
