《第二讲随机变量的定义及分布课件.ppt》由会员分享,可在线阅读,更多相关《第二讲随机变量的定义及分布课件.ppt(68页珍藏版)》请在三一办公上搜索。
1、本章学习的目标:复习概率与随机变量的理论加深随机变量函数的理论(重点)深化一些重要概念的理解加深多维正态随机变量的理论增加Matlab的统计分析函数(自主学习),1.1 概率的基本术语,随机试验(Random Experiment):满足下列三个条件的试验称为随机试验:(1)在相同条件下可重复进行;(2)试验的结果不止一个,所有可能的结果能事先明确;(3)每次试验前不能确定会出现哪一个结果。,例:投掷硬币(Toss a coin),The outcome varies in an unpredictable fashion when the experiment is repeated und
2、er the same conditions.,随机事件(Random Event):在随机试验中,对试验中可能出现也可能不出现、而在大量重复试验中却具有某种规律性的事情,称为随机事件,简称为事件。,如投掷硬币出现正面就是一个随机事件。,基本事件(Elementary Event):随机试验中最简单的随机事件称为基本事件,如投掷骰子出现1、2、.、6点是基本事件,出现偶数点是随机事件,但不是基本事件。,(简单事件Simple Event),样本空间(Sample Space)随机试验的所有基本事件组成的集合称为样本空间.,Toss a coin:S=Head,Tail=H,T,Toss a d
3、ie:S=1,2,3,4,5,6,关于样本空间的注释:离散的样本空间,Toss a die:S=1,2,3,4,5,6,连续的样本空间,由多次子试验构成的样本空间看下例,IF we toss a coin three times and let the triplet xyz denote the outcome“x on the first toss,y on the second toss,z on the third toss”,then the sample space of the experiment is,S=HHH,HHT,HTH,HTT,THH,THT,TTH,TTT,The
4、 event“one head and two tails”is defined byE=HTT,THT,TTH,关于样本空间的注释:离散的样本空间,Toss a die:S=1,2,3,4,5,6,连续的样本空间,由多次子试验构成的样本空间,可数无穷的样本空间,S=S1 S1=HH,HT,TH,TT,S1=H,T,频率和概率(Frequency and Probability):n次重复试验中,事件A发生的次数nA:-事件A的频数比值nA/n:-事件A发生的频率,概率,频率反映了事件A发生的频繁程度,若事件A发生的可能性大,那么相应的频率也大,反之则较小。,1.2 随机变量的定义(Defin
5、ition of a random variable),设随机试验E的样本空间为S=e,如果对于每一个eS,有一个实数X(e)与之对应,这样就得到一个定义在S上的单值函数X(e),称X(e)为随机变量,简记为X。,随机变量是定义在样本空间S上的单值函数,1.定义,Interpretation of random variable:,S,e,Real line,Random variable is a function that assigns a numerical value to the outcome of the experiment.,A coin toss,S,e1,Real li
6、ne,1,0,e2,Mapping of the outcome of a coin toss into the set of real number,A discrete random variable is a random variable that can be take on at most a countable number of possible values,根据随机变量取值的不同可以分为:连续型随机变量(Continuous random variable)离散型随机变量(Discrete random variable),2.概率分布列,Probability mass
7、function(PMF),(1)(0,1)分布 随机变量的可能取值为0和1两个值,其概率分布为,PMF:,Bernoulli random variable,Let A be an event of interest in some experiment,e.g.,a device is not defective.We say that a“success”occurs if A occurs when we perform the experiment.Bernoulli random variable IA is equal to 1 if A occurs and zero othe
8、rwise.,(2)Binomial,独立地进行n次贝努利试验,事件A发生m次的概率,刚好是 展开的第m+1项的系数,例:雷达双门限检测器,Example:Transmission error in a binary communications channel.Let X be the number of errors in n independent transmissions.Find the PMF of X.Find the probability of one or fewer errors,The probability of k errors in n bits transmi
9、ssions is given by the probability of an error pattern that k 1s and n-k 0s,X is a binomial random variable,例:信息传输问题(Message Transmissions),Let X be the number of times needs to be transmitted until it arrivers correctly at its destination.Find the probability that X is an a even number.,X is a disc
10、rete random variable taking on values from S=1,2,3,.,(3)geometric random variable,The event X=k occurs if k-1 consecutive erroneous transmissions(failures)followed by a error-free one(success),X is called the geometric random variable,泊松分布(Poisson distribution),例:交通路口在单位时间内通过的车辆数,1.3 分布函数和概率密度函数,Pro
11、bability Density Function,(PDF),Distribution Function or Cumulative Distribution Function,(CDF),1.定义,2.分布函数的性质(Properties of the CDF),分布函数是右连续的不减函数,在负无穷处为零,正无穷处为1。对于连续型随机变量,取某一特定值的概率是为零的。即PX=x=0,对于离散型随机变量,分布函数为阶梯函数,阶梯的跳变点出现在随机变量的取值点上,跳变的高度为随机变量取该值的概率。,对于离散型随机变量,PMF与CDF的关系为,概率密度,对于离散型随机变量,它的概率密度函数是一串
12、函数之和,函数出现在随机变量的取值点,强度为取该值的概率。,3.常见概率分布 正态分布(Normal),也称高斯(Gauss)分布,标准正态分布函数,瑞利分布(Rayleigh),瑞利分布概率密度2,指数(Exponential)分布,指数分布概率密度,对数正态分布(LogNormal),高分辨率雷达杂波分布,对数正态分布概率密度,为尺度参数为形状参数,1.4 多维随机变量及其分布 Multiple Random Variables and Distributions,1.定义,2.二维分布函数和概率密度 Bivariate CDF and PDF,二维分布函数图解,定义:,二维分布函数性质:
13、,二维概率密度:,由二维概率密度可以求出边缘概率密度,随机变量落在某个区域的概率,3.条件分布(Conditional Distribution),条件分布函数,条件概率密度,称随机变量X、Y独立,Example:Communication Channel with Discrete Input and Continuous Output,noise voltage NU(-2,2),通信信道,X:+1 or-1,Find PX=+1,Y0,Y,Solution:,Therefore,1.5 随机变量的数字特征 均值 方差 协方差与相关系数 协方差矩阵 举例,1.均值(Mean),算术平均:所
14、有可能取值等概率加权统计平均值:所有可能取值按概率加权,连续型随机变量:,离散型随机变量:,性质:,如果X和Y相互独立,,如果EXY=0,则称X和Y正交(Orthogonal)。,2.方差(Variance),方差反映了随机变量X的取值偏离其均值的偏离程度或分散程度,D(X)越大,则X的取值越分散。,性质:,如果X1,X2,.,Xn相互独立。,Variance is a nonlinear operator,3.协方差和相关系数(Covariance and Correlation coefficient),如果X和Y相互独立,则rXY=0,|rXY|=1的充要条件是PY=aX+b=1,If
15、X and Y are independent,then X and Y are uncorrelated.,The correlation coefficient provides a measure of how good a prediction of the value of one of the two RVs can be formed based on an observed value of the other.,不相关就认为X与Y没有关系吗?,例:为零均值正态随机变量,Y 与X相关吗?,Y是依赖于X的(Dependence),但Y与X不相关(Uncorrelated),线性不
16、相关的。,Independent implies zero covariance but zero covariance does not imply independence.,Example:Uncorrelated but dependent random variablesLet be uniformly distributed in the interval(0,2)。Let,X and Y are uncorrelated but dependent,注意英文单词的区别:Correlation(Uncorrelated)Dependent(Independent),It can b
17、e shown that,4.协方差矩阵(Covariance Matrix),多维随机变量通常用协方差矩阵来描述随机变量之间的相互关系。,协方差矩阵是对称(共轭对称)的;如果变量之间是不相关的,则K是一个对角阵。,例1:(0,1)分布随机变量,PX=1=p,PX=0=q=1-p,求X的均值和方差,5.Expected value of some important random variable,例2(a,b)上均匀分布的随机变量,求均值和方差,例3 求瑞利分布随机变量的均值和方差。,常用分布及其数字特征归纳,Uniform Random Variable,Exponential Rando
18、m Variable,Gaussian Random Variable,Remark:Under a wide range of conditions X can be used to approximate the sum of a large number of independent random variable.,Gamma Random Variable,Remark:Chi-Square random variable with k degree of freedom:k=2,=1/2,Laplacian Random Variable,Rayleigh Random Variable,随机变量的定义与分布(1)概率的基本术语:随机试验 基本事件 随机事件 样本空间,频率与概率(2)随机变量的定义 从样本空间到实轴的映射(3)随机变量的分布 PMF CDF PDF 典型随机变量的分布(4)条件分布,小结,随机变量的数字特征均值 反映随机变量取值的统计平均值方差 随机变量取值偏离均值的偏离程度相关系数 X与Y线性程度的度量 注意:线性不相关并不意味他们没有关系 注意与独立的差别4.协方差矩阵5.常见随机变量的数字特征,