SPSS9-回归分析.pptVIP

第9章 线性回归分析 9.1 一元线性回归 9.2 多元线性回归 9.3 逐步回归 9.4 spss在回归中的应用 “回归”一词的由来 “回归”这个词最先由由英国著名统计学家F.高尔顿（Francis Galton） 在19世纪末期研究孩子及他们的父母的身高时提出来的。高尔顿研究发现，父母和孩子的身高有这样的一个趋势：父母高，儿女就高；父母矮，儿女也矮。但是高个父母的儿女们平均起来并不像他们的父母那样高。 儿女辈的平均身高将“退化”到或者说“回归”到全体人口的平均身高。对于比较矮的父母情形也类似：他们的孩子比较矮，但这些孩子的平均身高要比他们的父母的平均身高高。 “回归”一词的由来 Galton把这种孩子的身高向中间值靠近的趋势称之为一种回归效应，而他发展的研究两个数值变量的方法称为回归分析。 这也叫高尔顿的“普遍回归定律”。高尔顿在智力遗传的方面也得到了类似的结果：一般来说，天才是要遗传的。但是天才的后代却要比他们的父辈们平庸，也就是他们的智力水平将“回归”到中等水平；而一个智商一般的父母，其孩子却可能是个天才！ 尽管“回归”这个名称的由来具有其特定的含义，人们在研究大量的问题中变量x与y之间的关系并不具有这种“回归”的含义，但借用这个词把研究变量x与y之间的统计关系的数学方法称为“回归分析”，也算是对高尔顿这个伟大的统计学家的一种纪念。 回归分析主要解决以下几方面问题 从一组样本数据出发，确定变量之间的数学关系式 对这些关系式的可信程度进行各种统计检验，并从影响某一特定变量的诸多变量中找出哪些变量的影响显著，哪些不显著 利用所求的关系式，根据一个或几个变量的取值来预测或控制另一个特定变量的取值，并给出这种预测或控制的精确程度 回归分析与相关分析的区别 相关分析中，变量 x 变量 y 处于平等的地位；回归分析中，变量 y 称为因变量，处在被解释的地位，x 称为自变量，用于预测因变量的变化 相关分析主要是描述两个变量之间线性关系的密切程度；回归分析不仅可以揭示变量 x 对变量 y 的影响大小，还可以由回归方程进行预测和控制 回归模型的类型 9.1.1一元线性回归模型 当只涉及一个自变量时称为一元回归，若因变量 y 与自变量 x 之间为线性关系时称为一元线性回归 对于具有线性关系的两个变量，可以用一条线性方程来表示它们之间的关系 描述因变量 y 如何依赖于自变量 x 和误差项? 的方程称为回归模型 一元线性回归模型 ? 对于只涉及一个自变量的简单线性回归模型可表示为 y = b0 + b1 x + e 模型中，y 是 x 的线性函数(部分)加上误差项 线性部分反映了由于 x 的变化而引起的 y 的变化 误差项 ? 是随机变量 反映了除 x 和 y 之间的线性关系之外的随机因素对 y 的影响 是不能由 x 和 y 之间的线性关系所解释的变异性 ?0 和 ?1 称为模型的参数 一元线性回归模型（基本假定） 误差项ε是一个期望值为0的随机变量，即E(ε)=0。对于一个给定的 x 值，y 的期望值为E ( y ) =? 0+ ? 1 x 对于所有的 x 值，ε的方差σ2 都相同 误差项ε是一个服从正态分布的随机变量，且相互独立。即ε~N( 0 ,σ2 ) 独立性意味着对于一个特定的 x 值，它所对应的ε与其他 x 值所对应的ε不相关 对于一个特定的 x 值，它所对应的 y 值与其他 x 所对应的 y 值也不相关 回归方程 （概念要点） 描述 y 的平均值或期望值如何依赖于 x 的方程称为回归方程 简单线性回归方程的形式如下 E( y ) = ?0+ ?1 x 估计(经验)的回归方程 9.1.2 参数 ?0 和 ?1 的最小二乘估计 最小二乘估计法 最小二乘法（图示） 最小二乘法 （ 和 的计算公式） 估计方程的求法（实例） 【例】根据例9.1中的数据，配合人均消费金额对人均国民收入的回归方程 根据 和 的求解公式得 估计(经验)方程 人均消费金额对人均国民收入的回归方程为 9.1.3 回归方程的显著性检验 拟合优度检验（判定系数r 2 检验） 回归方程的显著性检验（F检验） 回归系数的显著性检验（t检验） 离差平方和的分解 因变量 y 的取值是不同的，y 取值的这种波动称为变差。变差来源于两个方面 由于自变量 x 的取值不同造成的 除 x 以外的其他因素(如x对y的非线性影响、测量误差等)的影响 对一个具体的观测值来说，变差的大小可以通过该实际观测值与其均值之差 来表示 离差平方和的分解（图示）