常见的中科院心理所心理统计学7回归分析.ppt

回归分析 任课教师：禤宇明 中国科学院心理研究所 本章基本内容 相关和回归 一元回归分析 最小二乘估计、回归系数、回归估计的标准误、决定系数 回归方程的有效性检验 多元回归分析 多元决定系数 1.相关和回归1.1 散点图 scatter diagram 1.2 平方和、积矩和、协方差sum of squares sum of products covariance 1.3 回归分析 regression analysis 回归分析：确定变量之间数量关系的可能形式，并用一个数学模型来表示这种关系形式 它可以从一个变量的变化来预测或估计另一个变量的变化 只有一个自变量的线性回归叫一元线性回归或简单线性回归 寻找一条最佳拟合直线best-fitting line，使得预测值predicted value和观测值observed value之间的误差最小 2.一元回归分析2.1 回归线 the regression line 最佳拟合直线 best-fitting line 2.2 回归线的求解 2.3 对回归系数的解释 2.4 从给定的X来估计对应的Y 无穷大的样本 取给定X对应的所有Y的均值作为估计值 对应于某个X的所有Y称为Y的条件分布conditional distribution 有限样本 2.5 预测的准确性 如果需要你去猜测某个班的每个学生的某次考试的成绩，而只告诉你该班的平均分，怎样猜才能误差最小？ 标准差作为误差的度量 估计的标准误 P208 倒数第12行standard error of estimate 2.6 回归的有效性检验2.6.1 误差平方和 （公式推导参考P207） 相关越高，误差越小 相关越高，从X预测Y就越准确，误差就越小 2.6.2 因变量变异的分解 研究吸烟量X和寿命Y之间的关系 人的寿命总是有差异SSY 吸烟的多少有差异SSX 从X来预测Y，预测值为? ?的变异SS?可从X的变异来解释 吸烟量X变化，预测寿命?才变化 吸烟量X不变，预测寿命?不变 Y的部分变异X是无法解释的 SSe 吸烟量一样的人也会有不同的寿命 极端 所有不抽烟的人寿命为72岁，所有抽烟的人抽一样多的烟且寿命都是68岁 此时，寿命的变异可完全从抽烟的变异来预测 实际 寿命的变异有的可以从抽烟的变异来预测，其余部分不能从抽烟的变异来解释 2.6.3 决定系数（测定系数）r2 coefficient of determination 衡量回归方程有效性高低的指标 回归平方和在总离差平方和中所占的比例 因变量的变异中可以从自变量的变异来解释的比例 2.6.4 回归有效性检验 对r的显著性的检验（复习） 对回归的有效性检验 对回归的有效性检验＝对r的显著性检验P160 2.7 样本回归线和总体回归线 根据样本数据的回归分析结果为样本回归线 ? = a + bX 不同的样本对应于不同的样本回归线 所有样本回归线都是总体回归线 ? = a + bX 的一个估计 所有样本回归线会在总体回归线附近波动 对给定X，对应的总体回归线的?也称为主值，而某条样本回归线对应的?i只是?的一个点估计 所有?i的平均值将为? 2.8 回归分析的应用 预测 已知X0，预测总体回归线对应的?0（主值） 已知X0，预测新的观测值Y0 控制 已知Y的范围，控制X的范围 2.8.1 从X0预测总体回归线对应的?0 2.8.2 从X0预测新的观测值Y0 离样本平均数越近，估计越准确 P203 例 7-1 P212 例 7-4 2.8.3 从X预测Y和从Y预测X 2.9 一元线性回归的数学模型 从X预测YY=?0+?1X+? Y=a+bX+e Y与X的关系分为两部分 ?0+?1X是由于X的变化引起线性变化的部分; ?是全体一切随机因素造成的部分? ~ N(0, s2) 2.10 一元线性回归的基本假设 X与Y在总体上具有线性关系 变量X没有测量误差（看成精确变量） (Xi,Yi) 和 (Xj,Yj) 彼此独立； 与某一个Xi值对应的Y值构成变量Y上一个子总体，这样的子总体服从正态分布，且它们的方差相等 ?i 是Xi对应Y的子总体的平均数的无偏估计 小结 3 多元线性回归3.1多元线性回归的数学模型 从X1, X2, …, Xk（凭经验选取）预测YY=?0+?1X1+ ?2X2 + …+ ?kXk+? ? ~ N(0, s2) 根据样本数据建立的回归方程? =b0+b1X1+ b2X2 + …+ bkXk bi称为（偏）回归系数 偏回归系数表示其它自变量假设不变时，某一个自变量变化而引起因变量变化的比率 3.2 标准回归方程、标准偏回归系数 把所有原始数据转换成标准分数，以标准分数建立的回归方程为