多元线性回归分析-实用数学方法

一元线性回归仅讨论因变量和一个自变量之间的线性关系，但是，由于社会的复杂性，一个变量可能会同多个变量相联系。因此，有必要对一元线性回归进行推广，去研究多元线性回归分析。

在回归分析中，如果有两个或两个以上的自变量，称为多元回归。多元线性回归分析是在研究对象与众多影响因素之间建立一个方程，用来描述多个因素对预测结果的共同作用。

通常情况下，一种现象常常与多个因素相联系，对于同一问题，考虑的影响因素越多，越接近实际情况，用回归分析法预测的结果越准确，所以多元线性回归分析的精度高于一元线性回归分析。

1. 多元线性回归分析的基本模型

多元线性回归分析的基本步骤与一元线性回归分析大致相同，只是选择的回归模型不同，运算过程比较复杂。多元线性回归分析的回归方程为

式中

其中：随机变量y称为观测向量；矩阵X称为回归设计矩阵或资料矩阵，在实际中，X的元素是预先设定并可以控制的，人的主观因素可作用于其中，因此称为设计矩阵；β为未知参数向量；ε为随机误差向量。

2. 多元线性回归方程回归系数

与一元线性回归模型的估计方法一样，多元线性回归方程可以用残差平方和最小准则，即最小二乘法取估计模型的回归参数，寻找β的估计值使ε=y-X β的长度平方达到最小。

求导可得(www.xing528.com)

称为正规方程。

3. 多元线性回归分析的显著性检验和置信区间

确定回归方程之后，必须经过相关性检验，保证该回归方程描述各因素间相关关系的可靠性，才能以此回归方程为依据进行分析和预测。

与一元线性回归分析的相关性检验一样，对多元线性回归方程描述全部自变量与因变量线性相关的近似程度，可用R检验和F检验。

对总离差平方和分解得

简记为

回归方程的显著性检验就是检验原假设

构造检验统计量