多元线性回归计算器
用一个或多个预测变量拟合普通最小二乘模型,获取系数、方程和决定系数。
多元线性回归计算器
将 Y 输入为一个列表;X 的每行对应一次观测,预测变量值用逗号分隔。
关于多元线性回归
多元线性回归将数值型结果建模为两个或更多解释变量的线性组合。拟合方程包含一个截距,以及每个预测变量对应的一个系数。每个系数估计的是:其他纳入模型的预测变量保持不变时,该预测变量增加一个单位所引起的因变量变化量。本计算器使用普通最小二乘法,即通过最小化残差平方和来选择系数的标准方法。
数据必须按观测组织。将因变量值输入为一个有序列表。在自变量字段中,每行输入一次对应的观测,各预测变量列用逗号分隔。如果 Y 包含五次观测,X 就必须包含五行。第一个 Y 值对应 X 的第一行,依此类推。记录错位可能产生数学上有效、实际却毫无意义的模型,因此请保留原始行顺序。
截距表示所有预测变量均为零时 Y 的预测值。这种解释是否有用,取决于零是否具有实际意义且位于预测变量的观测范围内。在其他变量不变的条件下,正系数表示预测变量增大时预测 Y 也增大;负系数则相反。系数依赖于计量单位,因此改变预测变量的尺度会改变其系数数值,但不会改变拟合预测值。
决定系数衡量的是:相较于仅用均值预测,拟合模型解释了 Y 变异的多大比例。对于包含截距的模型,它通常介于零和一之间。决定系数为一意味着拟合值完全再现所有观测结果,为零则意味着模型解释的变异不比均值更多。较高的数值并不能确立因果关系、保证预测有用,也不能证明模型假设成立。
普通最小二乘法用于统计推断时依赖一些重要条件:关系应大致呈线性,观测应具备适当的独立性,残差方差应稳定,且预测变量不能是彼此的精确线性组合。严重的多重共线性可能使单个系数不稳定,即使预测看起来很准确。本计算器会拒绝奇异设计矩阵,因为完全冗余的预测变量无法确定唯一的系数。
观测数还必须多于拟合系数个数,包括截距。含两个预测变量的模型需要估计三个系数,因此本计算器至少需要四行数据。在实际分析中,通常需要远多于此的数据。在作出重要决策前,应检查残差图、影响点、不确定性区间、调整后的决定系数以及样本外表现。方程和决定系数只是有用的初步摘要,而非完整的回归诊断。
多元回归示例
以下示例展示精确的线性关系及实际解读方式。
| 数据 | 结果 | 说明 |
|---|---|---|
| Y: 3,5,7,9; X1: 1,2,3,4 | Y = 1 + 2X1; 决定系数 1 | X1 每增加一个单位,Y 恰好增加二。 |
| Y: 6,9,8,11,12; X 行: (0,0),(1,0),(0,1),(1,1),(2,0) | Y = 6 + 3X1 + 2X2; 决定系数 1 | 从五次观测中可还原两个预测变量的效应。 |
| Y: 5,8,11,14; X1: 0,1,2,3 | Y = 5 + 3X1; 决定系数 1 | 截距为五,预测变量每增加一个单位,Y 增加三。 |
| Y: 10,9,8,7; X1: 1,2,3,4 | Y = 11 - 1X1; 决定系数 1 | 负斜率表示预测变量每增加一个单位,Y 减少一个单位。 |
如何进行多元回归
- 将因变量观测值输入为用逗号、空格或分号分隔的列表。
- 每次观测输入一行自变量数据,预测变量列用逗号分隔。
- 确认 X 与 Y 的行数一致,且行数多于拟合系数个数。
- 选择“计算回归”,求解普通最小二乘系数。
- 结合方程和决定系数解读结果,并在得出结论前检查模型假设。
多元线性回归常见问题
多个预测变量应如何输入?
在 X 字段中每行输入一次观测,各预测变量用逗号分隔。行顺序须与 Y 值的顺序一致。
回归系数代表什么?
它表示其他纳入模型的预测变量不变时,该预测变量每增加一个单位,Y 的估计变化量。其单位取决于这两个变量。
决定系数说明什么?
决定系数是拟合线性模型所解释的 Y 观测变异比例。它描述样本内拟合程度,但不能证明因果关系或未来预测准确性。
为什么数值有效,回归仍可能失败?
预测变量可能完全冗余,或观测数过少。这两种情况下,普通最小二乘系数都无法被唯一估计。
决定系数高就说明模型好吗?
不一定。模型即使决定系数很高,也可能违反假设、过拟合、遗漏重要结构,或对新观测的预测很差。