主题
3.4.1 一元回归
本节目标
读完本节后,你能把一个连续变量作为预测变量、另一个连续变量作为结果变量,写出一元线性回归方程;解释斜率、截距和
本节路线图
- 概述:从相关到回归
- 一元回归模型
- 最小二乘法
- 模型拟合与诊断
- 软件实现
概述
一元线性回归回答的是:在给定
这里的
一元回归模型
系数怎么读
- 截距
:当 时模型给出的平均 。若 不在观测范围内,截距主要是数学定位,不宜做实质解释;可先中心化 让截距代表平均 时的预测值。 - 斜率
: 增加一个测量单位时,模型预测的 平均改变多少。正负号给方向,单位给尺度。斜率的 95% CI 比单独的 值更能表达不确定性。 - 残差
:观测值与拟合值之差,即 。它是不可观测误差 的样本对应量,用于诊断,不能当作新的独立观测。
在含截距的一元模型中,标准化斜率
普通最小二乘的直觉
普通最小二乘(OLS)选择
平方会放大大误差,所以极端点可能强烈影响直线。在模型可识别且
假设、边界与诊断
需要检查什么
- 线性均值结构:
近似直线。先画散点图和残差-拟合值图;弯曲模式提示变换、二次项或非线性模型。 - 误差相关结构:经典标准误假定不同观测的误差互不相关。班级、家庭、被试内重复测量等数据不能按普通独立行推断,应按设计使用聚类稳健标准误、多层模型或 GEE。
- 同方差:给定
后误差方差近似恒定。漏斗形残差会使经典 SE、CI 和 值失真,可报告 HC3 稳健 SE 或重新建模;稳健 SE 不能修复非线性。 - 误差条件正态性(关系到小样本精确推断):给定
的误差正态性是经典 检验和 CI 在有限样本中精确成立的条件;大样本推断可在更弱的正则条件下依靠渐近近似。它不要求 或 的边际分布正态。实际用残差 Q-Q 图结合样本量和异常点诊断,不把 Shapiro-Wilk 的单个 值当作通行证。 - 无强影响点:查看 leverage、Cook 距离和 DFBETAs。发现点后先核对录入和测量,再做“含/不含该点”的敏感性分析并报告规则;不要为了显著而删除。
报告哪些量
至少报告
常见误用
“斜率显著”只说明在模型和抽样假设下斜率与 0 不相容;它不证明
教学示例:同一份模拟数据
下面的 8 行是教学模拟数据,不是研究结果:
python
import numpy as np
import statsmodels.api as sm
x = np.arange(1, 9, dtype=float)
y = np.array([2.1, 2.9, 4.2, 5.1, 5.8, 7.2, 7.9, 9.1])
fit = sm.OLS(y, sm.add_constant(x)).fit()
print(fit.params.round(3))
print(fit.bse.round(3))
print(fit.tvalues.round(2), fit.df_resid)
print(fit.conf_int().round(3))
print(fit.rsquared.round(3), fit.rsquared_adj.round(3))text
DATA LIST LIST / x y.
BEGIN DATA
1 2.1
2 2.9
3 4.2
4 5.1
5 5.8
6 7.2
7 7.9
8 9.1
END DATA.
REGRESSION
/DEPENDENT y
/METHOD=ENTER x
/STATISTICS=COEFF OUTS R ANOVA CI(95).按 OLS 计算(截距、斜率、SE、
| 项目 | 估计 | SE | 95% CI | |
|---|---|---|---|---|
| 截距 | 1.054 | 0.127 | 8.33 | [0.744, 1.363] |
| 0.996 | 0.025 | 39.77 | [0.935, 1.058] |
模型
从模型到论文
可按研究目的改写为:
一元线性回归显示,
与 呈正向关联, , , , ,95% CI [0.935, 1.058], 。该分析为观察性关联,不能单独支持因果解释。
如果
资源与工具
statsmodels OLS
Python 普通最小二乘 API(statsmodels 0.14.6,核查于 2026-08-12)
→
Cohen et al. (2003)
行为科学回归与相关分析教材
→
延伸阅读
- Cohen, J., Cohen, P., West, S. G., & Aiken, L. S. (2003). Applied multiple regression/correlation analysis for the behavioral sciences (3rd ed.). Routledge.
- Fox, J., & Weisberg, S. (2019). An R companion to applied regression (3rd ed.). Sage.
- Cook, R. D. (1977). Detection of influential observation in linear regression. Technometrics, 19(1), 15–18. https://doi.org/10.1080/00401706.1977.10489493
- White, H. (1980). A heteroskedasticity-consistent covariance matrix estimator and a direct test for heteroskedasticity. Econometrica, 48(4), 817–838. https://doi.org/10.2307/1912934
- MacKinnon, J. G., & White, H. (1985). Some heteroskedasticity-consistent covariance matrix estimators with improved finite sample properties. Journal of Econometrics, 29(3), 305–325. https://doi.org/10.1016/0304-4076(85)90158-7