3.4 回归分析

本节目标

读完本节（仅这个总览页）后你能：

看清回归分析在整个统计图谱中的位置——在连续结果变量和相同模型假设下，t 检验 / ANOVA 可以写成线性回归模型。
用一张表说清相关分析与差异分析的相似、差异、各自适用场景。
理解在含截距的一元线性回归中，Pearson 相关与回归系数之间的数学关系，以及两者解释视角的差别。
知道接下来 4 个小节（相关、一元回归、多元回归、哑变量）的衔接逻辑。

本节路线图

为什么这一章是统计的"主轴"：线性模型框架
相关分析 vs. 差异分析的对比
相关与一元回归：同一件事的两种说法
本章结构地图（3.4.0 → 3.4.3）
决策表：什么时候用回归、什么时候用差异分析

一、为什么这一章是统计学的"主轴"

社会心理学中许多常用分析都可以放进一般线性模型（general linear model）框架：

Y = b_{0} + b_{1} X_{1} + b_{2} X_{2} + \dots + b_{k} X_{k} + ε

当结果变量连续、使用普通最小二乘估计，并采用相同的编码和误差假设时，下面这些方法可以写成同一类模型：

你以前学的方法	在 GLM 里长什么样
独立样本 t 检验	$Y = b_{0} + b_{1} X$ ，其中 $X$ 是 0/1 哑变量（两组）
单因素 ANOVA（k 组）	$Y = b_{0} + b_{1} D_{1} + \dots + b_{k - 1} D_{k - 1}$ ，其中 $D_{i}$ 是哑变量
双因素 ANOVA	主效应 + 哑变量交互项的回归
ANCOVA	哑变量 + 连续协变量的回归
Pearson 相关	与含截距的一元回归存在直接换算关系
一元回归	一个连续 $X$ 的 GLM
多元回归	多个 $X$ 的 GLM

这意味着——在线性模型的适用范围内，回归、t 检验和 ANOVA 是同一套数学语言的不同表达。分类预测变量经过适当编码后可以进入回归模型，t / F 检验则用于检验相应的模型参数。

这个观点为什么重要

看清这一点后，几个原本"看起来很不同"的工作会突然合一：

中介、调节 → 都是回归（3.5）
多层模型 → 在线性模型上加入群组或个体层面的随机效应（3.6）
SEM → 可以同时估计测量模型、多个结构路径及其协方差（3.7）
Logistic 回归 → 属于广义线性模型（generalized linear model），通过 logit 链接函数建模二分类结果的对数优势；它不是普通线性回归中简单替换一个 Y

掌握回归，就掌握了后续中介、调节和多层模型的重要通用语法，但不同模型仍有各自的结果分布、链接函数和独立性假设。

两个 GLM 不要混淆

英文缩写 GLM 既可能指 general linear model（一般线性模型），也常被用于 generalized linear model（广义线性模型）。前者包括普通线性回归、t 检验和 ANOVA；后者进一步包括 logistic、Poisson 等模型。看到 GLM 时要结合上下文确认。

二、相关分析 vs. 差异分析的比较

前面学习的 t 检验和 ANOVA 主要比较不同组或条件的连续结果均值。本章的相关与回归则主要描述或建模变量之间如何共同变化。卡方检验处理分类计数，不属于下面这张连续结果变量的线性模型对照表。

它们在很多方面相似，但适用场景泾渭分明。

1. 一张表看清异同

维度	均值比较（t / ANOVA）	关系分析（相关 / 线性回归）
典型问题	A、B 两组的 Y 是否不同？	X 和 Y 是否一起变化？
IV 类型	分类（必须）	连续（典型） / 也可分类（哑变量）
DV 类型	连续	连续
效应方向	通过比较组均值看出	通过 r 或 b 的正负号看出
效应大小	Cohen's d / η²	Pearson r / R² / β
典型设计	实验研究（操纵分组）	横断 / 问卷研究
能扩展到多 IV 吗	能（多因素 ANOVA）	能（多元回归，更灵活）
能处理交互吗	能（ANOVA 交互）	能（回归乘积项）
能处理协变量吗	能（ANCOVA）	能（多元回归，更自然）

2. 它们的相似之处比想象多

很多人以为"相关"和"差异"是两套独立的工具，其实它们高度同源：

Student 独立样本 t 检验与点二列相关：把两组编码为 0/1，与连续 DV 求 Pearson 相关，在等方差 Student t 检验的条件下，两者检验可以互相换算。Welch t 检验使用不同的标准误和自由度，不再具有这项精确等价关系。
ANOVA 与多元回归：用合适的对比或哑变量编码分类预测变量，并确保模型、样本和平方和定义一致时，可以得到相同的拟合值和相应检验。
$R^{2}$ 与 $η^{2}$ ：在单因素 ANOVA 中，模型整体的 $R^{2}$ 等于该因素的 $η^{2}$ 。多因素模型中，单个效应的 $η^{2}$ 、partial $η^{2}$ 与整体 $R^{2}$ 不是同一个量。

一个验证：t 检验是相关的特例

设两组总样本量为 $n$ ，把组别编码为 0/1，并采用等方差 Student t 检验：

组别与连续结果的点二列相关就是 Pearson $r$ 。
相关检验与回归斜率检验的自由度都是 $n - 2$ 。
它们满足 $t^{2} = F = \frac{r^{2} (n - 2)}{1 - r^{2}}$ 。

这项等价关系说明的是同一模型条件下的数学换算，不是说所有版本的 t 检验、相关和回归都可以无条件互换。

3. 怎么选：分组比较还是连续视角？

实操决策的核心是：你的自变量本身是分类的还是连续的？

你的 IV	推荐做法
天然分类（实验组别、性别、诊断类别）	差异分析（t / ANOVA）
天然连续（年龄、收入、量表分）	相关 / 回归
可二者皆可（如收入分为高中低）	优先用连续！见下面警告

中位分割（median split）的诱惑——别上当

社心方向有个长期顽疾：把连续变量人为地切成"高 / 低"两组（用中位数为界），然后跑 t 检验或 2×2 ANOVA。这样做看起来"清爽"，结果可发可读。但 MacCallum 等 (2002) 那篇经典批判文章揭露了几个严重问题：

损失统计信息和功效——损失程度取决于变量分布、切点和真实关系；对近似正态变量做中位二分时，信息损失可达到约三分之一，并可能需要明显更大的样本才能达到相近精度。
可能产生虚假的交互效应——两个连续 IV 都做中位分割后做 2×2 ANOVA，本来不存在的交互可能"出现"。
可能掩盖真实的非线性关系。
结论依赖于你的样本中位数——换一批被试，分组阈值就变，结论也变。

如果你的 IV 是连续的，就用相关 / 回归处理。不要为了"做 ANOVA 看起来更熟"而切两半。

三、相关与一元回归：同一件事的两种说法

这是本章衔接 3.4.0 → 3.4.1 的关键。

1. 数学上的一致性

对一组连续的 (X, Y) 数据：

Pearson 相关系数（标准化指标）：

r = \frac{\sum (X_{i} - \bar{X}) (Y_{i} - \bar{Y})}{\sqrt{\sum (X_{i} - \bar{X})^{2} \sum (Y_{i} - \bar{Y})^{2}}}

一元回归方程：

\hat{Y} = b_{0} + b_{1} X

它们之间存在直接的等价关系：

b_{1} = r \times \frac{S D_{Y}}{S D_{X}}, β = r

也就是说：

一元回归里未标准化系数 $b_{1}$ 是 r 乘以 SD 比。
一元回归里标准化系数 $β$ 就等于 r。
一元回归的 R² = 相关系数的平方 = $r^{2}$ 。
检验" $b_{1} \neq 0$ "的 t 值与检验" $r \neq 0$ "的 t 值完全一致。

2. 但它们回答的问题不同

虽然数学等价，叙述视角不同：

	相关分析	一元回归
视角	对称——X 和 Y 地位相同	不对称——X 预测 Y
输出关注	一个 r 值 + 显著性	截距、斜率、预测值、残差
典型问题	"它们相关吗？相关有多强？"	"给定 X，Y 大约是多少？"
适合的研究目的	探索性、描述性	预测性、解释性
常见扩展	偏相关、半偏相关、相关矩阵	多元回归、分类预测变量、交互、中介模型

怎么决定叫"相关"还是"回归"

你只想说"这两个变量相关"→ 报告 Pearson r
你要做预测、解释、控制其他变量、扩展为中介调节模型 → 用回归
论文 Results 节的"描述统计 + 相关矩阵表"里报告 r；"假设检验"段落里报告回归系数

在含截距、单一预测变量的普通线性回归中，两者的检验结果可以直接换算，但研究问题和报告重点不同。本章先用 3.4.0 讲清 r，再用 3.4.1 扩展到预测、残差和模型诊断，最后在 3.4.2/3.4.3 加入多个预测变量和分类编码。

四、本章结构地图

接下来 4 个小节按"由浅入深、由简入繁"的顺序展开：

小节	核心问题	加入的新元素
3.4.0 相关分析	X 和 Y 一起变化吗？	两个连续变量的关联强度
3.4.1 一元回归	给定 X，Y 大约是多少？	斜率、截距、预测、残差
3.4.2 多元回归	控制其他变量后 X 还预测 Y 吗？	多个连续 IV、共线性、模型选择
3.4.3 哑变量回归	怎么把分类 IV 装进回归？	哑变量编码、ANOVA = 回归的事实

学完这四节，你就能在线性模型的共同假设下解释 t 检验、ANOVA、ANCOVA 与相关分析的联系，并且自然过渡到 3.5 中介与调节和 3.6 多层模型。

五、决策表：什么时候用回归、什么时候用差异分析

你的情形	推荐方法	出现章节
两组（实验组 vs 对照） + 连续 DV	t 检验 / 哑变量回归	3.2.1 / 3.4.3
三组及以上 + 连续 DV	ANOVA / 哑变量回归	3.2.2 / 3.4.3
两个连续变量的关联	Pearson 相关 / 一元回归	3.4.0 / 3.4.1
连续 IV 预测连续 DV，控制其他变量	多元回归	3.4.2
多个连续 + 分类 IV 共同预测	多元回归（含哑变量）	3.4.3
两个分类变量的关联	卡方检验	3.3
实验设计 + 想看个体差异如何调节效应	调节回归（含交互）	3.5.2
想检验中介机制	中介回归	3.5.1