主题
5.1 情境问卷 / vignette
本节目标
读完本节后,你能把抽象问题改写为可操纵的情境对比,选择组间或组内呈现方式,预试材料的真实性与可理解性,并按真实观测结构分析和报告情境实验。
5.1.1 它回答什么问题
情境实验(vignette experiment)向参与者呈现经过控制的文字、图片、音频或视频情境,再测量判断、选择、意向或情绪反应。在随机分配得到执行、版本间除计划因素外保持可比且不存在干扰等条件下,组间差异可以估计该具体变化对这项反应的平均影响(Aguinis & Bradley, 2014)。
它适合研究难以在现实中直接操纵、成本较高或带有伦理风险的社会判断。例如,与其真的让管理者歧视求职者,可以随机改变简历中的群体线索,测量录用评价。结论仍然限于这段材料、这类参与者、这项反应和呈现环境;对假想情境的回答不自动等于现实行为。
情境问卷不是普通横断问卷的别名,也不等于所有“启动”任务。只有当研究者随机分配情境版本且版本间的差异可明确归因时,组间对比才有实验解释。若只是让参与者阅读同一段故事并报告态度,结果是描述或关联。
先写清变量与观测单位
| 项目 | 需要决定什么 |
|---|---|
| 处理因素 | 情境中被随机改变的属性及其水平 |
| 主要结果 | 评分、选择、反应时或行为意向;量尺和测量时点 |
| 随机化单位 | 参与者、情境,还是参与者收到的每次呈现 |
| 观测单位 | 一位参与者对一份材料的一次回答;多次回答聚类于参与者,共用材料时还可能与材料交叉 |
| 估计目标 | 某两个情境版本的均值差、概率差、优势比或交互作用 |
| 外推范围 | 哪些人、材料、媒介和现实情境 |
5.1.2 从理论对比到情境材料
先用一句话写出主要对比:“在其他信息相同的条件下,把 [因素] 从 [水平 A] 改为 [水平 B],是否改变 [主要结果]?”然后逐项制作材料。
- 一次只改变计划中的信息。 不要让“高地位”版本同时更长、更正式、信息更多,否则地位效应与文字差异混在一起。
- 让水平覆盖理论范围。 水平之间应足以被参与者区分,又不能离开目标情境。连续构念被离散为“低/高”时,要说明为何这两个水平能回答问题。
- 固定无关细节。 人名、篇幅、图片质量、呈现时间和回答选项应尽量一致;无法固定的部分应随机化或纳入设计。
- 把材料当作样本。 如果结论要推广到一类人物、帖子或事件,不要只用一条材料。使用多个实例,并在分析中考虑材料差异。
- 保存全部版本。 为每个版本建立唯一 ID,保留生成规则、最终文本、媒体文件与校验记录。
析因情境调查(factorial survey)同时操纵多个因素。比如“表达方式”2 水平、“消息来源”3 水平、“后果严重性”2 水平,共有
常见混淆
情境是否“逼真”与处理是否“有效”是两个问题。过度戏剧化的材料可能让组间差异变大,却把估计目标改成了现实中几乎不会出现的处理。先界定要模拟的情境范围,再优化可理解性。
5.1.3 选择组间还是组内设计
每人只看一个版本:组间设计
- 优点:较少出现比较线索、顺序效应和猜测研究目的;
- 代价:个体差异进入误差;当组内设计可行且同一人的重复反应正相关时,组间设计通常需要更多参与者才能达到同等精度;
- 实施:按参与者随机分配版本,检查每个版本的实际人数、分配失败和重复参与。
每人评价多个版本:组内设计
- 优点:同一参与者作为自己的对照,可以研究判断如何随情境属性变化;
- 代价:可能出现疲劳、学习、对比和携带效应;
- 实施:随机或平衡呈现顺序,限制任务长度,避免连续出现过于相似的版本。
每人评价多个情境时,记录数不是独立样本数。可写成
其中
样本量规划要同时考虑参与者数、每人评价数、材料数、组内相关和最小关注效应。先确定主要对比,再到 2.4 取样与功效分析 选择解析或仿真方案。
5.1.4 预试:检查什么、何时检查
正式收集前,按风险分别安排以下检查;可以在同一轮或不同轮完成,但应避免用正式研究的主要结果反复挑选材料:
- 认知访谈。 让目标人群逐段复述他们理解到的信息,找出歧义、陌生术语、默认前提和不合理情节。
- 独立预试。 在不使用主要结果作为筛选标准的前提下,检查处理因素是否被区分、材料是否可信、各版本在非目标属性上是否意外不同。
操纵检查应服务于诊断,而不是自动决定删人。若操纵检查在主要结果之前出现,它可能提示研究目的或改变参与者反应;放在主要结果之后可以减少对结果测量的干扰,但检查本身仍是处理后的变量。按事后操纵检查删除参与者,会使保留样本中的组间比较不再由原随机分配保证,并把估计目标改成“通过检查的人”。主要分析通常保留有主要结果的随机分配参与者;检查结果用于解释处理实施,预先规定的替代分析则作为敏感性分析(Hauser et al., 2018; Montgomery et al., 2018)。
注意力题也不能替代材料预试。排除规则应说明题目、阈值、出现位置和理由,并在看组间结果前固定。相关计划可写入 2.5 预注册与开放科学。
5.1.5 分析、诊断与报告
先按结果变量选择模型,再匹配依赖结构:连续评分可用线性模型,二分类选择可用二项模型,有序等级可考虑有序模型;重复评分需加入参与者层相关,使用多份材料时还要反映材料层变异。
至少报告:
- 各因素、水平、完整材料和随机分配方法;
- 每个版本收到、完成和进入分析的人数,以及预先规定的排除;
- 主要对比的原始量尺效应、95% CI 和模型假设;必要时补充标准化效应;
- 二分类结果的绝对概率差,并可同时报告风险比或优势比;
- 参与者与材料层的方差、残差或拟合诊断,以及顺序和版本异常;
- 所有计划交互及其区间,而不是比较“这一组显著、另一组不显著”;
- 从假想判断到现实行为、其他材料或其他人群的外推限制。
常见误用
- 用一个“代表性故事”支撑对所有情境的结论;
- 把多条评分当成独立样本,得到过窄的置信区间;
- 根据主要结果反复改文案、删版本或选择操纵检查阈值;
- 只报告显著的情境因素,省略完整析因设计中的其他主效应与交互;
- 把自报意向的变化写成现实行为已经改变。
执行清单
从草稿到正式收集
- 固定研究问题、主要对比、结果和外推范围。
- 建立因素表与版本 ID,逐项检查只改变了计划信息。
- 用认知访谈检查理解,用独立预试检查区分度和非目标差异。
- 确定组间/组内分配、顺序、材料抽样与真实观测结构。
- 预注册样本量、排除、模型、交互和操纵检查用途。
- 发布材料、分配代码、匿名数据或可运行的模拟数据与分析脚本。
资源与工具
Atzmüller & Steiner
调查研究中的实验情境设计与分析概览
→
Aguinis & Bradley
实验情境方法的设计与实施建议
→
Manipulation Checks
操纵检查的用途、代价与替代方案
→
延伸阅读
- Atzmüller, C., & Steiner, P. M. (2010). Experimental vignette studies in survey research. Methodology, 6(3), 128–138. https://doi.org/10.1027/1614-2241/a000014
- Aguinis, H., & Bradley, K. J. (2014). Best practice recommendations for designing and implementing experimental vignette methodology studies. Organizational Research Methods, 17(4), 351–371. https://doi.org/10.1177/1094428114547952
- Hauser, D. J., Ellsworth, P. C., & Gonzalez, R. (2018). Are manipulation checks necessary? Frontiers in Psychology, 9, 998. https://doi.org/10.3389/fpsyg.2018.00998
- Judd, C. M., Westfall, J., & Kenny, D. A. (2012). Treating stimuli as a random factor in social psychology: A new and comprehensive solution to a pervasive but largely ignored problem. Journal of Personality and Social Psychology, 103(1), 54–69. https://doi.org/10.1037/a0028347
- Montgomery, J. M., Nyhan, B., & Torres, M. (2018). How conditioning on posttreatment variables can ruin your experiment and what to do about it. American Journal of Political Science, 62(3), 760–775. https://doi.org/10.1111/ajps.12357