Skip to content

5.1 情境问卷 / vignette ​

本节目标

读完本节后,你能把抽象问题改写为可操纵的情境对比,选择组间或组内呈现方式,预试材料的真实性与可理解性,并按真实观测结构分析和报告情境实验。

5.1.1 它回答什么问题 ​

情境实验(vignette experiment)向参与者呈现经过控制的文字、图片、音频或视频情境,再测量判断、选择、意向或情绪反应。在随机分配得到执行、版本间除计划因素外保持可比且不存在干扰等条件下,组间差异可以估计该具体变化对这项反应的平均影响(Aguinis & Bradley, 2014)。

它适合研究难以在现实中直接操纵、成本较高或带有伦理风险的社会判断。例如,与其真的让管理者歧视求职者,可以随机改变简历中的群体线索,测量录用评价。结论仍然限于这段材料、这类参与者、这项反应和呈现环境;对假想情境的回答不自动等于现实行为。

情境问卷不是普通横断问卷的别名,也不等于所有“启动”任务。只有当研究者随机分配情境版本且版本间的差异可明确归因时,组间对比才有实验解释。若只是让参与者阅读同一段故事并报告态度,结果是描述或关联。

先写清变量与观测单位 ​

项目需要决定什么
处理因素情境中被随机改变的属性及其水平
主要结果评分、选择、反应时或行为意向;量尺和测量时点
随机化单位参与者、情境,还是参与者收到的每次呈现
观测单位一位参与者对一份材料的一次回答;多次回答聚类于参与者,共用材料时还可能与材料交叉
估计目标某两个情境版本的均值差、概率差、优势比或交互作用
外推范围哪些人、材料、媒介和现实情境

5.1.2 从理论对比到情境材料 ​

先用一句话写出主要对比:“在其他信息相同的条件下,把 [因素] 从 [水平 A] 改为 [水平 B],是否改变 [主要结果]?”然后逐项制作材料。

  1. 一次只改变计划中的信息。 不要让“高地位”版本同时更长、更正式、信息更多,否则地位效应与文字差异混在一起。
  2. 让水平覆盖理论范围。 水平之间应足以被参与者区分,又不能离开目标情境。连续构念被离散为“低/高”时,要说明为何这两个水平能回答问题。
  3. 固定无关细节。 人名、篇幅、图片质量、呈现时间和回答选项应尽量一致;无法固定的部分应随机化或纳入设计。
  4. 把材料当作样本。 如果结论要推广到一类人物、帖子或事件,不要只用一条材料。使用多个实例,并在分析中考虑材料差异。
  5. 保存全部版本。 为每个版本建立唯一 ID,保留生成规则、最终文本、媒体文件与校验记录。

析因情境调查(factorial survey)同时操纵多个因素。比如“表达方式”2 水平、“消息来源”3 水平、“后果严重性”2 水平,共有 2×3×2=12 个完整组合。在各组合得到计划分配、数据充足且对比可识别时,完整析因设计可以估计计划的主效应与交互作用;组合过多时可以使用经过设计的子集,但必须检查关键效应是否与其他效应混淆,不能随手删掉“不自然”的单元格(Atzmüller & Steiner, 2010)。

常见混淆

情境是否“逼真”与处理是否“有效”是两个问题。过度戏剧化的材料可能让组间差异变大,却把估计目标改成了现实中几乎不会出现的处理。先界定要模拟的情境范围,再优化可理解性。

5.1.3 选择组间还是组内设计 ​

每人只看一个版本:组间设计 ​

  • 优点:较少出现比较线索、顺序效应和猜测研究目的;
  • 代价:个体差异进入误差;当组内设计可行且同一人的重复反应正相关时,组间设计通常需要更多参与者才能达到同等精度;
  • 实施:按参与者随机分配版本,检查每个版本的实际人数、分配失败和重复参与。

每人评价多个版本:组内设计 ​

  • 优点:同一参与者作为自己的对照,可以研究判断如何随情境属性变化;
  • 代价:可能出现疲劳、学习、对比和携带效应;
  • 实施:随机或平衡呈现顺序,限制任务长度,避免连续出现过于相似的版本。

每人评价多个情境时,记录数不是独立样本数。可写成

yij=β0+β1xij+ui+vj+εij,

其中 yij 是参与者 i 对材料 j 的回答,xij 是计划处理,ui 和 vj 分别是参与者与材料的随机截距。若多位参与者评价同一批材料,这是参与者与材料的交叉随机因素;若每位参与者收到各自独有的材料,材料才嵌套在参与者内。只有当某随机因素的同一单位经历多个处理水平时,数据才支持为该因素估计相应随机斜率。模型还应与处理分配、材料抽样和推断范围一致;不能只因软件容易就把所有评分当作独立行做普通回归(Judd et al., 2012)。

样本量规划要同时考虑参与者数、每人评价数、材料数、组内相关和最小关注效应。先确定主要对比,再到 2.4 取样与功效分析 选择解析或仿真方案。

5.1.4 预试:检查什么、何时检查 ​

正式收集前,按风险分别安排以下检查;可以在同一轮或不同轮完成,但应避免用正式研究的主要结果反复挑选材料:

  1. 认知访谈。 让目标人群逐段复述他们理解到的信息,找出歧义、陌生术语、默认前提和不合理情节。
  2. 独立预试。 在不使用主要结果作为筛选标准的前提下,检查处理因素是否被区分、材料是否可信、各版本在非目标属性上是否意外不同。

操纵检查应服务于诊断,而不是自动决定删人。若操纵检查在主要结果之前出现,它可能提示研究目的或改变参与者反应;放在主要结果之后可以减少对结果测量的干扰,但检查本身仍是处理后的变量。按事后操纵检查删除参与者,会使保留样本中的组间比较不再由原随机分配保证,并把估计目标改成“通过检查的人”。主要分析通常保留有主要结果的随机分配参与者;检查结果用于解释处理实施,预先规定的替代分析则作为敏感性分析(Hauser et al., 2018; Montgomery et al., 2018)。

注意力题也不能替代材料预试。排除规则应说明题目、阈值、出现位置和理由,并在看组间结果前固定。相关计划可写入 2.5 预注册与开放科学。

5.1.5 分析、诊断与报告 ​

先按结果变量选择模型,再匹配依赖结构:连续评分可用线性模型,二分类选择可用二项模型,有序等级可考虑有序模型;重复评分需加入参与者层相关,使用多份材料时还要反映材料层变异。

至少报告:

  • 各因素、水平、完整材料和随机分配方法;
  • 每个版本收到、完成和进入分析的人数,以及预先规定的排除;
  • 主要对比的原始量尺效应、95% CI 和模型假设;必要时补充标准化效应;
  • 二分类结果的绝对概率差,并可同时报告风险比或优势比;
  • 参与者与材料层的方差、残差或拟合诊断,以及顺序和版本异常;
  • 所有计划交互及其区间,而不是比较“这一组显著、另一组不显著”;
  • 从假想判断到现实行为、其他材料或其他人群的外推限制。

常见误用

  • 用一个“代表性故事”支撑对所有情境的结论;
  • 把多条评分当成独立样本,得到过窄的置信区间;
  • 根据主要结果反复改文案、删版本或选择操纵检查阈值;
  • 只报告显著的情境因素,省略完整析因设计中的其他主效应与交互;
  • 把自报意向的变化写成现实行为已经改变。

执行清单 ​

从草稿到正式收集

  1. 固定研究问题、主要对比、结果和外推范围。
  2. 建立因素表与版本 ID,逐项检查只改变了计划信息。
  3. 用认知访谈检查理解,用独立预试检查区分度和非目标差异。
  4. 确定组间/组内分配、顺序、材料抽样与真实观测结构。
  5. 预注册样本量、排除、模型、交互和操纵检查用途。
  6. 发布材料、分配代码、匿名数据或可运行的模拟数据与分析脚本。

资源与工具 ​

延伸阅读 ​

  • Atzmüller, C., & Steiner, P. M. (2010). Experimental vignette studies in survey research. Methodology, 6(3), 128–138. https://doi.org/10.1027/1614-2241/a000014
  • Aguinis, H., & Bradley, K. J. (2014). Best practice recommendations for designing and implementing experimental vignette methodology studies. Organizational Research Methods, 17(4), 351–371. https://doi.org/10.1177/1094428114547952
  • Hauser, D. J., Ellsworth, P. C., & Gonzalez, R. (2018). Are manipulation checks necessary? Frontiers in Psychology, 9, 998. https://doi.org/10.3389/fpsyg.2018.00998
  • Judd, C. M., Westfall, J., & Kenny, D. A. (2012). Treating stimuli as a random factor in social psychology: A new and comprehensive solution to a pervasive but largely ignored problem. Journal of Personality and Social Psychology, 103(1), 54–69. https://doi.org/10.1037/a0028347
  • Montgomery, J. M., Nyhan, B., & Torres, M. (2018). How conditioning on posttreatment variables can ruin your experiment and what to do about it. American Journal of Political Science, 62(3), 760–775. https://doi.org/10.1111/ajps.12357