不只是偏好：减少 dating 网站上的偏见决策

文献标题

Not Just a Preference: Reducing Biased Decision-making on Dating Websites

文献信息

• 作者: Zilin Ma, Krzysztof Z. Gajos
• 发表会议: CHI Conference on Human Factors in Computing Systems (CHI ’22)
• 发表时间: 2022年4月29日-5月5日
• DOI: 10.1145/3491102.3517587
• 主题领域: 人机交互、社会心理学、技术伦理
• 关键词: 在线约会，偏见决策，隐性偏见，人机交互设计，种族歧视，用户体验，设计干预，偏见问题

研究背景与问题

1. 问题与挑战:

   • 在线约会网站是许多人寻找亲密伴侣的重要途径，但当前的设计可能会助长或强化用户的种族偏见。
   • 尽管有部分用户表示不考虑种族因素，但实验显示，这些用户的隐性偏见仍影响选择过程。
   • 流行的交互方式（例如滑动界面和匹配评分）可能放大此类隐性偏见。

2. 重要性:

   • 种族偏见阻碍了不同社会群体间的连接，并对弱势群体构成伤害。
   • 在线约会服务在构建关系和促进社会公平方面具有潜力，但设计不当会增强歧视倾向。

3. 研究动机与相关工作:

   • 研究涉及技术如何影响社会心理和偏见表现。
   • 类似的研究表明从人脸照片看到的第一印象会深刻影响决策，这使得现有界面设计有问题。
   • 本文旨在设计和测试能够减少偏见的界面，并通过实验验证其有效性。

解决方案

1. 方法或解决方案:

   • 提出了一种逆序信息展示的界面设计（Reversed Sequence Interface），使用户首先看到选择标准相关的个人描述信息，而最后才看到虚拟用户的照片和姓名，以降低基于照片的直觉决策对最终选择的影响。
   • 测试了另一种更新界面（Update Design），让用户在初次作出决策后看到匹配分数，并允许其根据新信息调整初始选择。

2. 创新之处:

   • 提出了新的交互模式，针对用户隐性种族偏见问题，而非简单依赖算法优化或用户教育。
   • 重点探讨隐性偏见和信息展示顺序的关系，提供了具体的可操作设计改进建议。

3. 实施步骤与关键技术:

   • 开发了模拟约会网站以测试不同界面的设计效果。
   • 实验设计包括控制组（滑动界面和匹配评分界面）和实验组（逆序信息界面和更新界面）。
   • 向1907名参与者展示虚拟约会资料（包含照片、名字和文字描述），并分析他们的选择行为。

研究成果

1. 主要结果:

   • 滑动界面用户表现出显著的反黑种族偏见，即使他们声称种族并非决定因素。
   • 逆序信息界面的偏见显著减少，特别是对于声称种族不是决定因素的用户。
   • 更新界面和逆序信息与更新结合的界面未能有效减轻偏见。

2. 创新点与优势:

   • 逆序信息界面鼓励用户花更多时间关注文字描述，由此降低照片中种族信息对决策的影响。
   • 与现有的设计相比，这种方法可以显著减少隐性偏见，同时不需要改变用户明确表达的偏好。

3. 实验数据与评估:

   • 参与者在逆序信息界面中对每个资料花费时间更长（中位数从13.9秒增加到15.04秒）。
   • 实验结果显示，偏见评分显著低于控制组（从0.043下降到0.012）。

4. 局限性与未来方向:

   • 参与者群体中性别和种族分布不一定完全反映现实中的约会网站用户。
   • 研究主要集中在反黑人偏见，未来可扩展至其他少数民族偏见。
   • 没有纳入非二元性别用户，需进一步研究全面的性别影响。
   • 未来研究需探讨设计干预对整个约会过程的长期影响，而不仅仅是初次决策。

总结

研究表明，在线约会网站的滑动界面设计可能助长种族偏见，而逆序信息展示的设计可以有效减少隐性偏见。设计决策在社交环境中的政治和社会后果值得深入讨论和改进。这项研究为设计更加公平的在线约会平台提供了新的启示，并指出了未来研究的新方向。