AI调解的决策制定：捕捉和平衡顺序决策任务中的锚定偏差

文献标题

AI-Moderated Decision-Making: Capturing and Balancing Anchoring Bias in Sequential Decision Tasks

文献信息

• 主题领域: 人工智能、多序列决策任务中的认知偏差问题解决、人机交互研究
• 关键词: 锚定偏差, 人工智能, 神经网络, 人机交互, 决策过程, 公平性, 支持向量机, 机器学习, 深度强化学习, 人为决策偏差

研究背景与问题

• 发现的问题与挑战:

  • 在多序列决策任务中，决策者的最近一次决策会影响后续的决策，这种现象被称为锚定偏差（Anchoring Bias）。
  • 锚定会导致决策不公平，例如：具有相似特征的个体因决策顺序不同而受到不一致的待遇，影响终决策准确度。
  • 此偏差问题存在于高风险任务（如大学录取许可）和低风险任务（如产品评价），带来广泛社会应用影响。

• 研究动机:

  • 为减少这种潜在偏差，本文旨在开发技术方法，以识别、调整锚定状态并提高决策的公正性。
  • 锚定现象对学术领域、社会政策以及人工智能辅助判断系统的公平能力构成重大挑战。

解决方案

方法

1. 数据收集与分析:

   • 收集大学录取数据集（5,814个决策序列，117位评估者）以及产品评论数据集，由实验人员在Amazon Mechanical Turk上完成。
   • 使用支持向量机（SVM）作为一个“无锚定偏差”的预测工具，帮助检测偏差点并进行后续调整。

2. 两种策略:

   • 回溯性偏差适应（Retrospective Probabilistic Adaptation，PA）:
     • 使用指数衰减函数拟合评估者锚定状态，并调整已完成决策的依据。
     • 根据SVM预测重新调整评估准确率，将潜在的错误判定进行纠正。
   • 实时顺序学习（Prospective Sequential Sampling Order Learning）:
     • 利用长短期记忆（LSTM）神经网络模拟评估者的锚定状态。
     • 深度强化学习（RL，如Deep-Q网络和Actor-Critic方法）用来动态决定序列中下一实例的呈现顺序，从而减弱锚定影响。

实施步骤

• 数据预处理：
  • 利用TF-IDF技术对数据进行词向量特征化。
  • 训练 SVM 来定义决策边界，用于预测准确率基准。
• 回溯性算法：
  • 根据过去的决策数量与状态概率调整当前决策，从概率模型中获得“偏差标志”。
• 实时序列学习：
  • 使用LSTM捕获锚定动态状态，将其输入深度强化学习框架以优化呈现顺序。
  • 以奖励机制衡量减少锚定效果的操作。

研究成果

具体成果

• 实验效果与准确性提升:

  1. 回溯性方法（PA）：
     • 大学录取任务：决策准确性提高2%，偏差（Pearson相关系数）的降低幅度为0.01。
     • 产品评论任务：决策准确性提高5%，偏差降低幅度为0.08。
  2. 实时顺序学习：准确性提升7%，偏差减弱0.07。

• 与现有方案比较的优势:

  • PA和实时顺序学习算法无需在任务中增加提示或修改任务设置，降低了人为引入新偏差的风险。
  • 比借助启发式方法（如强弱实例交替呈现）更有效，后者提升准确率仅为3%。

局限性与未来研究方向

• 局限:

  • 高风险任务（如大学录取）中的实验伦理问题，应避免真实环境尝试。
  • LSTM生成锚定状态的解释性不足，存在“黑箱问题”，很难解读具体推理机制。

• 未来方向:

  • 提升模型可解释性：如用LIME框架分析LSTM和RL行为。
  • 探索与评估者合作的模型补充：显示锚定状态以增强评估者决策能力。
  • 建议对高风险任务中标记为“疑似偏差”的实例进行重新审核，并建立共识决策。

结论

本文提出了一种综合AI与人类力量的策略，有效减轻了多序列决策任务中的锚定偏差，同时实现了高效公平的决策过程。这项研究对人机协作及强化公平性具有重要意义，适用于广泛的社会与技术领域。