值多少：人类为了不与AI系统进行谈判而覆盖了自己的经济自我利益

文献标题

For What It’s Worth: Humans Overwrite Their Economic Self-interest to Avoid Bargaining With AI Systems

文献信息

• 主题领域: 人工智能决策系统与人类行为交互
• 关键词: 人工智能系统、在线实验、人机互动、决策支持系统、市场交互、最终通牒博弈
• 会议: CHI Conference on Human Factors in Computing Systems, April 29-May 5, 2022, New Orleans, LA, USA

研究背景与问题

• 关键问题: 本文关注人工智能（AI）系统在替代或增强人类决策时对人类行为模式的潜在影响，尤其是当AI系统在竞争性环境中部分或完全替代人类时，人们如何选择以及采用何种行为策略。
• 研究重要性: 随着AI技术在社会和经济活动中的广泛应用，理解这些系统如何影响人类行为决策变得尤为重要。这不仅影响用户，还包括间接参与AI决策产生后果的各方，例如消费市场中的价格算法、信贷评分系统以及组织环境中的劳动力分配。
• 研究动机及相关工作:
  • 许多研究表明，人与AI或算法的互动可能通过减少情感参与和社会问题的权重来提高市场效率，但同时也可能削弱合作和公平性，损害经济和社会结果。
  • 目前较少研究探讨算法引入对人类信念、需求及行为的全面影响，尤其是经济动机与社会动机的相互作用如何在人工代理环境下发生变化。

解决方案

• 研究方法: 作者设计了一种基于最终通牒博弈（Ultimatum Bargaining）的实验，通过对480名受试者在三种提议者（完全人类、AI辅助的提议者、完全由AI代理的提议者）之间的选择与决策过程的分析来揭示关键行为模式。
• 实验步骤:
  1. 被试角色分配: 受试者被随机分配为“提议者”或“响应者”，并需要完成相应的任务。
  2. 提案决策: 提议者需要制定资金分配，响应者则选择是否接受、拒绝及预先预测提供者行为。
  3. 信念激励测量（BSR方法）: 衡量受试者关于不同提议者的分配行为的信念，验证是否符合经济理性。
  4. 自我选择行为: 让受试者自由选择与三种提议者中的哪种互动，研究其自我选择策略和后续的经济结果。
• 技术与创新:
  • 结合信念激励测量（Belief Scoring Rule, BSR）和博弈实验方法，定量分析人类对AI提议者的经济与社会偏好。
  • 首次证明人在面对AI代理时会优先考虑社会因素，甚至“重写”其经济自利动机。

研究成果

• 关键实验发现:
  1. 避免AI互动: 大多数响应者倾向于选择人类提议者（49%），而非AI辅助提议者（38%）或AI代理（12%）。同时，完全由AI代理的场景最不受欢迎。
  2. 经济自利被社交偏好取代:
     • 尽管响应者预测AI代理能带来更高的经济收益，只有少数实际选择与AI代理互动。
     • 响应者在与AI代理交易时提出更高的报酬要求，降低了成功互动的比例。
  3. AI引入降低经济效率与市场潜力:
     • 完全由AI代理的场景成功率低，仅满足了61%的需求，而辅助AI辅助提议的成功率接近100%，表明AI无法适应或重现复杂社会环境中的行为动态。
• 优势与影响:
  • 提供大量实验数据支持，证明AI系统的自治程度显著影响人类行为偏好以及市场效率。
  • 助力AI系统设计者理解用户偏好与信任机制，尤其是在竞争性经济环境下激励方案的改进。
• 局限性与未来方向:
  1. 缺乏对为何避免AI互动的深度动机分析，只能粗略猜测此行为出于社会认知中的不信任或感知不公平。
  2. 实验中使用了抽象的博弈模型，仅部分反映现实复杂环境，未来需扩展至其他任务领域（如招聘、医疗、社会公平决策）。
  3. AI系统的透明度、经验积累与解释性如何改变长期的人机合作行为值得进一步研究。