当生活给予你人工智能，你会把它变成柠檬市场吗？理解关于人工智能系统能力的信息不对称如何影响市场结果和采用

文献标题

When Life Gives You AI, Will You Turn It Into A Market for Lemons? Understanding How Information Asymmetries About AI System Capabilities Affect Market Outcomes and Adoption

出版信息

• 主题领域: 人工智能采用中的信息不对称及市场动态。
• 关键词: 人工智能采用、信息不对称、披露设计、劣质品市场、人机交互、信任校准、透明性、决策效率、监管框架、用户依赖。

背景与问题

• 问题/挑战: 人工智能系统通常存在隐藏缺陷或性能不可靠的问题，导致供应商与用户之间的信息不对称。目前的披露机制不一致，未能有效解决这些问题。
• 重要性: 解决信息不对称问题对于提升用户信任、决策效率以及人工智能采用中的市场结果至关重要。
• 动机与相关研究: 以往研究强调了信任校准以及对不透明人工智能系统的依赖问题。诸如欧盟《人工智能法案》等监管努力旨在提高透明度，但缺乏实证验证。本文基于经济学中的“劣质品市场”理论，探讨人工智能采用背景下的披露策略。

解决方案

• 提出的方法: 构建实验框架，模拟人工智能采用中的“劣质品市场”，并设置不同的劣质品密度和披露水平。
• 创新点:
  1. 将“劣质品市场”理论应用于人机交互领域。
  2. 系统研究在不同低质量人工智能系统密度下的部分披露和完全披露设计。
  3. 定量分析用户行为、依赖性以及人工智能市场中的决策效率。
• 流程与关键技术:
  • 模拟市场环境，包含三个任务：皮肤癌预测、贷款审批和虚假评论检测。
  • 被试间设计，设置三种劣质品密度条件（低、中、高）和两种披露条件（无披露、部分披露），以及一个完全披露基准。
  • 参与者与人工智能系统池交互，在自主决策或委托人工智能之间进行选择，并在每次试验后获得反馈。
  • 评估指标包括委托率、获得的金币数量以及对低质量人工智能系统的依赖程度。

结果

• 具体发现:
  • 部分披露显著提高决策效率，大幅减少对低质量人工智能系统的依赖。
  • 完全披露减少了对劣质品的委托，但表现出对人工智能系统的持续低依赖性，导致效率损失。
  • 参与者难以准确估计劣质品密度，导致依赖行为的错位。
• 相较基准的优势:
  • 部分披露抵消了中等劣质品密度的负面影响，相较于无披露提高了效率。
  • 完全披露实现了对劣质品的最佳规避，但未能最大化人工智能的采用。
• 实验/评估:
  • 通过 Prolific 招募了330名参与者，性别和年龄分布均衡。
  • 任务在试验中随机分配；劣质品密度和披露条件系统性变化。
  • 使用混合效应逻辑回归和普通最小二乘（OLS）分析评估委托行为和绩效结果。
• 局限性与未来工作:
  • 静态市场动态；现实中的人工智能市场可能表现出动态的卖方和买方行为。
  • 对人工智能质量的简化操作化；未来研究应纳入公平性、鲁棒性和安全性指标。
  • 二元委托模型；未来研究应探索分级依赖和验证机制。

总结

本文探讨了信息不对称和披露设计如何影响人工智能采用及市场结果。基于“劣质品市场”理论的实验框架显示，部分披露通过减少对低质量人工智能系统的依赖显著提高了决策效率，而完全披露虽然消除了信息不对称，但由于持续低依赖性未能最大化人工智能采用。研究结果强调了可解释且可操作的披露提示对于促进适当依赖的重要性。这些发现对监管框架具有重要意义，强调需要可执行但轻量化的披露规则，以缓解市场效率低下问题并支持以用户为中心的人工智能采用。