互动决策中的概率权重:不良辅助过度使用,良好辅助使用不足的证据

可解释人工智能(XAI)AI 辅助决策与自动化系统AI 伦理、公平与问责算法透明度与可审计性

文献标题

Probability Weighting in Interactive Decisions: Evidence for Overuse of Bad Assistance, Underuse of Good Assistance

文献信息

  • 主题领域: 人机交互、行为经济学、心理学中的决策理论
  • 关键词: 概率加权, 人机交互, 助理用户界面, 使用偏差, 前景理论, 设计优化, 用户决策, 系统可靠性

研究背景与问题

  • 发现的问题或挑战: 助理用户界面 (assistive interfaces) 提供的帮助并非总是正确的。用户在决定是否使用助理功能时容易出现系统性偏差,这些偏差可能导致过度使用低准确率系统或低估高准确率系统。
  • 问题重要性: 随着智能系统在交互中的使用频率增加,如何设计使用户可靠高效地利用助理功能成为重要课题。错误地使用或忽视这些功能可能显著降低用户效率和满意度。
  • 研究动机与相关工作:
    • 经济学和心理学研究发现,人在评价概率事件时存在系统性偏差:低概率事件被高估,高概率事件被低估。这由“概率加权函数”(Probability Weighting Function)建模。
    • 先前的HCI工作揭示了用户在面对助理界面时的选择行为,例如对低准确界面的偏爱和因损失厌恶拒绝高准确界面。
    • 仍需了解这种加权函数在交互环境下的具体表现。

解决方案

  • 提出的解决方案: 应用概率加权函数对用户交互决策偏差进行量化,并通过实验分析用户选择助理功能的行为是否符合理论预测。
  • 创新之处:
    1. 建立了衡量用户过度使用和低使用助理界面功能的指标。
    2. 阐明了概率加权函数在交互决策中的应用,并验证了其预测效果。
  • 实施步骤:
    1. 设计一个实验,操控助理界面功能对不同任务目标的适配程度(准确率)。
    2. 收集用户在不同准确率条件下的交互数据,量化用户偏差。
    3. 将用户行为数据与概率加权模型进行拟合。
    4. 提出设计建议以减少决策偏差。

研究成果

  • 具体成果:
    1. 在低准确率(20%)时,发现用户倾向于过度使用助理功能(概率加权导致高估偶尔的正确帮助)。
    2. 在高准确率(80%)时,用户较多地低估助理功能并选择拒绝使用(低估频繁的正确帮助)。
    3. 针对实验数据拟合的概率加权函数结果表明,该模型能够预测用户的决策行为。
  • 优势与现有解决方案对比:
    • 提供了基于行为经济学理论的偏差解释和量化模型,与现存依赖于满意度和偏好分析的HCI方法相比更具有理论支持和预测性。
    • 强调决策偏差的来源及其对设计的影响,为改进交互设计提供了新的思路。
  • 实验或评估结果:
    1. 用户在低准确率条件下,由于高估低概率正确帮助,倾向于过度使用助理功能(Bias > 0)。
    2. 用户在高准确率条件下,由于低估高概率正确帮助,倾向于低使用助理功能(Bias < 0)。
    3. 实验结果与前景理论的概率加权函数预测完全一致。
  • 局限性与未来方向:
    1. 实验仅涵盖静态、明确的选择场景,尚需探索动态和隐含决策场景是否存在类似偏差。
    2. 研究集中于特定交互任务(文字选择),需进一步探讨其他交互形式中的表现。
    3. 建议开发系统,使用户能够获得实时反馈,比如通过显示优化选项的可能收益或解释助理功能的优势来帮助减少决策偏差。

总结与设计建议

  • 综合而言,研究揭示了用户在助理界面使用中的系统性偏差,并通过概率加权理论解释这些偏差的来源。设计师可通过提高用户对性能的认知(如引入绩效监测工具)来减少偏差。此外,针对过度使用错误帮助和低使用正确帮助的问题,需进一步优化助理界面设计以平衡用户偏差行为,从而提高交互效率和用户体验。

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/papers/chi/72158/2022

广告推荐

学习 AI 编程到 CodeNow

open_in_new打开DOI链接
DOI: https://dl.acm.org/doi/abs/10.1145/3491102.3517477
一眼看懂

论文快照

fact_check
dataset
来源
CHI
calendar_month
年份
2022
emoji_events
奖项
未标记奖项
group
作者
5 位作者
sell
研究子方向
可解释人工智能(XAI)、AI 辅助决策与自动化系统、AI 伦理、公平与问责、算法透明度与可审计性
work
职业/产业
article
内容状态
已索引正文
hub
相关论文
4 篇相关论文