HCI.TOPHCI, made easy

arrow_back返回问题库查看分类arrow_forward

AI可解释性、信任与校准依赖 / 信心表达与元认知校准

用户可能因AI信心的影响，判断自己的能力不准确，导致决策失误。

lightbulb现实痛点信心表达与元认知校准

用户可能因AI信心的影响，判断自己的能力不准确，导致决策失误。

CHI '25As Confidence Aligns: Understanding the Effect of AI Confidence on Human Self-confidence in Human-AI Decision Making

同类问题

lightbulb现实痛点信心表达与元认知校准

用户难以适度依赖AI，过度或不足信赖导致决策错误。

CHI '24"Are You Really Sure?'' Understanding the Effects of Human Self-Confidence Calibration in AI-Assisted Decision Making

lightbulb现实痛点信心表达与元认知校准

用户在与机器人合作高风险任务时难以理解机器人的不确定性。

CHI '24Robot-Assisted Decision-Making: Unveiling the Role of Uncertainty Visualisation and Embodiment

lightbulb现实痛点信心表达与元认知校准

用户难以判断AI建议何时可信，可能盲目信任或过度拒绝。

IUI '23Moderate Reliance on AI Recommendations: Conceptualization and the Impact of Explanations

lightbulb现实痛点信心表达与元认知校准

用户可能因过度自信导致无法正确使用AI推荐。

CHI '23Knowing About Knowing: An Illusion of Human Competence Can Hinder Appropriate Reliance on AI Systems

lightbulb现实痛点信心表达与元认知校准

用户可能误信或不信自动化系统，导致误用或弃用。

CHI '23Measuring and Understanding Trust Calibrations for Automated Systems: A Survey of the State-Of-The-Art and Future Directions

lightbulb现实痛点信心表达与元认知校准

用户可能会对对话式智能体产生过度信任，导致错误决策和控制力丧失。

CUI '22Conversational Agents Trust Calibration: A User-Centred Perspective to Design

相关论文

当信心一致时：理解AI信心对人类自我信心的影响在人机决策中

Jingshu Li, Yitian Yang, Q. Vera Liao

《你真的确定吗？》理解人类自我信心校准在人工智能辅助决策中的影响

Shuai Ma, Xinru Wang, Ying Lei

机器人辅助决策：揭示不确定性可视化和具身性的作用

Sarah Schömbs, Saumya Pareek, Jorge Goncalves

关于认知：人类能力的一种错觉可能会妨碍对AI系统的适当依赖

Gaole He, Lucie Kuiper, Ujwal Gadiraju

测量和理解自动化系统的信任校准：一项关于最新技术和未来方向的综述

Magdalena Wischnewski, Nicole Krämer, Emmanuel Müller