理解人们对人工智能美学评价的推理方式

视频

DOI

人工智能算法即使在美学等创意领域也取得了显著成就。然而，机器学习社区之外的人能否充分解释或认同其结果，尤其是在这些高度主观的领域，正受到质疑。本文试图了解不同用户群体如何在主观领域对人工智能算法结果进行推理。我们设计了 AI Mirror，这是一个研究原型，向用户展示照片的算法预测美学评分。我们对该系统进行了用户研究，参与者来自三个不同群体：人工智能/机器学习专家领域专家（摄影师）和普通公众，共 18 人。他们执行了拍照任务，并通过出声思考、调查和访谈来推理 AI Mirror 的预测算法。结果显示：（1）用户利用自己群体特定的专业知识来理解人工智能；（2）用户采用各种策略来缩小其判断与人工智能预测之间的差距；（3）用户想法与人工智能预测之间的差异与用户对人工智能可解释性和合理性的感知呈负相关。我们还讨论了在主观领域设计人工智能增强系统的设计注意事项。