您会接受不完美的AI吗？探讨调整AI系统终端用户期望的设计

人工智能技术已被融入许多终端用户应用程序中。然而，人们对这些系统的功能期望各不相同。此外，过度的期望被认为会负面影响对这些系统的感知和接受度。尽管机器学习算法的可理解性已被广泛研究，但在人工智能系统初次使用前设定适当期望的方法方面的工作却很少。在这项工作中，我们使用一个日程助理——一个用于自动检测自由文本电子邮件中的会议请求的人工智能系统——来研究几种期望设定方法的影响。我们探索了这个系统的两个版本，它们的人工智能组件的准确度相同，均为50%，但每个版本都设计为避免不同类型错误的重点不同（避免误报与避免漏报）。我们展示了这种不同的重点会导致对准确度和接受度的主观感知有极大的差异。此外，我们设计了期望调整技术，以使用户为人工智能的不完美做好准备，并导致接受度显著增加。