说服性可解释人工智能的用户合规性与意识：研究大型语言模型生成解释的修辞层面

在 高风险决策中，人工智能建议的可接受性不仅取决于系统准确性，还取决于决策如何解释。虽然先前可解释人工智能的工作主要集中在透明度和可解释性上，但对解释说服力的维度关注较少。为解决这一差距，我们研究了当嵌入大型语言模型（LLMs）生成的自然语言解释中的Cialdini说服理论修辞策略如何影响用户合规性及其识别说服意图的能力。我们进行了一项对照调查研究，纳入129名参与者，涵盖两个应用领域——金融和医疗保健——参与者评估了针对人工智能生成的决策在有利和不利结果下的基线和说服性解释。在补充任务中，参与者对十个简短解释评分，评估感知说服力和事实强度，使我们能够测量说服意图的意识。我们的结果表明，说服性解释在医疗保健场景中显著增加了合规性（p < .001），而基线解释在金融领域更有效（p<.001），无论人工智能决策是正面还是负面。相当比例的参与者将包含至少一种Cialdini说服技术的解释评分为高度说服力，但同时判断它们的事实强度较弱。重要的是，我们没有发现统计上显著的证据表明参与者识别说服意图的能力影响合规性。这些发现强调了说服性解释的双重角色：它们可以在医疗保健等敏感情境中促进合规性，但在金融等领域可能损害信任。对于人机交互和智能用户界面，我们的研究强调解释不是中性的信息容器：其修辞形式实质性地塑造了用户如何感知和参与人工智能辅助决策。因此，可解释人工智能系统的设计者在为高风险应用开发界面时应仔细平衡透明度和说服力。