AI可信度标签对人工智能产品认知的影响

文献标题

The Impact of AI Trustworthiness Labels on the Perception of AI Products

出版信息

• 主题领域: 信任标签对用户对人工智能产品的感知和评价的影响。
• 关键词: 人工智能可信度、信任校准、用户感知、接受度、使用意图、图形标签、人工智能信任、人工智能素养、品牌评价、多层次标签。

背景与问题

• 问题/挑战: 潜在用户由于缺乏可访问和透明的信息，难以评估人工智能产品的可信度。这导致了信任或不信任的误置，阻碍了人工智能的采用和整合。
• 重要性: 信任或不信任的误置可能阻碍人工智能的接受，减少其社会效益，并导致期望违背或长期采用率降低。
• 动机与相关工作: 先前的研究（如 Pfeuffer 的研究）表明，单维度的可信度标签（专注于数据安全和隐私）能够影响信任。然而，这些研究缺乏生态效度，没有探索多维度标签，也没有研究更广泛的结果，如接受度或使用意图。本论文旨在填补这些空白。

解决方案

• 提出的方法: 基于欧盟委员会提出的人工智能可信度七项标准，设计多层次图形化的人工智能可信度标签。这些标签指示低、中、高可信度。
• 创新点:
  1. 将先前工作扩展到反映全球标准的多维度可信度标签。
  2. 评估更广泛的结果，包括接受度、使用意图和品牌评价。
  3. 在更具生态效度的环境中进行研究，使用真实的产品图片和广告。
  4. 探讨个人对人工智能的信任和人工智能素养的调节作用。
• 程序与关键技术:
  • 参与者评估了与可信度标签和/或广告配对的假设人工智能产品（智能冰箱、语音助手）。
  • 测量信任、接受度、使用意图、赋值价值和品牌评价。
  • 使用贝叶斯线性混合模型分析可信度水平、广告和个人差异（人工智能信任、人工智能素养）的影响。

结果

• 具体发现:
  • 随着标签指示的可信度水平提高，信任、接受度和使用意图显著增加。
  • 参与者愿意为具有较高可信度水平的产品支付更多费用。
  • 对未标记产品的基线评价对应于中等可信度水平，表明存在偏差。
  • 品牌评价不受可信度水平或广告影响。
  • 个人对人工智能的信任和人工智能素养增强了可信度标签的效果，尤其是在高和低可信度水平上。
• 相较基线的优势:
  • 标记产品的信任、接受度和使用意图评分显著高于未标记产品。
  • 赋值价值随着可信度水平的比较（低-中、中-高、低-高）而变化。
  • 标签在真实广告环境中有效传达了可信度信息。
• 实验/评估:
  • 样本: 来自德国和奥地利的100名参与者（平均年龄：34.6岁，71%男性）。
  • 设计: 三个阶段——标签评估、标签比较和品牌评价。
  • 指标: 信任、接受度、使用意图（Likert量表），赋值价值（支付意愿百分比），品牌评价（9分量表）。
  • 工具: 使用 Jeffreys–Zellner–Siow 先验的贝叶斯线性混合模型。
• 局限性与未来工作:
  • 单次标签曝光可能不足以影响品牌评价；未来研究应测试多次曝光的效果。
  • 研究集中于假设产品和欧盟特定的可信度标准；结果可能无法推广到真实产品或非欧盟地区。
  • 需要进一步研究人工智能素养在解读可信度线索中的作用，以及对人工智能系统的活跃用户的影响。

总结

本研究表明，多层次图形化的人工智能可信度标签能够有效传达可信度，并对人工智能产品的信任、接受度和使用意图产生积极影响。未标记产品被认为具有中等可信度，突显了可能导致信任或不信任误置的偏差。个人对人工智能的信任和人工智能素养调节了标签的效果，表明需要同时采用可信度标签和提高人工智能素养的措施。这些发现支持通过可信度标签来增强用户决策能力，并促进人工智能的负责任采用。