儿童信任AI吗,以及应该信任吗？面向智能系统的儿童中心化K-AI信任量表设计与验证

文献标题

Do Children Trust AI, and Should They? Designing and Validating a Child-Centred K-AI Trust Scale for Intelligent Systems

出版信息

• 主题领域: 人机交互（HCI），重点研究儿童对人工智能信任的测量。
• 关键词: 人工智能信任、儿童与计算机交互、智能系统、K-AI信任量表、倾向性信任、情境性信任、以儿童为中心的设计、心理测量验证、伦理人工智能、透明性。

背景与问题

• 问题/挑战: 现有针对智能系统的信任测量工具以成人为中心，未能考虑儿童在发展、认知和解释方面的差异。缺乏经过验证的工具来测量儿童在教育和日常环境中对人工智能系统的信任。
• 重要性: 随着人工智能系统在学习和交流环境中与儿童的互动日益增加，理解和校准信任至关重要，以确保这些系统能够支持批判性思维和伦理参与，而不是盲目依赖或过早拒绝。
• 动机与相关研究: 先前研究主要关注成人用户，将信任框架设定为倾向性而非情境性。以儿童为中心的信任构建，结合透明性和公平性等伦理原则，仍然研究不足。本研究基于儿童权利框架和自动化信任模型来解决这一空白。

解决方案

• 提出的方法: 开发并验证K-AI信任问卷，这是一种以儿童为中心的工具，用于测量人工智能系统中的倾向性和情境性信任，基于伦理原则和发展心理学。
• 创新点:
  1. 创建适合9至11岁儿童发展的信任量表。
  2. 整合倾向性（基线）和情境性（交互后）信任组件。
  3. 与儿童权利原则（如透明性、公平性、隐私）和伦理人工智能框架保持一致。
  4. 通过三项研究进行迭代心理测量验证，确保可靠性和生态效度。
• 流程与关键技术:
  • 研究1：调整技术信任倾向量表（PTT）以适应儿童，评估倾向性信任。
  • 研究2：开发并测试初步的K-AI信任问卷，探索儿童与人工智能交互后的情境性信任。
  • 研究3：最终确定并验证K-AI信任问卷，基于心理测量分析和主题洞察优化条目。
  • 综合方法结合探索性因子分析、验证性因子分析和定性主题分析。

结果

• 具体发现:
  • 修订后的PTT量表显示中等信任水平（M = 2.83），但内部一致性较低（α = 0.59）。
  • 初步的K-AI信任问卷揭示了一个初步的双因子结构（实用性与可靠性，透明性与批判意识），具有中等可靠性（α = 0.70）。
  • 最终的K-AI信任问卷支持单维结构，可靠性有所提高（α = 0.75），并在性别和年龄组间具有测量不变性。
• 相较基线的优势:
  • K-AI信任问卷比调整后的PTT更有效地捕捉情境性信任，与儿童的实际体验和伦理关注相一致。
  • 与以成人为中心的信任测量相比，心理测量属性和发展适应性显著改善。
• 实验/评估:
  • 样本规模：研究1中289名儿童，研究2和研究3中85名儿童。
  • 年龄范围：9至11岁。
  • 方法：心理测量验证（EFA，CFA）、主题分析和测量不变性测试。
  • 指标：可靠性（Cronbach’s alpha）、因子负载、聚合效度与区分效度，以及定性响应的主题编码。
• 局限性与未来工作:
  • 样本多样性有限（社会文化背景同质化）。
  • 由于多阶段研究的重复参与可能产生熟悉效应。
  • 需要纵向研究以追踪信任轨迹并优化透明性和主体性等伦理构建。
  • 扩展至其他领域（如临床或安全关键环境）以及跨文化验证。

总结

本文介绍了K-AI信任问卷，这是一种以儿童为中心的工具，用于测量对智能系统的信任。通过三项研究的迭代心理测量验证，作者开发了一种可靠的单维量表，整合了倾向性和情境性信任组件。结果强调了儿童对信任的整体评估，融合了功能性、关系性和伦理线索，并突出了发展适应性测量的重要性。这些发现为以儿童为中心的人机交互提供了一个强有力的工具，用于评估信任并促进儿童与人工智能的伦理和赋权互动。未来工作将集中于优化构建、扩大样本多样性以及探索纵向和跨文化应用。