人工智能展现的人格特质可通过对话影响人类的自我概念

文献标题

AI-exhibited Personality Traits Can Shape Human Self-concept through Conversations

出版信息

• 主题领域: 人工智能与人类互动及其心理影响
• 关键词: 大型语言模型、人工智能性格特征、自我概念一致性、人机互动、对话式人工智能、社会影响、共享现实、伦理人工智能设计、用户体验、同质化

背景与问题

• 问题/挑战: 尽管已有研究表明人类在行为和认知上会与人工智能产生一致性，但关于人工智能性格特征如何在互动中影响人类自我概念的研究仍然有限。
• 意义: 理解这一现象对于伦理人工智能设计至关重要，因为自我概念的一致性可能影响个人幸福感、群体多样性以及用户体验。
• 动机与相关研究: 以往研究表明，人类的自我概念在人与人之间的对话中会发生变化，同时人类在行为和认知上会与人工智能产生一致性。然而，人工智能性格特征对人类自我概念的具体影响尚未被深入探讨。

解决方案

• 提出的方法: 通过随机行为实验研究人工智能性格特征如何在对话中影响人类自我概念，实验使用具有默认性格特征的GPT-4o。
• 创新点:
  1. 证明了人类自我概念在与人工智能对话中会与其性格特征产生一致性。
  2. 确定了对话主题和长度在影响一致性中的作用。
  3. 揭示了群体层面的同质化效应，并将一致性与对话享受度的提升联系起来。
  4. 提供了伦理人工智能系统设计的启示，同时防止一致性效应被滥用。
• 实验流程与关键技术:
  • 采用混合因素设计，92名参与者与GPT-4o进行文本对话。
  • 两种实验条件：个人话题与非个人话题。
  • 使用20项性格特征量表测量自我概念一致性。
  • 分析一致性效应、对话享受度，以及感知准确性和共享现实体验等中介因素。

结果

• 具体发现:
  • 在个人话题对话后，参与者的自我概念与人工智能性格特征产生一致性（p < 0.001, d = 0.509）。
  • 更长的对话与更高的一致性相关联（r = 0.245, p = 0.019）。
  • 群体层面出现同质化效应，减少了参与者间自我概念的距离（p < 0.001, d = −0.311）。
  • 一致性提升了对话享受度（β = 0.951, p = 0.008），通过感知准确性和共享现实体验进行中介。
• 相较基线的优势:
  • 仅在个人话题条件下观察到显著的一致性（p < 0.001），在非个人话题条件下未观察到显著效应（p = 0.279）。
  • 一致性效应独立于基线自我概念差异。
• 实验/评估:
  • 参与者与GPT-4o进行5–15分钟的对话，讨论预定义话题。
  • 在对话前后测量自我概念；通过重复提示评估人工智能性格特征。
  • 统计测试包括t检验、方差分析（ANOVA）和结构方程模型（SEM）。
• 局限性与未来工作:
  • 研究集中于短期一致性效应，长期影响尚未探索。
  • 人口统计多样性有限，未来研究应涵盖不同文化和社会经济背景。
  • 结果特定于GPT-4o默认性格特征，需进一步测试其对其他人工智能配置的普适性。

总结

本研究表明，人工智能性格特征在对话中可以影响人类自我概念，尤其是在个人话题中，导致一致性并增加用户间的同质化。更长的对话会放大一致性效应，从而通过改善感知准确性和共享现实体验提升对话享受度。尽管一致性效应对用户体验具有潜在益处，但也可能带来自我概念偏差和群体多样性减少的风险。研究结果为设计伦理人工智能系统提供了可操作的见解，平衡积极应用与防止滥用之间的关系。未来研究应探索长期效应、更广泛的人口样本以及不同人工智能性格配置的影响。