机器中的心灵？人工智能中意识感的跨学科认知

文献标题

Mind in the Machine? Cross-Disciplinary Perceptions of Consciousness in Artificial Intelligence

出版信息

• 主题领域: 跨学科对人工智能系统中的意识和智能的认知。
• 关键词: AI意识、大型语言模型、跨学科研究、人机交互、AI伦理、机器智能、拟人化、意识理论、AI治理、主观体验。

背景与问题

• 问题/挑战: 关于意识的定义尚无共识，现有关于AI意识的研究因概念模糊性、以美国为中心的样本，以及对技术知识有限的普通人群的关注而受到限制。这导致无法全面理解学术群体对AI意识和智能的认知。
• 重要性: 对AI意识的认知影响信任、交互和伦理考量，进而影响AI设计、治理和社会整合。理解这些认知对于解决拟人化、伦理挑战和政策决策至关重要。
• 动机与相关研究: 先前研究已探讨公众和学术界对AI意识的认知，但通常依赖预定义的意识定义或假设场景，限制了对参与者真实信念的洞察。少有研究聚焦于具有相关专业知识的学术群体，导致对跨学科视角下AI意识的认知理解存在空白。

解决方案

• 提出的方法: 通过在线调查进行实证研究，探讨来自形式科学、人文学科和自然科学的学者如何看待大型语言模型（LLMs）及未来AI系统中的意识和智能。
• 创新点:
  1. 首次开展非美国中心的学术视角下AI意识的全面调查。
  2. 包括具有AI和意识相关知识的多样学术学科群体。
  3. 避免预定义的意识概念，以捕捉参与者的真实概念化。
  4. 检验影响AI意识认知的个人特质和信念体系。
• 程序与关键技术:
  • 调查了来自41个国家的553名参与者，分为形式科学、人文学科、自然科学及其他类别。
  • 测量参与者对LLM意识和智能的认知、对意识理论的熟悉程度，以及对AI治理的伦理立场。
  • 使用统计测试（Kruskal–Wallis检验、Spearman相关性、逻辑回归）和开放式回答的定性内容分析进行数据分析。

结果

• 具体发现:
  • 50.4%的参与者认为当前LLMs具有某种程度的意识，平均评分为2.1（0–10评分范围）在支持渐进意识的群体中。
  • 53.9%的参与者认为LLMs的智能与普通人相当或更高。
  • 智能和意识评分呈正相关（ρ = 0.41, p < 0.001）。
  • 关键预测因素包括对渐进意识、功能主义以及智能与意识关系的信念。
• 相较基线的优势:
  • 与先前研究相比，参与者对意识的整体归因较低，这可能归因于其成熟的心理模型以及与LLMs的直接交互。
  • 更深入地了解了概念性信念而非技术知识如何塑造认知。
• 实验/评估:
  • 调查包含42–45个问题，涵盖AI素养、交互频率、智能与意识认知、伦理观点及人口统计数据。
  • 参与者按学术学科分组，使用定量和定性方法分析回答。
• 局限性与未来工作:
  • 受限于当前LLMs的能力（基于文本、非具身）以及样本中的潜在自我选择偏差。
  • 横截面设计无法分析认知随时间的变化。
  • 未来研究应包括纵向研究、民族志方法以及对文化差异的探索。

摘要

本研究探讨了来自不同学科的学者如何看待大型语言模型（LLMs）及未来AI系统中的意识和智能。约半数参与者认为当前LLMs具有某种程度的意识，其认知更多受到信念体系（如渐进意识、功能主义）而非技术知识的影响。智能与意识评分呈中度相关，交互频率影响智能认知。研究结果强调了需要建立伦理框架和AI设计，以考虑对AI意识的多样化和争议性观点。未来研究应关注AI能力的演变及文化差异，以加深对这些认知的理解。