你介意吗？用户对机器意识的看法

文献标题

Do You Mind? User Perceptions of Machine Consciousness

文献信息

• 主题领域: 人机交互 (Human-Computer Interaction, HCI)、机器意识
• 关键词: 意识, 机器意识, 技术意识, 人机交互, 用户感知, PMC, 动态张力

研究背景与问题

• 问题与挑战:

  • 技术是否被用户感知为“有意识”仍然是一个未解决的问题。
  • 当前缺乏对用户如何感知机器意识及其对人机交互影响的结构化、理论或实证理解。
  • 传统的意识问题通常是哲学和神经科学领域的重点，而关于用户对机器意识的认知，相关研究很少。

• 重要性:

  • 人们对机器是否有意识的看法将影响技术的使用方式，以及社会对技术伦理、责任和参与的认知。
  • 机器的“拟似意识”可能导致用户与技术形成复杂的情感关系，包括同情、对抗、担忧等。

• 研究动机与相关工作:

  • 尽管已有学术和媒体讨论意识及相关概念，如知觉、意向性和理论心智，但对现有设备和系统的用户机器意识感知尚无深入调查。
  • 文献表明机器意识可能会触发用户的共鸣和主观情感探索，但具体如何影响人机交互设计仍然有待进一步研究。

解决方案

• 研究方法:

  • 调查了 100 位参与者，研究他们对“意识”和“机器意识”的理解以及这种理解如何与交互技术（例如 Alexa、GPT-3 和扫地机器人）的感知结合。
  • 实施了一项在线问卷调查，包含关于“意识”相关知识、认识和假设的问题。参与者观看技术展示视频后还需回答相关问题。

• 创新之处:

  • 提出一种系统性方法，通过评估“机器意识感知”（Perceived Machine Consciousness, PMC）来理解用户如何解读交互技术的意识表现。
  • 定义了五个动态张力（dynamic tensions）以探索用户感知机器意识的复杂性和内在矛盾。

• 关键技术与步骤:

  • 使用定性方法（如亲和图分析）和定量分析工具（如非参数统计分析），结合模拟情景和视频展示技术研究方法。
  • 视频演示了三个技术系统，并引导用户评估其 PMC 和潜在情绪或伦理影响。
  • 数据分析明确了机器意识可能包含的核心元素（例如独立性、情感、交互性等）。

研究成果

• 主要发现:

  • 超过一半的参与者认为某种程度的机器意识已经存在于示例技术中（GPT-3、Alexa、扫地机器人）。
  • 用户对机器意识的感知呈现出五组动态张力：否认与猜测、思考与感受、交互与体验、受控与独立、僵化与自发性。

• 优势:

  • 比传统哲学或神经科学的意识评估更贴近用户体验和交互设计。
  • 深入理解用户如何建构技术意识的心理模型，有助于优化未来交互技术设计。

• 实验结果:

  • GPT-3、Alexa 和扫地机器人分别被归类为不同程度的“意识等级”，在量表上从低到中不等。
  • 对机器意识的认识受文化背景、个人经验等多种因素影响。

• 局限性与未来方向:

  • 该研究采用线上调查，可能没有捕捉用户对机器意识感知的细微差异或文化差距。
  • 使用的示例技术（GPT-3、Alexa、扫地机器人）可能不能完全代表机器意识的多样性。
  • 未来方向包括深入探讨 PMC 的情感、伦理和社会影响，研究机器意识如何影响人机关系和社会规范。此外，拓展研究到文化多样性、语言翻译和长期用户体验跟踪。