情境化、动态化与主观化：与行业从业者共同构想心智理论赋能的日常AI设计

文献标题

Situated, Dynamic, and Subjective: Envisioning the Design of Theory-of-Mind-Enabled Everyday AI with Industry Practitioners

出版信息

• 主题领域: 具有心理理论（Theory of Mind）能力的社会智能人工智能系统的设计与开发。
• 关键词: 心理理论、社会智能人工智能、人机交互、动态心理状态、主观人工智能设计、情境人工智能、共同设计、人工智能从业者、面向用户的人工智能。

背景与问题

• 问题/挑战: 当前的人工智能系统缺乏推断和响应人类瞬时、隐性心理状态的能力，限制了其在日常社会互动中的有效性。现有的人工智能心理理论（ToM）方法主要是静态的、基于推断的、非情境化的，这可能与现实世界中面向用户的应用不相符。
• 重要性: 通过增强人工智能的心理理论能力，可以使系统根据动态、情境敏感和主观的人类需求进行适应，从而促进更有意义的人机交互，改善用户体验。
• 动机与相关研究: 以往的研究主要集中在心理理论能力的计算建模和基准测试上，但很少关注如何为日常场景设计具备心理理论能力的人工智能。关于社会智能人工智能的相关研究强调了系统需要适应用户不断变化的需求和社会环境，但隐私问题和僵化的设计范式等挑战尚未解决。

解决方案

• 提出的方法: 与人工智能从业者进行共同设计会议，以构想和反思具备心理理论能力的人工智能产品和服务的设计，这些产品和服务具有情境化、动态化和主观化的特点。
• 创新点:
  1. 确定了心理理论人工智能设计的三项建议：嵌入社会情境、响应动态心理状态以及关注主观的个体差异。
  2. 探讨了心理理论人工智能未来愿景与当前人工智能设计实践之间的设计张力。
  3. 提出了将心理理论作为一种普遍能力嵌入人工智能功能中的设计方向，支持持续的人机交互循环。
• 过程与关键技术:
  • 与26名来自工程和设计领域的美国人工智能从业者进行了13场虚拟共同设计会议。
  • 从业者学习了心理理论知识，为六种人机社会错位场景设计了具备心理理论能力的人工智能功能，并反思了现实中的挑战与机遇。
  • 使用亲和图法和反思性主题分析对数据进行分析，以提炼设计建议和设计张力。

结果

• 具体发现:
  • 具备心理理论能力的人工智能应：
    1. 嵌入社会情境，利用多模态数据源（如视觉线索、语音、环境数据）和非侵入式基础设施。
    2. 支持动态心理状态，通过持续监测和自适应响应。
    3. 关注主观的个体差异，适应细微且个性化的心理状态。
• 相较基准的优势: 提出的心理理论人工智能设计超越了静态、基于推断的方法，强调情境敏感、自适应和个性化的交互，解决了当前人工智能系统的局限性。
• 实验/评估:
  • 从业者为智能家居助手、自动驾驶汽车和人工智能烹饪机器人等场景设计了推测性人工智能功能。
  • 反思揭示了在平衡用户隐私、计算可行性和主观个性化方面的挑战。
• 局限性与未来工作:
  • 研究基于经典的推断型心理理论定义；采用其他视角（如具身认知）可能会得出不同的见解。
  • 场景集中于美国消费者环境；需要扩展到更广泛的文化和情境多样性。
  • 尚未探索在专业或高风险领域（如医疗、商业）中的适用性。

总结

本研究通过与行业从业者的共同设计会议，探讨了具备心理理论能力的人工智能系统的设计，提出了三项关键建议：嵌入社会情境、响应动态心理状态以及关注主观的个体差异。研究结果揭示了未来愿景与当前人工智能设计实践之间的张力，例如隐私问题和可扩展性挑战。本文建议将心理理论作为一种普遍能力嵌入人工智能功能中，从而支持持续的交互循环以改善用户体验。未来工作应扩展文化背景，探索替代的心理理论框架，并研究在高风险领域中的应用。