对AI代理进行亲社会行为的好处:考察帮助AI代理对人类福祉的影响

最佳论文
会话代理的人格与拟人化心理健康应用与在线支持社区

研究背景与问题

  • 问题与挑战:作者探讨了一个新领域,即帮助AI代理对人类福祉的影响。尽管此前已有大量研究表明,助人为乐行为可以提升个体的幸福感,但尚不清楚这种效应是否也适用于帮助非人类实体(如AI代理)。同时,人类在帮助AI的过程中,是否能够通过满足基本的心理需求(如自主性、能力感和关系性需要)来提升自身的福祉,也尚未明确。
  • 研究的重要性:随着AI代理的普及,人们与AI的交互变得越来越多。从简单的任务分工到更复杂的人机协作,了解这种交互对人类福祉的潜在影响对于设计更好的AI系统具有重要意义。此外,这项研究还可能为改善孤独感等心理问题提供新的视角和方法。
  • 相关工作:尽管已有研究探索了帮助AI如何提升AI性能或提高人类的技能,但很少有研究关注这种行为对人类福祉的直接影响。此外,根据“自我决定理论”,满足个体的心理需求会带来幸福感提升,但目前很少有研究考察AI通过满足这些需求如何影响人类福祉。

解决方案

  • 方法:研究采用实验设计(N = 295),考察参与者在帮助AI代理的过程中,其福祉(包括正性情感、自尊、负性情感及孤独感)如何变化,并探讨AI在满足参与者基本心理需求(能力感、自主性和关系性需要)中的作用。
  • 创新之处:
    • 提出“帮助AI也有可能提升人类福祉”的假设;
    • 考察AI代理满足基本心理需求对人类福祉的影响,这是对自我决定理论在AI交互领域的创新应用;
    • 提出“递归AI”的设计理念,强调双向人机交互的福祉效应。
  • 实施步骤和技术:
    1. 实验分为两组:一组参与者帮助AI,另一组没有帮助AI;
    2. 在帮助AI的条件下,进一步划分为AI是否满足参与者能力感、自主性或关系性需要的九种具体情境;
    3. 对参与者的福祉指标(包括正性情感、负性情感、自尊以及孤独感)进行基线和后测测量;
    4. 使用非参统计和ANCOVA分析辅助数据解释。

研究成果

  • 具体成果:
    • 帮助AI代理减少了参与者的孤独感,但没有显著提高正性情感、自尊或减少负性情感;
    • 在帮助AI并满足能力感和自主性需要的情况下,参与者的正性情感显著提高,孤独感显著降低;
    • 满足关系性需要未显著改善福祉,但当关系性需要未被满足时,反而增进了参与者的正性情感。
  • 与现有解决方案的优势:
    • 该研究首次提供了帮助AI代理对人类福祉积极影响的实证数据,为未来人机交互设计提供了科学依据;
    • 强调满足人类心理需求在提升用户福祉中的关键作用,为AI设计提出了更具体的建议。
  • 实验和评估结果:
    • 满足参与者的能力感(如让参与者意识到自己帮助的具体作用或提供反馈)与自主性(如给予帮助的自由选择权)显著改善了正性情感和降低孤独感;
    • 如果参与者与AI之间已有一定的关系性,而AI却未满足参与者的能力感和自主性需求,则可能导致负性情感的增加。
  • 局限性与未来方向:
    • 局限性:实验任务仅限于协助开发消息应用程序,未涉及其他类型的帮助任务;未考察长时间帮助AI的福祉效应;未探讨人类帮助AI是否会影响对AI代理的信任或其他认知评价。
    • 未来方向:
      1. 探索其他帮助任务(如数据纠偏、图像标注或情感支持)的福祉效应;
      2. 调查长时间帮助AI对人类整体幸福感的影响;
      3. 研究哪些个体特质(如性格或对AI态度)可能增强或削弱帮助AI的福祉效应;
      4. 结合AI本身的能力反馈,评估不同“帮助强度”下人类的心理变化;
      5. 进一步探索促进人类与AI关系构建的设计策略。

总结

该研究第一次通过实证数据验证了“帮助AI代理能够提升人类福祉”的命题,并进一步指出,这种效应取决于AI是否能够满足帮助者的能力感和自主性需求。研究结果拓宽了人机交互和AI设计的研究边界,为如何在人机合作中实现互利共赢提供了实践指导。未来研究可围绕长期和多任务帮助情境展开,以验证其理论模型的稳健性,同时更深入地分析个体差异如何影响其福祉提升效果。

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/papers/chi/189275/2025

广告推荐

学习 AI 编程到 CodeNow

open_in_new打开DOI链接
DOI: https://dl.acm.org/doi/10.1145/3706598.3713116
一眼看懂

论文快照

fact_check
dataset
来源
CHI
calendar_month
年份
2025
emoji_events
奖项
最佳论文
group
作者
5 位作者
sell
研究子方向
会话代理的人格与拟人化、心理健康应用与在线支持社区
work
职业/产业
—
article
内容状态
已索引正文
hub
相关论文
2 篇相关论文