关系人工智能：通过社会意识的对话支持促进群体间的合作

研究背景与问题

• 作者发现了哪些问题或挑战？ 作者发现人们通常更愿意与内团体（in-group）成员合作，而与外团体（out-group）成员的合作往往因信任问题受阻。这种内外团体之间的偏见在互联网环境中更加明显，甚至可能加剧社会分裂，削弱共同解决社会问题的能力。

• 为什么这个问题很重要？ 跨团体合作对解决诸如财富不平等、气候变化和公共健康等复杂社会问题至关重要，因为这些问题需要多样化的观点和广泛的参与。然而，目前的社会和技术障碍使得这种合作难以实现。因此，研究如何促进跨团体合作具有重要的社会意义。

• 研究动机与相关工作 以往研究表明，人工智能（AI）可以通过各种方式促进合作，包括通过规则制定、培训和行为干预来减少个人利益驱动和不信任。然而，这些研究主要集中在理论环境或个体情境下，而忽略了如何在真实的社会场景中利用AI解决团体间的合作问题。此外，有大量研究探讨了对话在建立信任与社会身份认同中的核心作用，这为构建社会感知型（socially aware）对话AI提供了理论支持。

解决方案

• 作者提出了哪些方法或解决方案？ 作者提出了一种名为 "关系型AI (Relational AI)" 的对话支持系统，旨在通过生成具备社会意识的对话建议来促进跨团体合作。与个性化AI系统不同，关系型AI将重点放在两位对话者之间的关系上，而非个体本身的偏好。

• 该解决方案的创新之处是什么？

  1. 关系型AI是针对团体关系背景进行优化的，一方面考虑参与者的身份归属（内团体或外团体）、另一方面调整语言风格以适应合作环境。
  2. 关系AI维护了用户对对话内容的自主权，而不会强制要求一致性或调整意见，保证了个体观点的多样性。
  3. 通过设置AI的对话提示条款，关系型AI促进礼貌、观点共享和视角采纳，从而增强跨团体信任。

• 实施步骤是什么？使用了哪些关键技术？

  1. 实验设计：482名参与者被分为内团体和外团体配对，按照个性化对话建议、关系型对话建议和无对话建议三种条件进行比较。
  2. 技术实现：基于GPT-4模型生成对话建议，并通过定制化的提示（prompts）控制建议的语言风格：
     • 个性化对话建议：匹配用户个性化风格。
     • 关系型对话建议：根据团体关系调整语言风格，提升礼貌性和视角共享能力。
  3. 评估指标：通过经济学中的“捐赠博弈”测量信任行为，用彼此捐赠的数量反映合作率，同时分析对话内容的礼貌性和描述性。

研究成果

• 取得了哪些具体成果？

  1. 个性化AI对话建议加剧了内团体和外团体之间的合作差距：内团体合作率提升至50%，而外团体仅为29.3%。
  2. 关系型AI显著改善了外团体的合作表现，使其合作率达到48.8%，与内团体的合作率持平。
  3. 关系型AI优化了参与者在外团体语境中的礼貌性对话，从而促进了信任的建立。

• 与现有解决方案相比，它有哪些优势？

  • 与个性化AI相比，关系型AI减少了强化内团体偏好并对外团体产生负面影响的风险。
  • 相较于传统的AI对话干预，关系型AI通过直接或间接鼓励社会规范（比如礼貌性），而非通过强制改变观点或内容来实现更高的融入性。

• 实验或评估结果是什么？ 在实验中，通过“捐赠博弈”测量合作率和信任行为，关系型AI显著提高了跨团体之间的合作率。结构方程模型（SEM）分析表明，即便参与者不直接使用AI建议，建议的展示本身对于礼貌性和信任的提升也起到关键作用。

• 局限性与未来方向

  1. 实验中仅探讨了政治立场作为团体身份的基础，而未涉及种族、宗教或其他社会身份。这些领域的进一步研究可以更全面地验证关系型AI的适用性。
  2. 当前实验关注的是短期的双方对话，未能探索复杂的多方团体对话场景和长期影响。
  3. AI生成建议的可靠性（如避免错误信息）尚需进一步优化，以适应更敏感的社会讨论。

通过本研究，关系型AI展示了促进跨团体合作的潜力，不仅解决了因个性化设计而带来的分裂问题，还为构建更包容的在线沟通环境提供了实用的设计指南。