当收集个人信息时，AI系统应该如何与用户交流？角色定位和自我参照对人机交互的影响

文献标题

How Should AI Systems Talk to Users when Collecting their Personal Information? Effects of Role Framing and Self-Referencing on Human-AI Interaction

文献信息

• 主题领域: 人机交互、AI隐私与信任
• 关键词: 人-人工智能交互，社交线索，AI系统社交存在感，高级用户，隐私计算，信任构建

研究背景与问题

• 发现的问题或挑战: AI技术越来越多地使用用户的个人信息以提供个性化服务，但用户因隐私问题可能不愿意分享信息。这种权衡带来紧张关系：即一方面是对个性化服务的需求，另一方面是对隐私保护的重视。

• 重要性: 设计对话型AI系统时，需使其在提高用户体验和促进知情决策间取得平衡。这包括在请求用户提供个人信息时，如何以既符合伦理又有效的沟通方式建立信任。

• 研究动机与相关工作: 当前大多AI系统采用形式化、功能导向式解释，通常强调服务提供其价值。然而，是否这种强调“服务提供”的方式足够也仍是未知。这引发了核心问题：AI系统是应该展示自身作为“帮助请求者”的角色，还是作为“帮助提供者”的角色？相关研究表明，机器如具备社会行为，例如使用自称“I”的方式，可能增加其亲和力和信任感。

解决方案

• 提出的方法或解决方案: 作者设置了四种交流方式（助人为主、请求帮助为主、两者兼具以及不含特定解释），并探索AI角色框架（帮助请求者 vs. 帮助提供者）和自我指称线索（如使用“I”）如何影响用户的信任及隐私感知。

• 创新之处:

  1. 在AI系统中直接测试帮助请求与帮助提供两种思路，并将其结合。
  2. 包括用户AI熟悉程度（高级用户 vs. 一般用户）这一变量，以洞察个体差异对用户信任建立的影响。
  3. 提出这种交互设计如何影响用户隐私行为的建模。

• 实施步骤与关键技术:

  1. 实验设计: 模拟新闻推荐系统Mindz，采用2 (是否含有“I”线索) × 4 (角色框架)的实验设计，对用户的信任、隐私顾虑及愿意透露私人信息的意图进行测量。
  2. 应用社会存在理论: 测试社会线索是否通过提供社会存在感影响用户感知。
  3. 涵盖使用情境变量: 包括一般隐私顾虑和对AI系统使用的熟练程度（Power Usage）作为影响因素。

研究成果

• 具体成果:

  1. 系统采取“帮助请求（help-seeker）”的框架时，高级用户表现出更高信任度，而非高级用户偏好“帮助提供+请求”的综合框架。
  2. 含有自我指称“I”的系统，通过减少社会存在感反而降低了用户的信任及数据分享意图。
  3. 高级用户对AI系统的社会存在感更加敏感，且在角色框架为“帮助请求”时信任度显著提高。

• 与现有解决方案的比较: 当前的设计分为“数据服务”与“机器身份表露”两种主流方式，而本研究明确了单纯强调AI能力并未必总能促进用户隐私数据的自愿提供。

• 实验或评估结果:

  1. 定量结果:
     • 在294名用户中，实验数据表明角色“帮助请求者”的效果优于“帮助提供者”的效果（特别是在高级用户中）。
     • 用户隐私顾虑在两重角色框架中降低。
  2. 数据解释:
     • 在涉及隐私信息收集的交互情境中，系统社会化行为必须适度，否则可能引发用户防备心理。

• 局限性与未来方向:

  1. 实验仅测量了用户的行为意图，而非实际数据披露行为。
  2. 作为新研究系统，未考虑用户对已知品牌系统的预期。
  3. 模拟的隐私收集情境较单一，未来可扩展至财务或健康信息等更敏感领域。
  4. “两种线索结合”的优先级顺序尚未明确，影响解释力需进一步验证。

通过该研究，文章探讨并明确了设计透明、平衡用户信任与数据采集需求的对话AI系统所需的社会线索要素，并在局限性基础上为未来研究提供了明确方向。