“我希望他们认为那是我写的”：约会应用中AI生成的自我呈现与未披露对知情同意的影响

文献标题

“I Wanted Them to Think That I Wrote That”: AI-Generated Self-Presentation on Dating Apps and Implications of Non-Disclosure on Informed Consent

出版信息

• 主题领域: 生成式人工智能在约会应用中的自我呈现及其对知情同意的影响。
• 关键词: 生成式人工智能、在线约会、自我呈现、知情同意、欺骗、人工智能披露、印象管理、性同意、人机交互、人工智能媒介通信。

背景与问题

• 问题与挑战: 生成式人工智能能够创建与个人真实身份不符的自我呈现内容，这可能在亲密互动中误导同意。关于人工智能生成内容在在线约会中的使用和披露，目前缺乏实证研究。
• 重要性: 误导性同意可能导致伦理和法律问题，包括因欺骗导致的性侵风险。理解这些动态对于设计更安全的在线约会平台和改进同意框架至关重要。
• 动机与相关研究: 之前的研究探讨了计算机媒介互动中的同意问题以及在线约会中的自我呈现策略。然而，生成式人工智能对知情同意及其披露的影响仍未得到充分研究。本研究通过分析人工智能生成内容在约会场景中的使用和披露，填补了这一研究空白。

解决方案

• 提出的方法: 对来自15个国家的113名在线约会者进行定性调查，以研究人工智能生成的自我呈现策略及其披露决策。
• 创新点:
  1. 识别了约会应用中人工智能生成自我呈现的四种独特策略。
  2. 分析了人工智能生成内容在约会场景中的披露与非披露理由。
  3. 探讨了人工智能使用对人际互动中知情同意的影响。
  4. 讨论了自动化人工智能披露系统的潜在风险和设计考虑。
• 程序与关键技术:
  • 对使用生成式人工智能创建约会应用内容的参与者进行开放式调查。
  • 应用反思性主题分析以识别自我呈现策略和披露决策中的主题。
  • 将研究结果分类为人工智能生成的自我呈现策略及披露（或非披露）的理由。

结果

• 具体发现:
  • 识别了四种自我呈现策略：
    1. 人工智能作为虚构人格: 创建吸引人的但与真实身份无关的形象。
    2. 人工智能作为个性化理想约会对象: 根据特定约会对象定制消息。
    3. 人工智能用于增强: 改善照片或文本以提高吸引力。
    4. 人工智能用于真实性: 澄清并准确表达个人身份。
  • 大多数参与者（93%）未向面对面约会对象披露人工智能的使用。
  • 非披露的主要原因是害怕被拒绝以及认为人工智能的使用对约会结果影响不大。
• 相较基线的优势:
  • 提供了关于人工智能在在线约会中实际使用的实证洞察，与之前关于人工智能媒介通信的实验研究形成对比。
  • 突出了人工智能生成内容对印象形成和同意决策的细微影响。
• 实验与评估:
  • 参与者: 来自多元人口背景的113名在线约会者（例如，15个国家，男性占54%，女性占46%）。
  • 数据收集: 关于人工智能使用、动机及披露决策的开放式调查。
  • 分析: 通过反思性主题分析识别自我呈现和披露策略中的主题。
• 局限性与未来工作:
  • 非英语使用者和边缘化群体的代表性有限。
  • 自我报告数据可能无法完全反映接收者的观点或验证参与者的陈述。
  • 未来研究应探索边缘化用户的安全导向人工智能使用、大规模定量评估以及人工智能媒介同意的法律影响。

总结

本研究探讨了生成式人工智能在约会应用中的自我呈现及其对知情同意的影响。研究识别了人工智能生成自我呈现的四种策略，从虚构吸引人的形象到增强真实性。大多数参与者未披露人工智能的使用，原因包括害怕被拒绝或认为其对约会结果影响较小。研究结果强调了人工智能生成内容可能误导同意的潜力，特别是在面对面互动中难以验证的非物理特征方面。该研究呼吁重新审视同意框架，推进人工智能媒介通信研究，并探索自动化人工智能使用披露系统的设计。