感知的人工智能使用对内容认知的影响

文献标题

The Effects of Perceived AI Use On Content Perceptions

文献信息

• 主题领域: 人工智能（AI）生成内容的感知与用户行为
• 关键词: 人工智能生成内容，可信度，人机交互，信息素养，HCI（人机交互）
• 会议: CHI 2024
• DOI: https://doi.org/10.1145/3613904.3642076

研究背景与问题

• 问题与挑战:

  1. AI生成的内容正变得越来越难以与人类创作内容区分，这引发了关于信息准确性和误导性的担忧。
  2. 公众是否能够仅凭内容判断其是否由AI制作？如果无法判断，这对内容感知是否存在影响？
  3. 当前，社会和监管机构呼吁标明AI生成内容，但其对用户内容判断的实际影响尚不明确。

• 研究重要性:

  • 随着AI生成内容的快速普及，它可能显著改变内容消费模式。
  • 错误的信息可能导致严重后果，例如错误决策和社会混乱。
  • 如果标明AI使用会导致内容感知变化，这可能影响创作者与观众之间的关系。

• 研究动机与相关工作:

  • 大量研究关注AI生成内容在可信度、创造力和用户观点上的影响，但结果不一致。
  • 人们对人工智能生成的内容可能具有"算法厌恶"（algorithm aversion），但也可能表现出"算法偏好"（algorithm appreciation）。
  • 多数研究集中在判断人类与AI内容的差异上，而较少关注当没有可辨差异时的用户认知与行为。

解决方案

• 研究方法:

  • 设计了一个 3×4 的混合实验研究方案：分别测试内容是否由人类(完全由人)、人类和AI协助、或完全由AI生成，并考察这三种“标注”在新闻、旅游、健康和笑话四种上下文中的影响。
  • 在主实验前，进行预实验以确保内容版本之间的客观差异最小。

• 主要创新:

  1. 研究了感知的AI使用对内容本身（如可原创性和可信度）及创作者的反映（如努力程度）的影响。
  2. 分析了用户对“AI协助”或“AI生成”内容的具体意义的理解方式。
  3. 将实验设置与实际网络用户环境更加贴合，通过提供真实场景和多样化内容（如长文本内容）提高结果的现实意义。

• 实施步骤:

  1. 预实验: 创建不同版本的原创内容，并测试版本间的客观差异。
  2. 正式实验:
     • 提供“内容创作者”标签，分为"纯人类制作"、"人类协助AI"和"AI生成"三种情况。
     • 用户对内容从可信度、创造性、可信度等多个维度进行评分。
     • 对内容进行偏好选择和内容评估。
  3. 开放性问题分析: 询问用户如何理解“AI协助”或“AI生成”内容。

研究成果

• 具体成果:

  • 内容感知:

    • 内容评估: 感知的“内容创作者”标签（纯人类、AI协助、人类协助）对内容本身的原创性、可信度和展示效果未显著影响。
    • 用户对内容的满意度在“纯人类”的标注下显著高于AI协助或AI生成标签。

  • 创作者感知:

    • 用户认为“纯人类”标注的创作者更具资格，且内容投入的努力更多。
    • AI协助或AI生成的标注使用户对创作者的能力和努力持更负面看法。

  • 用户行为:

    • 用户主要依赖其个人经验和兴趣来选择内容，而不是“创作者”标注标签。
    • 在健康领域，带有人类标注的内容被略微更多地选择分享，但差异不显著。

  • 用户对AI使用的理解:

    • 提炼出用户对“AI协助”和“AI生成”的五种主要理解模式（如：“由人提出主意，AI撰写”或“AI生成内容无需人工干预”）。
    • 用户对AI生成内容的理解带有许多认知上的偏差，例如相信AI内容更准确可靠。

• 与现有解决方案的比较:

  • 结果表明，虽然公开AI生成内容的标签潜在降低了用户对创作者的评价，但对实际的内容判断（如可信度）影响很小，这与部分研究中认为AI标注显著影响内容感知的观点有所不同。

• 未来方向与局限性:

  • 局限性:
    • 实验中只覆盖了特定形式（长文本）的内容和四种领域，结果可能不适用于其他形式（如图像、视频）。
    • 部分实验设计如“强制选择问题”可能偏离实际用户的真实行为。
  • 未来方向:
    • 扩展不同类型内容（如视频、音频）和应用场景（购物、教育）。
    • 探讨更适合表达“AI参与程度”的标注设计（如显示具体的编辑类型）。
    • 研究如何改善用户的AI理解，以应对潜在的认知偏见或误判。

总结

这项研究揭示了感知中的AI使用对内容以及创作者感知的双重影响。尽管用户对AI生成内容普遍怀有批判态度，但这并没有显著影响他们对内容本身的判断。对于政策制定者和内容创作者来说，研究结果表明，围绕是否披露AI使用的讨论需要关注用户信任、创作者声誉，以及帮助用户理解AI实际功能的教育策略。