野外的生成式AI：前景、挑战和策略

文献标题

Generative AI in the Wild: Prospects, Challenges, and Strategies

文献信息

• 主题领域: 人机交互与生成式人工智能在创意产业中的应用与影响研究
• 关键词: 生成式人工智能，人机协作，透明性，用户主动性，创意产业，学习使用评估框架，用户反馈

研究背景与问题

• 作者发现的问题或挑战:
  1. 生成式人工智能（GenAI）展示出巨大的潜力，但仍然存在技术功能的局限性，影响现实场景中的应用效果。
  2. GenAI在创意工作流程中的作用不仅限于工具使用，而是动态、迭代发展的“人机共创”过程；但目前相关研究未能全面探讨其复杂性。
  3. 存在用户学习技术细节、适应工具功能和解决非功能性问题的挑战。
• 为何重要:
  1. GenAI作为一种颠覆性技术，正推动创意产业从传统工作流程向自动化、协作化方向进行转型。
  2. 创意产业要求高度原创性，研究GenAI如何支持创意生成具有重要意义。
  3. 用户的真实感受和经验揭示了技术设计、伦理和功能局限性的痛点，为未来发展指明方向。
• 研究动机与相关工作: 作者通过背景调研发现：
  • HCI领域已对常规AI的用户感知和人机互动展开广泛研究，但GenAI的独特特性尚缺乏人本视角的全面探索。
  • GenAI的实际应用，，尤其是在创意写作、音乐创作等特定任务上的研究已有，但用户在动态场景中的学习与实践过程仍未被充分揭示。
  • 作者旨在填补上述研究空白，聚焦于创意产业中的GenAI使用行为。

解决方案

• 提出的解决方案或方法: 作者提出了一种基于LUA框架（Learning、Using、Assessing）的分析方法，以详细研究人在生成式AI中学习、使用与评估的过程。
• 创新点:
  1. 从动态的“人—AI共创”视角出发，而非单一静态的工具使用实例。
  2. 按照学习、使用和评估的迭代过程细化分析，发现用户如何通过试验和策略解决技术与非功能性难题。
  3. 深入探讨用户感知的多维性，例如对GenAI创造性的观点分歧，及其对工作流程的深远影响。
• 实施步骤与关键技术:
  1. 通过半结构化访谈（共18位参与者）收集用户在创意产业中使用GenAI的真实经验。
  2. 使用扎根理论对采访内容进行编码与主题识别。
  3. 采用LUA框架将人机交互过程分解为学习、使用、评估三个部分，并构建跨阶段的全景分析。
  4. 提炼用户主动性表现，如选择工具、发展个性化“提示策略”，以解决实际使用中的可控性问题。

研究成果

• 具体成果:
  1. 学习（Learning）阶段:
     • 学习资源丰富：多数用户从培训课程（如Deeplearning.AI）、在线教程（Twitter、YouTube等）获得技术知识。
     • 挑战包括资源质量参差不齐、技术迭代过快、非英语资源缺乏等。
     • 用户通过官方文档和社交媒体博主策略性地获取正确信息。
  2. 使用（Using）阶段:
     • GenAI提高了内容创作效率，助推“人—机协作”的工作模式转型，例如从团队协作转型为个人独立创作。
     • 使用挑战包括非确定性、反馈机制低效、技术设计偏向工程化，以及缺乏本地化自定义等。
     • 用户主动性表现为选择合适工具、采用多工具结合方案和发展个性化提示策略。
  3. 评估（Assessing）阶段:
     • GenAI生成内容在语言流畅度和多样性方面表现出色，增强了非母语用户的表达能力。
     • 用户对“新型创造性”持不同观点，部分用户认为“创造性”更多来自人的主导。
     • 挑战在于缺乏明确的著作权披露规范、内容真实性（幻觉问题）及法规合规性。
     • 用户采取策略如标签说明“AI生成内容”、手动核查事实及避免高风险场景使用。
• 优势:
  • 更好地解释和建构了GenAI时代“人机协作”的复杂性，推动了HCI从静态任务转向动态创作过程的研究。
  • 基于真实案例揭示技术局限性及用户策略，为技术设计改进和负责任AI提供了实践依据。
• 实验与评估结果:
  • 用户的主动学习与提示技术的迭代发展能显著提升GenAI适配能力，组合传统工具和新兴工具构建了新的工作流模式。
  • 社交平台内容分享在知识获取和技术传播中影响广泛。
• 局限性与未来方向:
  1. 参与者主要来自创意产业，未来需扩展到更多领域（如科研、医疗）。
  2. 面向非单一国家环境开展跨文化比较研究。
  3. 对GenAI的快速发展，需持续评估其功能改进和新兴挑战（如内容真实性）。

这项研究为更广泛的现实部署和下一代生成式人工智能工具设计奠定了认知和设计基础。