隐私与信任 vs. 效用：大学用户对商业与机构AI助手的采用对比

文献标题

Privacy and Trust vs. Utility: Adoption of Commercial vs. Institutional AI assistants Among University Users

出版信息

• 主题领域：高等教育中人工智能的采用及用户偏好
• 关键词：生成式人工智能、机构人工智能、商业人工智能、信任、隐私、用户体验、高等教育、任务采用、双重用户、人工智能治理

背景与问题

• 问题/挑战：尽管大学投资于机构人工智能助手以确保隐私和合规性，用户却在日常学术任务中更倾向于使用商业人工智能工具。这引发了关于机构系统的效用、信任和隐私的疑问。
• 重要性：理解人工智能采用中的隐私、信任与效用之间的权衡对于设计符合学生、教职员工需求，同时维护机构价值的系统至关重要。
• 动机与相关工作：先前研究强调了商业人工智能在可用性和多功能性上的优势，以及机构人工智能在隐私和合规性上的优势。然而，关于用户如何在不同任务中选择这些系统的比较研究仍然有限。

解决方案

• 提出的方法：基于调查的研究，比较美国某大学用户对机构和商业人工智能助手的感知及采用模式。
• 创新点：
  1. 直接比较用户对机构和商业人工智能系统的信任、隐私及用户体验（UX）的感知。
  2. 分析任务特定的采用模式及双重使用策略。
  3. 探讨影响信任和隐私感知的人口统计学因素。
• 程序与关键技术：
  • 对260名参与者（包括学生、教职员工和教师）进行在线调查。
  • 使用Likert量表测量信任、隐私、透明度和用户体验。
  • 分析学术和非学术任务中的采用模式。
  • 使用回归模型和定性编码检查感知与使用之间的关系。

结果

• 具体发现：
  • 与商业人工智能相比，机构人工智能在信任（M=3.74）和隐私（M=3.00）方面评分更高，而商业人工智能的信任（M=2.64）和隐私（M=2.15）评分较低。
  • 商业人工智能在可用性和任务采用方面占据主导地位，尤其是在写作、编码和研究辅助任务中。
  • 对机构人工智能的信任与机构治理相关，而对商业人工智能的信任则与体验质量（如满意度、响应质量）相关。
• 相较基线的优势：
  • 隐私敏感任务（如行政工作）更倾向于使用机构人工智能，而生产力导向任务由于速度和多功能性更倾向于使用商业人工智能。
• 实验/评估：
  • 调查了260名大学用户，其中43%仅使用商业人工智能，17%仅使用机构人工智能，26%同时使用两者。
  • 通过统计测试（如Mann–Whitney U检验、Wilcoxon符号秩检验）和回归分析，发现信任、隐私和用户体验感知的显著差异。
• 局限性与未来工作：
  • 教师参与有限以及单一机构背景可能影响结果的普适性。
  • 自报告数据可能无法完全反映实际使用行为。
  • 未来研究应包括跨机构研究、纵向分析以及实验性干预，以提高透明度和可用性。

总结

本研究揭示了高等教育中机构与商业人工智能助手采用之间的信任/隐私与效用的权衡。机构人工智能因其合规性和治理受到信任，但在可用性方面存在不足；而商业人工智能因其卓越的用户体验在生产力任务中占据主导地位。双重用户根据情境在系统间分配任务。研究结果强调了机构人工智能需提升隐私保护的可见性，而商业人工智能需解决透明度问题。大学应专注于补充商业系统而非直接竞争，利用其在治理和问责方面的优势。