重新思考人工智能推荐系统中的用户赋能：创新透明与可控界面

文献标题

Rethinking User Empowerment in AI Recommender System: Innovating Transparent and Controllable Interfaces

出版信息

• 主题领域: 通过透明性和控制机制增强用户在人工智能推荐系统中的自主性。
• 关键词: 人工智能推荐系统, 用户自主性, 透明性, 控制, 过滤气泡, 个性化, 人机交互, 用户界面设计, 算法公平性, 可解释人工智能。

背景与问题

• 问题/挑战: 当前的人工智能驱动推荐系统（RS）通常作为不透明的“黑箱”运行，导致两个关键的不对称性：
  1. 信息不对称: 用户无法了解推荐是如何生成的。
  2. 权力不对称: 用户对推荐的影响或控制能力有限。这些不对称性导致了过滤气泡、个性化错位以及信任度降低等问题。
• 重要性: 解决这些不对称性对于促进用户自主性、提高信任度以及缓解操控、信息孤立和系统采用率下降等负面后果至关重要。
• 动机与相关工作: 先前的研究探讨了透明性（如可解释人工智能）和用户控制机制（如反馈系统），但这些解决方案往往是部分的、后端为中心的或过于僵化的。本文基于这些研究空白，探索通过界面层面的干预来增强用户自主性，并使个性化与用户偏好保持一致。

解决方案

• 提出的方法: 设计了一种provotype（挑衅性原型），引入了用于管理数据使用、探索多样化内容以及配置基于情境的推荐模式的新界面功能。
• 创新性：
  1. 开发可操作的透明性功能以解决信息不对称问题。
  2. 引入用户驱动的内容发现机制以对抗过滤气泡。
  3. 创建基于情境的“个性化模式”，实现动态、情境感知的个性化。
  4. 提供关于用户对透明性、控制和信任的感知的实证见解。
• 流程与关键技术：
  1. 设计一个包含交互功能（如数据管理、内容发现和个性化模式）的provotype。
  2. 对19名参与者进行用户研究，包括演示、半结构化访谈和问卷调查以评估provotype。
  3. 采用混合方法分析，结合定量比较和定性主题分析。

结果

• 具体发现：
  • 与现有推荐系统相比，感知透明性（2.95到4.63，p < .001）和控制（2.77到4.51，p < .001）显著提升。
  • 像“冒险内容”和“个性化模式”这样的功能因打破单调性和适应用户情境而备受青睐。
  • 数据管理功能（如数据类型权重调整、数据老化）被认为具有赋权作用，但也引发了复杂性和情感不适的担忧。
• 相较基线的优势：
  • 该provotype将推荐系统从不透明、指令式系统转变为用户驱动工具，增强了信任和参与度。
  • 参与者报告称，与现有推荐系统相比，他们感到更安全、更有自主性，并更愿意参与。
• 实验/评估：
  • 19名参与者（平均年龄=28.11岁）在75分钟的会话中与provotype互动，随后完成问卷和访谈。
  • 指标包括感知透明性、控制和信任，分析方法为Wilcoxon符号秩检验和主题编码。
• 局限性与未来工作：
  • 该provotype不可执行，仅在桌面格式中测试，限制了其现实应用。
  • 样本偏向年轻、技术熟练的参与者，影响了结果的普适性。
  • 未来工作应测试现实世界中的实现，探索更广泛的用户群体，并研究未解决的社会技术矛盾。

总结

本文通过设计一个具有增强透明性、控制和用户自主性功能的provotype，解决了人工智能驱动推荐系统中的不对称性问题。研究表明，感知透明性、控制和信任显著提高，其中“冒险内容”和“个性化模式”等功能特别受欢迎。然而，平衡复杂性、解决隐私问题以及确保可用性仍是挑战。这些发现为设计既能赋权用户又能保持算法效率的推荐系统提供了可操作的见解，并为构建更注重用户自主性的人工智能系统指明了方向。