"透明旨在控制"与反之亦然：从共同设计与评估算法新闻推荐系统中学习

视频

DOI

推荐内容的算法系统通常缺乏关于其建议如何产生的透明度。新闻推荐系统日益普及的领域之一是在线新闻分发。本文探讨如何通过让用户参与界面元素设计来解决（新闻）推荐系统缺乏透明度的问题。在自动决策背景下，欧洲GDPR等立法框架引入了透明的特定概念，赋予"数据主体"特定权利并对服务提供商施加义务。一个重要的相关问题是使用个性化推荐系统的用户如何与透明度问题相关联，不是作为法律数据主体，而是作为用户。本文基于一项两阶段研究，探讨用户如何理解算法新闻推荐系统背景下的透明度及相关问题。我们组织了共同设计工作坊以引发参与者的"算法想象"，并邀请他们构思增加透明度的界面元素。这揭示了将清晰的透明度功能与增强用户控制的功能相结合的重要性。随后，我们对模型原型进行了定性评估，以调查用户在处理增加透明度和控制的设计功能时的偏好和关注点。我们的研究说明了用户对新闻推荐系统的期望和印象与他们的新闻阅读实践密切相关。在更广泛的层面，我们展示了透明度和控制是如何在概念上相互交织的。没有控制的透明度让用户感到沮丧。相反，如果没有对系统工作方式的基本透明度，用户仍不确定控制的影响。