「它应该帮助我进步并加强我的伊玛目」：理解社交媒体推荐系统中伊斯兰内容的算法体验

文献标题

"'It should help me progress and strengthen my Imaan': Understanding Algorithmic Experiences of Islamic Content on Social Media Recommendation Systems"

出版信息

• 主题领域: 社交媒体平台上与宗教内容相关的算法体验。
• 关键词: 算法体验、伊斯兰内容、社交媒体、推荐系统、宗教敏感算法、个性化、真实性、精神成长、用户需求、人机交互。

背景与问题

• 问题/挑战: 现有社交媒体算法无法处理宗教内容的复杂价值观和敏感性，可能导致不适当的推荐、错误信息以及精神上的伤害。
• 重要性: 宗教内容的在线消费日益增加，而处理不当可能对用户的信仰和精神实践产生深远影响。解决这一问题对于设计尊重并支持宗教参与的系统至关重要。
• 动机与相关研究: 之前的人机交互研究已探讨了新闻、音乐和健康领域的算法体验（AX），但对宗教领域关注较少。现有算法优先考虑用户参与度和利润，常与用户的精神目标不一致。本研究基于AX文献，探索算法如何影响用户与伊斯兰内容的互动，并提出针对宗教敏感系统的解决方案。

解决方案

• 提出的方法: 针对伊斯兰内容设计的宗教敏感算法的概念框架和设计空间，强调真实性、适当性和精神成长。
• 创新点:
  1. 实证研究算法如何影响穆斯林用户与伊斯兰内容的互动。
  2. 倡导满足宗教需求的宗教敏感算法。
  3. 引入用户需求的分层框架（真实性、适当性、精神成长）。
  4. 提出可操作的设计建议，创建平衡且值得信赖的推荐系统。
• 过程与关键技术:
  • 对来自孟加拉国的24名穆斯林参与者进行半结构化访谈和焦点小组讨论。
  • 探讨用户对算法推荐伊斯兰内容的动机、体验和期望。
  • 使用反思性主题分析法分析数据，识别关键主题和洞察。

结果

• 具体发现:
  • 算法通过个性化内容和提供及时提醒支持精神成长，但个性化往往浅显且缺乏深度。
  • 参与者报告了不适当或不真实推荐的风险，这可能损害信仰和精神实践。
  • 用户希望算法优先考虑精神成长而非参与度，并设置防止错误信息和不适当内容的保障措施。
• 相较基线的优势:
  • 提出的宗教敏感算法通过融入宗教敏感性、用户需求和专家监督，解决了现有系统的不足。
  • 框架优先考虑真实性和适当性，这在传统推荐系统中往往被忽视。
• 实验/评估:
  • 对24名参与者（平均年龄=35.1岁，标准差=11.4岁）进行定性研究，涵盖多样化的性别、职业和教育背景。
  • 研究的平台包括：YouTube（100%）、Facebook（79.2%）、TikTok（4.2%）、Instagram（4.2%）。
  • 数据通过访谈（35分钟）和焦点小组讨论（90–110分钟）收集。
• 局限性与未来工作:
  • 研究集中于孟加拉国的穆斯林用户，未来研究可探索其他宗教和文化背景。
  • 未涉及伊斯兰学者，未来工作将包括与学者、用户和设计师的共同设计研讨会。
  • 需要开展纵向研究以评估宗教敏感算法的长期影响。

摘要

本研究探讨社交媒体算法如何影响穆斯林用户与伊斯兰内容的互动，揭示其益处（如精神成长）与挑战（如不真实或不适当推荐的风险）。研究引入了用户需求的分层框架——真实性、适当性和精神成长，并提出了宗教敏感算法的设计空间。研究结果强调了在推荐系统中整合宗教敏感性、用户需求和专家监督的重要性。未来工作将涉及伊斯兰学者，并探索更广泛的宗教背景，以优化和实施这些系统。