审计算法筛选的疫苗错误信息的电子商务平台

文献标题

审计电子商务平台的算法生成疫苗错误信息

文献信息

• 主题领域: 健康信息的可信性和电子商务平台上的算法偏差
• 关键词: 搜索引擎, 健康误导信息, 疫苗错误信息, 算法偏差, 个性化, 算法审计, 搜索结果, 推荐系统, 电子商务平台

研究背景与问题

• 发现问题:
  • 随着人们对互联网搜索的依赖增长，疫苗和健康相关的搜索信息质量成为一个重要问题。
  • 电子商务平台（如Amazon）因未能监管其健康相关产品而受到批评，并可能成为错误信息的主要传播器。
• 重要性:
  • 疫苗犹豫可能破坏群体免疫的目标，尤其是在新冠病毒全球流行的背景下。
  • 人们对电子商务平台推荐结果的信任使得这些平台可能影响用户购置习惯和健康观点。
• 动机与相关工作:
  • 大多数关于搜索引擎错误信息的研究集中在主流搜索引擎上，而对电子商务平台的研究较少。
  • 本文旨在系统地审计Amazon平台上的疫苗错误信息，揭示其搜索和推荐算法的潜在问题。

解决方案

• 方法与解决方案:
  • 采用两组系统性算法审计：未个性化的审计和个性化的审计。
  • 未个性化审计评估了搜索结果中疫苗相关查询返回的错误信息比例。
  • 个性化审计探讨了用户历史如何通过执行真实世界中的操作，例如点击产品或将其加入购物车，影响搜索结果和推荐内容。
• 创新之处:
  • 首次在大规模上对电子商务平台进行疫苗相关错误信息的系统性审计。
  • 提出了综合的定性注释编码体系，用于标注健康相关产品是否推广错误信息。
• 实施步骤与技术:
  • 注释健康相关产品的立场（促进错误信息、保持中立或反驳错误信息）。
  • 比较搜索和推荐结果的“误导偏差”指标，通过计算输入偏差、输出偏差和排名偏差揭示算法的潜在问题。
  • 使用自动化工具（如Selenium和AWS虚拟机）控制实验变量（如地理位置和历史记录）。

研究成果

• 具体成果:
  • 在未个性化审计中发现，10.47%的搜索结果含有健康错误信息，高于反驳错误信息的产品比例（8.99%）。
  • 搜索结果在默认的“featured”排序和“high customer reviews”排序下偏向错误信息。
  • 推荐系统显示出“过滤气泡”效应，购买或关注错误信息产品的用户会继续收到更多类似产品的推荐。
• 优势与贡献:
  • 首次定义了一种用于标注电子商务平台上健康错误信息的全面体系。
  • 提供了电子商务平台如何通过其算法放大健康错误信息的实例分析。
• 实验结果:
  • 用户对含有错误信息的产品进行点击或购买行为后，推荐算法会进一步推送类似产品，加剧错误信息的传播。
  • 对自动补全建议未发现显著个性化影响。
• 局限性与未来方向:
  • 实验未涵盖所有推荐类型，例如平台外电子邮件推荐。
  • 个性化审计的用户行为模拟相对简单，未能完全捕获复杂的真实世界场景。
  • 未来可以扩展此方法对更广泛的话题进行审计，并研究推荐系统和搜索引擎对公众观点的影响。

总结与建议

• 主要结论:
  • Amazon平台在搜索和推荐中存在显著的健康错误信息，包括“疫苗错误信息过滤气泡”。
  • 平台算法当前未能区分健康问题的重要性。
• 建议:
  • 短期策略：在搜索结果中引入“偏差仪表盘”或信息干预（如引入维基百科链接）。
  • 长期策略：修改推荐算法，避免错误信息集中化；制定政策禁止信息质量低的书籍或商品。
  • 提高公众认识，通过协同压力推动电子商务平台改进其内容质量管控措施。