不平等的机会：检查大型语言模型地理推荐中的偏见

DOI

大型语言模型(LLM)的最新进展使其成为终端用户中流行的信息搜索工具。然而，LLM的统计训练方法引起了人们对代表不足主题表现的担忧，可能导致偏见可能影响现实世界的决策和机会。随着LLM变得更加普遍，无论是在直接交互中（如用户与聊天机器人或自动助手交互）还是集成到第三方应用程序中（作为代理），这些偏见都可能产生重大的经济、社会和文化影响。我们的研究检查了LLM在三个领域（搬迁、旅游和创业）对美国城市和城镇推荐的偏见。我们探讨两个关键研究问题：(i) LLM响应有多相似，(ii) 这种相似性如何可能有利于具有某些特征的区域而引入偏见。我们专注于LLM响应的一致性及其过度代表或不足代表特定位置的倾向。我们的发现指向这些推荐中一致的人口统计学偏见，这可能延续"富者愈富"效应，扩大现有的经济差距。