社会的镜像：职业图像搜索结果中的性别和种族表征及其影响

算法中介内容既是主导社会叙事的产物，也是其创造者，并有可能影响用户的信念和行为。我们进行了两项关于职业图像搜索结果中性别和种族代表性的内容及影响的研究。在研究一中，我们将2020年劳动力性别和种族构成与图像搜索中的呈现进行比较。我们发现两个维度上都存在代表性不足的问题：女性在搜索中的代表性为42%，而该领域女性实际占比为50%（与2015年的代表性不足程度相当）；有色人种在搜索中占16%，而该职业中有色人种占22%（与美国劳动力比例相当）。我们还将性别代表性数据与2015年Kay等人收集的数据进行了比较，发现过去五年几乎没有改善。在研究二中，我们研究了当向人们展示不同女性和有色人种比例的搜索结果时，人们对职业的印象和在该领域的归属感。我们发现两种类型的代表性以及人们自身的种族和性别身份都会影响其图像搜索结果体验，最后我们强调设计者和算法审计者需要考虑算法内容对边缘化身份用户的不同影响。