可持续性：作为个人动机的价值如何塑造算法的结果。一个促进生态和社会可持续性的例子

文献标题

SustAInable: How Values in the Form of Individual Motivation Shape Algorithms’ Outcomes. An Example Promoting Ecological and Social Sustainability

文献信息

• 主题领域: 人机交互（HCI）、算法偏差与伦理、生态与社会可持续性
• 关键词: 人文主义、可持续性、算法偏差、定量方法、人机交互

研究背景与问题

• 发现的问题或挑战:
  算法的输出不仅由数据和技术驱动，还受到开发者和用户的个人动机和价值观的影响，这种影响可能会导致算法产生偏差，甚至无意中反映出诸如生态或社会价值的倾向性，但目前对这些影响的理解仍然有限。
• 重要性:
  算法系统对于许多社会领域（如金融、人力资源管理、网络安全）的作用日益关键，而这些系统的潜在偏差可能会影响公平与公共利益的实现，从而需求深入探讨这些偏差背后的根源。
• 研究动机与相关工作:
  现有研究已经讨论了偏差的种类及其成因（如数据偏差、用户偏差等），并尝试开发技术或法律方法来减少偏差，但对开发者和训练者的个人动机是否也会影响算法输出这方面的研究较少。本研究旨在填补这一空白并探讨其潜在的应用价值。

解决方案

• 研究方法:
  作者设计了一项在线调查，收集来自766名参与者的数据，探讨环境动机和利他动机如何影响参与者在训练垃圾邮件过滤器算法时的评分决策。通过相关性分析和回归模型，研究两种动机对垃圾邮件分类的影响。
• 创新之处:
  研究首次系统性地探讨了开发者和用户的个人动机如何影响算法训练过程中的决策，从而对算法输出产生偏差。此外，研究将算法偏差扩大到包括生态和社会可持续性的潜力，而不是局限于传统意义上负面的“歧视性偏差”。
• 实施步骤与技术:
  1. 设计调查并收集数据：参与者为8封邮件进行垃圾邮件分类，包括来自环保组织、慈善组织和其它个人邮件。
  2. 测量独立变量：环境动机通过通用生态行为量表测量，利他动机通过自我报告利他量表测量。
  3. 进行相关性分析和多元线性回归，评估动机对垃圾邮件分类比率的影响。

研究成果

• 具体成果:

  1. 环境动机与将来自环境组织和人道主义组织的邮件标记为垃圾邮件的频率负相关，动机较强者倾向于减少此类邮件的垃圾分类。
  2. 尽管环境和利他动机之间存在一定相关性，但利他动机对邮件分类没有显著影响。
  3. 环境动机表现出对社会行为的广泛影响，而不局限于环保行为。

• 与现有解决方案的比较:
  与当前对算法偏差的研究相比，本研究重点关注算法偏差背后不一定有害的动机驱动效应，并考虑其对偏向“共同利益”的可能性。研究提出在技术解决之外应考虑影响算法的人的价值观及其教育。

• 实验或评估结果:

  • 环境动机显著负相关于垃圾邮件比率（环境：r=-0.19；人道主义：r=-0.14）。
  • 回归分析显示环境动机对垃圾邮件分类比率有显著的负面预测作用（例如：环境邮件的分类比率预测效应β=-0.22, p<0.001）。
  • 动机驱动的偏差可产生意外结果，例如，提高垃圾邮件过滤的生态和社会敏感性。

• 局限性与未来方向:

  1. 利他动机的效果未显著，可能与测量方法或材料设计有关，未来研究需优化量表和邮件样本。
  2. 研究采用横断面设计，无法推导因果关系，仅能间接说明关系。
  3. 本研究针对垃圾邮件过滤器，场景较为受限，未来需扩展到复杂算法系统中。
  4. 动机引导的偏差可能在其他现实场景中发挥更深远影响，应继续探索如何在不同决策环境中应用此研究。

实践意义

• 建议培养开发者的可持续性价值观，例如实施相关培训或在技术企业中建立促进社会责任和环境保护的文化。
• 本研究为设计能够推动社会和生态价值（如智能推荐、信用评分）的算法提供了理论支持。
• 同时提醒算法创建者和监管者，需对动机驱动的偏差进行监测和教育，避免对训练数据产生负面影响。

结论

本研究揭示了个人动机如何通过算法训练过程影响算法输出，从而打开设计“偏向”社会与生态可持续性算法的大门。作者强调提升对动机驱动偏差的意识，同时提出既要利用促进公共利益的动机，也要防止意外偏差带来的负面影响。这对于设计更符合人类价值的算法具有重要意义。