注意差异：设计师和标准在用户算法系统透明度方面的设计

文献标题

Mind The Gap: Designers and Standards on Algorithmic System Transparency for Users

文献信息

• 主题领域: 人机交互与算法系统透明性
• 关键词: 设计实践, 标准, 透明性, 算法系统, 人机交互, 设计指南, 人工智能

研究背景与问题

• 作者发现的问题或挑战:

  • 尽管对算法系统透明性的需求增加，但设计师往往不清楚如何在实践中实现这一目标。
  • 透明性的实施常常面临原则到实践的“鸿沟”，尤其是在算法系统的设计透明性上缺乏清晰的指导。

• 问题的重要性:

  • 算法系统对个体和社区产生实质性影响，因此需要更高水平的透明性来支持问责制、降低信息和权力的不对称。
  • 包括欧盟 AI 法案、美国平台透明性法案等法律逐步要求算法系统更加透明，但其对设计师的实际影响仍然不明确。

• 研究动机与相关工作:

  • 当前的透明性标准（如 IEEE 7001）提出了衡量透明性的方法，但这些标准是否能有效帮助设计师尚未被充分探索。
  • 作者选择了 IEEE 7001 标准来调查设计师对透明性理解以及其与标准建议的契合度。

解决方案

• 作者提出的方法或解决方案:

  • 通过在线问卷调查和跟进采访的混合方法研究设计师对透明性标准的理解和接受度。
  • 使用 IEEE 7001 标准的具体建议对设计师进行测试，特别是其为终端用户设计的透明性“级别”（TL0-TL5）。

• 创新之处:

  • 首次系统研究设计师与透明性标准之间的认知及实践差距。
  • 提出了提升设计师透明性意识的潜在机制，并指出未来发展的方向。

• 实施步骤和关键技术:

  • 设计两个研究：通过在线问卷调查了解设计师的经验和挑战，通过访谈进一步测试设计师对 IEEE 7001 透明性建议的理解。
  • 使用 IEEE 7001 的建议作为核心基准，包括透明性等级（例如 TL1 到 TL5）进行设计师认知的评估。

研究成果

• 具体成果:

  • 多数参与者认为透明性重要，但难以实施。设计师对透明性标准的认知和实践仍存在重大差距。
  • IEEE 7001 的透明性建议被设计师认为过于抽象，并且在给定的情境中难以应用。
  • 设计师提出了一些促进透明性的潜在工具和原则，但这些与标准的建议存在差异。

• 与现有解决方案相比的优势:

  • 本研究深化了对设计师与透明性标准之间的差距的理解，并提供了具备实践价值的反馈。
  • 调查了设计师面临的具体挑战，并总结了促进透明性的建议。

• 实验或评估结果:

  • 超过 50% 的采访设计师认为 IEEE 7001 的透明性建议（TL1-TL3）在特定场景下仅在特定条件下适用，32% 的设计师认为完全不适用。
  • 问卷和访谈揭示了设计中的时间限制、资源不足以及缺乏清晰定义等关键阻碍。

• 局限性与未来方向:

  • 样本规模有限，大多参与者来自欧洲，缺乏全球代表性，未来可扩展到更多区域及背景。
  • 针对设计师以外的其他参与方（例如用户、采购员等）的研究仍需进行。
  • 提议未来标准开发探索具体案例、工具支持和多方利益相关者的参与与协作。
  • 呼吁透明性研究与标准制定的全球化及跨语言适配。

总结

本文揭示了透明性标准与设计实践之间的巨大鸿沟，并探索了提高透明性设计的潜在路径。研究表明透明性标准的潜在影响有限，设计师需要更多的支持、协作和意识提升来促使算法系统更加透明。未来的发展需要结合设计师实践、透明性标准和用户需求的共同努力，以推动更加负责任的人工智能系统设计。