机器学习不确定性作为设计材料：一种后现象学探究

文献标题

将机器学习的不确定性作为设计材料: 一种后现象学的探讨

文献信息

• 主题领域: 人机交互（HCI）、设计研究、后现象学、机器学习
• 关键词: 后现象学、机器学习、设计研究、不确定性、模式泄漏、未来侵蚀、人工智能设计

研究背景与问题

• 问题与挑战:

  1. 当前设计研究对机器学习 (ML) 的理解和探索相对不足，尤其是在将ML的不确定性视为设计机会，而非障碍。
  2. 大部分研究将关注点放在提高用户体验和算法透明性，而非直接探讨ML的不确定性如何形成人类体验。
  3. 现有设计方法（例如解释性人工智能XAI）倾向于解释ML的不确定性，而不是利用这种不确定性。

• 重要性:

  1. 机器学习正在快速融入日常生活，而其技术上的不透明和统计决策的复杂性需要设计层面的干预。
  2. 不确定性是ML系统的固有属性，忽视其设计潜力可能会限制新型设计方法和交互模式的出现。

• 研究动机与相关工作:

  1. 作者指出ML的统计推断特性通过其数据模型和决策过程不透明地塑造了人类的日常体验。
  2. 当前的技术社区关注如何通过算法解析减少不确定性，而非接受不确定性并将其作为创新的素材。

解决方案

• 提出的方法/解决方案:

  1. 作者采用后现象学理论来重新定义ML的不确定性，认为它是机器学习技术中重要且不可避免的设计材料。
  2. 通过分析四个跨不同设计方法论的研究案例，作者推导出三个核心概念：事物性不确定性（thingly uncertainty）、模式泄漏（pattern leakage）和未来侵蚀（futures creep）。

• 创新之处:

  • 将ML的不确定性重新框定为设计研究的一部分，从“需要解释的障碍”转型为创造性和嵌有社会意义的设计材料。
  • 专注于从技术的不确定性中挖掘现象，加深ML驱动系统与人类经验之间的关系理解。

• 实施步骤与关键技术:

  1. 对四个设计研究案例进行后现象学分析，揭示每个案例中ML技术的独特性和其产生的不确定现象。
  2. 总结出相关的经验与设计观察，并构建描述和操作这些现象的概念框架。
  3. 提出“事物性不确定性”、“模式泄漏”和“未来侵蚀”作为设计研究的理论和实践指引。

研究成果

• 具体成果:

  1. 提出三大概念：

     • 事物性不确定性: 描述ML驱动设备如何与环境及人类交互，既能成为不确定性承载者，也可触发新型互动关系。
     • 模式泄漏: 指ML模型中学习到的概率模式溢出到世界中，从而重新塑造事物被感知和解释的方式。
     • 未来侵蚀: 探讨ML驱动技术如何通过预测改变人类与时间的关系。

  2. 提供适用于设计探究的分析框架，特别是后现象学“人-技术-世界”关系的扩展。

• 与现有解决方案的比较:

  • 本研究既不同于强调理性解释和透明化的XAI方法，也不同于单纯优化用户体验的工程方法。它更关注通过设计方式介入ML技术中的不确定性，并以此开辟新的交互与思考空间。
  • 将不确定性看作潜在的创造力来源，而不是错误或需要规避的因素。

• 实验或评估结果:

  • 四个案例分析中均表明，ML的不确定性既可能是技术局限的体现，也可以是设计创新的驱动力。例如：
    • 在“智能家庭摄像头”中，不确定性引发了用户对数据模式识别与社会隐私的反思。
    • 在“预测未来海平面上升的高水裤”中，ML不确定性通过未来时间预测改变了参与者对地理环境的现实时空理解。

• 局限性与未来方向:

  1. 局限性:
     • 作者所使用的案例分析范围有限，未完全包含ML技术在广泛设计领域的多样化应用。
     • 针对伦理与社会政治层面的反思尚不够深入。
  2. 未来方向:
     • 扩展更多关于“模式泄漏”和“未来侵蚀”的设计实验，发掘它们在不同行业和环境下的应用潜力。
     • 探讨如何将ML不确定性融入以人为中心的设计方法，并结合伦理学考量推动负责任设计的实践。