探索使用推测性概念电影进行数据伦理共同推测的用途

算法透明度与可审计性设计虚构(Design Fiction)HCI 研究员社会学家与人类学家

研究背景与问题

  • 发现的问题或挑战:论文讨论了位置数据推荐系统和数字监控技术的广泛应用,这些技术在提供个性化用户体验时可能带来的隐私问题、伦理争议,以及潜在的社会危害。其中,作者特别关注技术如何影响用户行为、情感和自主性,提出有关个体使用位置数据的负面社会后果的问题。
  • 问题重要性:位置数据的获取和使用已经对用户的社会互动以及个人隐私产生了深远影响。例如,数字监控不仅改变了用户与物理世界的交互方式,还可能被用来制造情感操作或商业剥削。随着人工智能和机器学习的进一步发展,这些问题变得更加紧迫。
  • 研究动机与相关工作:论文由近年来关于隐私侵犯和数字监控的批评性讨论驱动,探索通过更真实和吸引人的叙述(例如,电影制作)将这些讨论转化为与专家进行协同讨论的可能性。这类工作依托设计虚构领域,旨在开辟反思技术伦理的空间。

解决方案

  • 提出的方法或解决方案:论文提出了利用高保真设计虚构电影进行“协同推测(Co-Speculation)”的方法。这些电影旨在展示位置推荐系统的潜在未来影响,并吸引领域专家进行反思和讨论。
  • 解决方案的创新之处:
    • 使用高保真电影将复杂的技术批评转化为可感知和易于讨论的形式。
    • 电影采用视觉叙事和沉浸式情境,帮助研究参与者与未来场景建立情感联系。
    • 不仅仅描绘未来,还试图利用电影让观众深入思考背后的算法和技术逻辑。
  • 实施步骤:
    1. 研究与设想:初步审查学术文献和新闻报道,发展出20个初始场景,紧扣关键的伦理问题。
    2. 筛选与精炼场景:与初步测试对象讨论后选定四个最终场景。
    3. 高保真电影制作:包括脚本创作、场景选址、拍摄和后期制作,通过视觉特效展现复杂的技术背景(例如,算法可视化)。
    4. 参与者招募与访谈:通过与专家的协同推测访谈(11位领域专家),获取对电影内容和话题的反馈。

研究成果

  • 取得的具体成果:
    • 通过所有参与者的反馈,高保真电影成功引发了深刻和情感化的批判性反思,包括思考技术的利弊和未来的社会影响。
    • 电影促进了领域专家以用户的视角重新评估他们的角色及工作的伦理维度,例如从女性和用户角度看待安全路线推荐功能如何侵犯隐私。
  • 与现有解决方案相比的优势:
    • 比文字或抽象推测更能激发情感并促使参与者深入讨论问题。
    • 创建了一个结合技术原理和社会议题的沉浸式媒介,使得参与者能够以更具体的方式反思主流技术叙述。
  • 实验或评估结果:
    • 方法有效性:电影展示和随后的访谈提高了专家对技术伦理问题的认识,特别是在算法操作和数据动态的透明性方面。
    • 观察到的情感参与模式:参与者将自己或其他熟悉的角色投射到电影中的情境,使他们能够更容易地探讨伦理和社会问题。
    • 电影在展现技术对生活的具体影响时比抽象的文字描述更具影响力。
  • 局限性与未来方向:
    • 局限性:未在对照实验中比较高保真电影与其他呈现形式的相对影响,无法完全量化这种方法的效果;此外,制作过程耗费时间和资源。
    • 未来方向:
      • 探索多元场景组合,包括正向和负向的未来愿景,帮助平衡批判性设计的悲观语调。
      • 将高保真电影方法扩展到更广的公众参与场景,而不仅仅局限于领域专家。
      • 深入研究电影在促进行动能力和集体参与方面的潜力,以避免技术命运悲观主义(Future Fatalism)。

快捷操作

分享

分享当前页面

ios_share

https://hci.top/zh/papers/chi/189186/2025

广告推荐

学习 AI 编程到 CodeNow

open_in_new打开DOI链接
DOI: https://dl.acm.org/doi/10.1145/3706598.3713245
一眼看懂

论文快照

fact_check
dataset
来源
CHI
calendar_month
年份
2025
emoji_events
奖项
未标记奖项
group
作者
2 位作者
sell
研究子方向
算法透明度与可审计性、设计虚构(Design Fiction)
work
职业/产业
HCI 研究员、社会学家与人类学家
article
内容状态
已索引正文
hub
相关论文
7 篇相关论文