「就像在这里赌上你的生命」：通过约会应用防止在线到线下伤害的用户交互风险检测 AI 参与式设计

DOI

社交计算平台促进了跨在线和物理领域的人际伤害，如在线约会者之间的性暴力和通过社交媒体的性 grooming。风险检测 AI 已成为防止此类伤害的一种方法，但 HCI 文献批评其专注于计算性能而未考虑用户应如何与风险检测 AI 交互以保持安全。本文报告了一项与20名女性在线约会者的访谈研究，探讨她们设想的风险检测 AI 交互方式以及如何根据此类交互设计风险检测模型。研究发现，女性预期与风险检测 AI 交互以增强而非取代她们的个人风险评估策略。她们同样设计风险检测模型以放大她们主观的、承认有偏见的风险指标。设计含义涉及个性化风险检测模型的概念，但也涉及延续与风险相关问题性刻板印象的伦理担忧。