专利申请一瞥社会技术想象：情绪人工智能在心理健康监测与检测中想象未来的伦理思辨

DOI

专利申请提供了关于发明者如何想象和合法化其假想技术用途的洞察；作为这种想象的一部分，他们设想社会世界并产生社会技术想象。在高风险情境中检查社会技术想象很重要，例如用情感人工智能解决心理健康护理问题的案例。我们分析了美国提交的与监测和检测情绪和/或心理健康相关的情感人工智能专利申请（N=58）。我们检查了所述技术的想象用途及其被定位要解决的问题。我们发现发明者将情感人工智能发明定位为解决围绕数据准确性、护理供给和体验、医患沟通、情绪调节以及预防心理健康原因导致的伤害等问题的方案。然后，我们应用伦理思辨视角来預见专利申请中描述的有望实现的情感AI赋能未来的潜在含义。我们认为，这样的未来充满了对心理健康状况（或「非预期」情绪）的污名化，将心理健康与犯罪倾向等同，并缺乏数据主体的能动性。通过将心理健康状况个体框架为不可预测和无法行使自身能动性，情感人工智能心理健康专利申请提出了干预这一想象未来的解决方案：强化监控、强调个体责任而非结构性障碍，以及去情境化的行为改变干预。使用伦理思辨，我们阐述了这些话语的后果，提出了关于情感人工智能在健康和护理相关情境中作为积极、内在或不可避免的角色的问题。我们讨论了我们的发现对专利审查流程的影响，并倡导政策制定者、研究人员和技术人员在专利申请成为现实之前，参考专利（申请）来获取、评估和（重新）考虑潜在有害的社会技术想象。