交叉性人工智能：信息科学学生如何思考伦理及其影响的研究

近期的文献表明，美国计算机课程中伦理培训的作用有限且在某些情况下正在减弱。人工智能可能产生不平等或造成危害的能力已有充分记录，但这个问题仍然缺乏足够的重视或有效的缓解措施。我们在本文中提出的问题是：如何培养未来的技术设计者识别并应对困扰人工智能技术的各种伦理问题，特别是当人工智能与监控技术结合时会对社会参与和限制产生严重影响——从刑事司法中的风险评估和保释分配，到公共福利分配以及获得住房和其他关键资源的途径，这些对社会的安全和成功至关重要。美国是亚洲学生学习信息和计算机科学的中心，他们作为少数族群的经历使他们熟悉并容易受到滋养人工智能偏见的社会偏见的影响。我们的目标是更好地了解那些正在接受人工智能系统设计培训的学生如何思考这些问题，特别是他们对交叉性考虑因素的敏感性，这些因素会加剧弱势群体的风险。本文报告了对20名研究生进行定性访谈的结果，其中11名来自人工智能课程，9名来自数据挖掘课程。我们发现，除非得到明确鼓励，否则学生不会主动深入思考人工智能设计对他人隐私和福祉的影响。当他们思考时，他们的思路是通过个人身份和经验的视角来看待的，但他们的反思主要集中在偏见上——这是设计的内在特征——而非公平性，后者需要他们想象人工智能的后果。事实上，当讨论和明确邀请考虑交叉性和结构性不平等的设计练习促使他们这样做时，他们是能够思考公平问题的，许多人需要帮助来完成这种共情“工作”。值得注意的是，那些更频繁地反思与偏见和公平相关的交叉性问题的学生也更有可能考虑模型属性与偏见之间的联系及其与情境的相互作用。我们的研究结果表明，身份脆弱性的经历促进了更复杂的分析性人工智能思考，进一步支持了将身份相关伦理融入计算机科学和数据科学课程而非作为独立课程的观点。