AI应该模仿人类吗？理解黑人用户对AI辅助写作技术的看法

提供语法建议、句子自动补全或文本生成重写的AI辅助写作技术已成为许多人工作流程中的常规功能。然而，人们对这些工具提供的建议看法知之甚少。本研究调查了美国黑人用户对AI辅助写作技术的看法，研究动机源于自然语言处理先前研究发现底层大型语言模型可能包含种族偏见。通过对13名美国黑人AI辅助写作技术用户进行访谈和观察研究，研究发现用户在利用AI辅助写作技术提升写作风格的好处与感觉「这不是为我们设计的」之间存在强烈权衡。具体而言，参与者反映AI辅助写作技术无法识别非裔美国人白话英语中常用的名字和表达，将纠正视为伤害性和疏离感，并担心这可能进一步边缘化其文化。研究最后反思了未能包容黑人美国文化和语言的AI辅助写作技术与试图模仿它的AI辅助写作技术之间的张力，关注准确性、真实性和社会差异的产生。