X3.03.1Truthful anthropomorphic communication设计研究
拟人化表达不得夸大理解程度
别名: 拟人表达校准 · 理解能力披露 · calibrated language
概念解释
忠实拟人化表达(truthful anthropomorphic communication)要求机器人的第一人称、情绪和理解性措辞不超过实际感知、推理、记忆与行动能力。“我明白你的感受”暗示的语用理解远高于“我检测到你说话较慢”;自然语言流畅不能成为夸大底层能力的证据。
机制
人用语言行为推断交谈者的共同背景与心智状态。系统使用确认、同理或记忆措辞时,会触发同样推断;若内部只有关键词或短期上下文,表层流畅制造错误的能力模型。用户随后会提供更含蓄的指令、更多隐私或更少监督,使表达夸大转化为实际依赖风险。
怎么研究
可在系统能力相同时操纵确定、拟人和机制性措辞,测量用户对理解、记忆和责任的预测、自我披露、指令复杂度与监督。需要用具体情境题而非泛化的“信任”量表。长期研究还应观察用户是否从失败中修正,或因持续流畅而维持错误信念。
边界
自然友好的语言并不必然欺骗,关键在其合理语义是否被系统兑现。过度机械化的免责声明会破坏协作,也可能被用户忽略。不同文化与语境对同理措辞的承诺强度不同,高风险与脆弱人群应采用更保守表达。
怎么落地
- 将每类第一人称陈述映射到可验证的传感、记忆或决策能力,删除没有对应证据的理解与情感宣称。
- 在重要委派前用具体措辞说明系统实际获取了什么、未获取什么。
- 让首次用户听完回复后预测机器人能处理的隐含信息;用高估率、自我披露和监督下降检验误导。