通过LLM生成的探针了解父母监管儿童与GenAI聊天机器人交互的期望

文献标题

Understanding Parents’ Desires in Moderating Children’s Interactions with GenAI Chatbots through LLM-Generated Probes

出版信息

• 主题领域: 面向生成式人工智能聊天机器人的家长控制设计。
• 关键词: 生成式人工智能聊天机器人（GenAI Chatbots）、家长控制、儿童安全、内容调控、透明性、人工智能伦理、儿童-计算机交互、个性化、算法育儿、发展适宜性。

背景与问题

• 问题 / 挑战: 当前针对生成式人工智能聊天机器人的家长控制工具过于粗放，无法应对开放式、随机对话系统所带来的独特挑战。这些工具缺乏在对话层面进行细粒度调控和透明化的能力。
• 重要性: 生成式人工智能聊天机器人在儿童中的快速普及带来了诸如接触有害内容、削弱家长权威以及过度依赖等风险。有效的家长控制工具对于在保障安全的同时让儿童能够使用人工智能工具至关重要。
• 动机与相关研究: 现有研究主要集中在智能手机和社交媒体等传统技术的家长控制上，但这些方法无法解决生成式人工智能聊天机器人交互的动态性和个性化问题。近期的诉讼和事件凸显了弥补这些空白的紧迫性。

解决方案

• 提出的方法: 系统性调查家长在调控儿童与生成式人工智能聊天机器人交互时的关注点和需求，利用大语言模型（LLM）生成的交互场景作为探针。
• 创新点:
  1. 识别触发家长担忧的具体因素，包括儿童与生成式人工智能聊天机器人的交互内容。
  2. 描述家长在对话层面上期望的调控相关交互。
  3. 探索家长对透明性的偏好，包括参与程度和内容访问维度。
  4. 提供个性化和适龄家长控制工具的可操作性见解。
• 研究流程与关键技术:
  1. 使用GPT-4.1-nano生成160个模拟的儿童与生成式人工智能聊天机器人交互场景，筛选出12个真实且多样化的示例。
  2. 对24名家长进行半结构化访谈，以评估其担忧、调控需求和透明性偏好。
  3. 对访谈记录进行主题分析，识别重复主题并提炼可操作性见解。

研究结果

• 具体发现:
  • 家长的担忧来源于儿童的输入（如有害意图、过度依赖）和生成式人工智能聊天机器人的回应（如缺乏意图理解、情感影响、发展不匹配）。
  • 家长期望的调控策略包括拒绝有害请求、澄清意图、根据年龄调整回应以及转交人工支持。
  • 透明性偏好沿两个维度变化：参与程度（如警报、交互后审查）和内容访问（如完整记录、摘要）。
• 相较现有方法的优势:
  • 提供了比现有粗放型家长控制更细粒度的对话层面见解。
  • 突出了个性化和适龄工具的需求，填补了当前系统的空白。
• 实验 / 评估:
  • 对24名6至18岁儿童的家长进行访谈。
  • 分析涵盖安全、情感支持和规则违规的12个多样化场景。
  • 评估指标包括家长担忧评分和定性反馈。
• 局限性与未来工作:
  • 研究中未纳入儿童的视角。
  • 样本量较小，且场景展示可能存在引导效应。
  • 未来工作应包括儿童的参与，开发可解释的调控模型，并探索提出的控制措施在规避行为下的稳健性。

总结

本研究调查了家长在调控儿童与生成式人工智能聊天机器人交互时的担忧和偏好。通过使用大语言模型生成的场景，研究识别了触发家长担忧的关键因素，如儿童的有害输入和不适当的机器人回应。家长希望有细粒度的调控策略和透明机制，这些机制应根据儿童的年龄和家庭价值观量身定制。研究结果强调了需要个性化、对话层面的家长控制工具，以平衡安全性、发展适宜性和儿童隐私。未来研究应纳入儿童视角，并开发可扩展的工具来实现这些见解。