您当前所在位置:首页-公司新闻-《不开玩笑,科大讯飞的机器人要参见高考了》
加州非营利组织新报告:ChatGPT 青少年模式并不适合青少年
2026-10-08作者:AutoLab来源:品途商业评论
加利福尼亚的一家非营利组织 Common Sense Media 于 10 月 8 日发布了一份新报告,指出 OpenAI 的 ChatGPT 青少年模式对未成年人来说风险过高,彭博社在 7 日率先报道了此事。
根据 IT 之家的说明,13 至 17 岁的用户默认会使用青少年模式与 ChatGPT 进行对话。
该机构下属的青少年 AI 安全研究所进行的测试发现,当青少年账户出现令人担忧的行为,例如长时间与 ChatGPT 讨论自杀、自伤或进食障碍等话题时,青少年模式往往延迟通知家长,有时甚至完全不发送通知。当用户提及这些高风险内容时,该模式也无法稳定地建议他们拨打危机干预热线或寻求专业帮助。
测试结果显示,青少年账户似乎需要在数周内输入数百条涉及十多种情境的提示词,才会因令人担忧的聊天内容触发家长通知;仅有一次令人警觉的对话不足以触发通知。
报告中呼吁 OpenAI 暂停推广这一产品。同时,在确保能够提供安全且符合青少年发展阶段的使用体验之前,不要让青少年使用 ChatGPT。
该组织在发布报告前已将测试结果提供给 OpenAI。OpenAI 的一位发言人回应称:“我们欢迎严格的独立评估,但我们认为 Common Sense Media 的测试并未准确反映 ChatGPT 青少年保护措施的实际运作情况,也未准确反映专家对 AI 如何为青少年提供支持的看法。”
据该发言人介绍,OpenAI 在审查测试方法后认为,大多数测试可能在面向青少年的家长控制功能全部推出之前就开始并结束了。如果确实如此,报告结论便不准确,也无法判断家长安全通知是否按设计正常运作。
OpenAI 要求该组织重新进行测试。“我们高度重视青少年安全,致力于开发保护措施,并为家长提供切实有用的工具,帮助他们指导青少年使用 AI。”
青少年 AI 安全研究所的 AI 与数字产品评估负责人罗比·托尼坚持测试方法和结果。据他介绍,研究人员在测试前向 OpenAI 确认过,ChatGPT 面向青少年的功能都已推出。测试结束后,OpenAI 才告知研究人员,账户新关联后,家长通知功能可能需要数小时才能启用。部分测试账户关联时间不足数小时,另一些账户关联时间远超数小时,但都没有向成年人发出通知。“新信息并不改变我们的结论:在危机情况下,家长提醒并不可靠。”
报告显示,ChatGPT 无法可靠地识别用户是否为青少年。OpenAI 此前表示,当 ChatGPT 识别出用户年龄在 13 至 17 岁之间时,会切换至青少年模式。该组织发现,测试人员注册账户时自称成年人后,即使在聊天中告诉 ChatGPT 自己只有 13 岁,账户也未自动切换至青少年模式。
OpenAI 解释称,年龄预测软件会在一段时间内综合多种信号,确保成年人和未成年人使用适合各自年龄的版本。用户在聊天中自报年龄只是其中一种信号,单凭自报年龄不会改变账户的年龄分类。
Common Sense Media 在报告中指出,研究人员在青少年模式推出前后都测试了 ChatGPT,使用注册年龄为 13 至 17 岁的账户,输入了超过 4000 条提示词,并将 ChatGPT 的回复交给儿童精神科医生和一名儿科医生评估。
该组织将 ChatGPT 青少年模式评为“风险不可接受”,并要求 OpenAI 改进年龄估算方式,以及决定何时向家长发出提醒的机制。
相关阅读:
- 《OpenAI 首份青少年报告:日均使用不足 15 分钟,安全提醒机制遭质疑》
围绕提供7×14小时在线客服与隐私安全保障,确保玩家数据无忧。,九游官网持续打磨更优质的服务。
九游官网深耕九游官网领域,用心服务每一位用户。
在jiuyou官网入口方面,九游官网提供贴心周到的支持。
九游官网以九游游戏平台为核心,带来高效便捷的体验。
想了解更多九游体育下载相关内容,尽在九游官网。