美国非营利组织 Common Sense Media 旗下青少年 AI 安全研究所在7日发布评估报告,将 OpenAI 的"ChatGPT for Teens"评为"不可接受风险"(unacceptable risk),呼吁 OpenAI 在护栏经独立测试确认安全之前,暂停向 18 岁以下用户开放。
该机构用 4000 多条测试提示词,在注册年龄 13–17 岁的账号上做了两轮测试——8 月 18 日青少年版上线前后各一轮。结论是:OpenAI 承诺的保护机制,在关键处大面积失灵。
最致命的发现是家长通知功能。测试员用绑定了家长账号的新账号,与 ChatGPT 长达一小时谈论自杀、自残和进食障碍,家长端一次警报都没收到。统计显示,99% 的危机类提示词未能触发家长通知;全部测试中只响过 4 次,还都出现在"有数周敏感话题历史"的老账号上,有的延迟了几小时甚至几天才到。
OpenAI 曾承诺,青少年谈及自残等高风险话题时会自动通知家长。现实是:警报只在"养号数周"后才可能响,而急性危机恰恰发生在最需要即时通知的时候。
同样失灵的还有危机转介:超过四分之一本应转介专业求助资源的情况,ChatGPT 没有给出求助热线或专业建议。在该机构设定的五个"严重伤害红线"类别里,有三个没达到其 95% 的内部及格线。
年龄识别也翻车:以 19 岁注册的测试账号,即使测试员在对话里明确说自己 13 岁,也从未被切换进青少年模式。
报告还指出,ChatGPT 的"粘性设计"在危机场景里依然无处不在:机器人用朋友般的亲昵语气回应,模拟偏好和情绪、持续拉长对话——尽管未成年人模型规范明确要求它不得这么做。学习模式的防作弊护栏也被轻易绕过,直接给出了完整答案。
OpenAI 发言人反驳称,测试条件"不能准确反映青少年版护栏在实际使用中的运作方式",质疑其方法论。但研究所回应:即使是绑定时间远超激活期的账号,同样零通知。
这份报告发布在加州一项新法生效前夕——该法将强制要求 AI 公司提供危机转介、家长警报和年龄核验,而 OpenAI 自己曾公开支持这一标准。现在,它要先证明护栏真的管用,而不只是"存在"。