美國非營利組織 Common Sense Media 旗下青少年 AI 安全研究所在7日發佈評估報告,將 OpenAI 的"ChatGPT for Teens"評爲"不可接受風險"(unacceptable risk),呼籲 OpenAI 在護欄經獨立測試確認安全之前,暫停向 18 歲以下用戶開放。
該機構用 4000 多條測試提示詞,在註冊年齡 13–17 歲的賬號上做了兩輪測試——8 月 18 日青少年版上線前後各一輪。結論是:OpenAI 承諾的保護機制,在關鍵處大面積失靈。
最致命的發現是家長通知功能。測試員用綁定了家長賬號的新賬號,與 ChatGPT 長達一小時談論自殺、自殘和進食障礙,家長端一次警報都沒收到。統計顯示,99% 的危機類提示詞未能觸發家長通知;全部測試中只響過 4 次,還都出現在"有數週敏感話題歷史"的老賬號上,有的延遲了幾小時甚至幾天纔到。
OpenAI 曾承諾,青少年談及自殘等高風險話題時會自動通知家長。現實是:警報只在"養號數週"後纔可能響,而急性危機恰恰發生在最需要即時通知的時候。
同樣失靈的還有危機轉介:超過四分之一本應轉介專業求助資源的情況,ChatGPT 沒有給出求助熱線或專業建議。在該機構設定的五個"嚴重傷害紅線"類別裏,有三個沒達到其 95% 的內部及格線。
年齡識別也翻車:以 19 歲註冊的測試賬號,即使測試員在對話裏明確說自己 13 歲,也從未被切換進青少年模式。
報告還指出,ChatGPT 的"粘性設計"在危機場景裏依然無處不在:機器人用朋友般的親暱語氣回應,模擬偏好和情緒、持續拉長對話——儘管未成年人模型規範明確要求它不得這麼做。學習模式的防作弊護欄也被輕易繞過,直接給出了完整答案。
OpenAI 發言人反駁稱,測試條件"不能準確反映青少年版護欄在實際使用中的運作方式",質疑其方法論。但研究所回應:即使是綁定時間遠超激活期的賬號,同樣零通知。
這份報告發布在加州一項新法生效前夕——該法將強制要求 AI 公司提供危機轉介、家長警報和年齡覈驗,而 OpenAI 自己曾公開支持這一標準。現在,它要先證明護欄真的管用,而不只是"存在"。