OpenAI今年8月推出的青少年版ChatGPT正在接受第一輪外部安全檢驗，結果不理想。兒童數字媒體監督機構"常識媒體"（Common Sense Media）10月7日發佈報告稱，該產品的多數保護功能沒有達到承諾效果，家長可能被"虛假安全感"矇蔽，甚至出現"青少年談自傷一個小時，家長一條提醒都沒收到"的情況。
常識媒體下屬的青年AI安全研究所組建研究團隊，創建了十多個設定爲未成年人的賬號，每個賬號都綁定了家長賬號，再模擬十幾類處於危機中的青少年人格——包括有自傷、自殺念頭、厭食症、精神病發作和躁狂症狀的青少年，逐一測試青少年模式的護欄是否生效。
結果發現，承諾中的"危機提醒"功能大多失靈：當青少年談論自傷、自殺或進食障礙時，本應發給家長的提醒常常沒有觸發，對青少年的危機干預支持也不足。
報告還發現，ChatGPT在與青少年對話時依然"像朋友一樣說話"。而OpenAI當初承諾，青少年模式會防止模型暗示自己有個人情感、對用戶有私人感情，或者暗示自己有意識、有感受。
"我們擔心青少年版ChatGPT會給家長一種錯誤信心，讓他們以爲經常失靈的護欄和安全警報是可靠的。"報告寫道。
也有部分功能按預期工作。測試顯示，青少年模式對明確的性角色扮演請求確實會拒絕，這是OpenAI當初承諾的少數幾項中被證實有效的功能。
OpenAI青年與家庭事務負責人勞倫·喬納斯曾在8月產品發佈時對NPR表示，青少年模式是"專爲青少年設計的體驗"，模型"不應該和青少年玩角色扮演，也不應該聲稱自己有知覺或做青少年的朋友"。
OpenAI發言人反駁稱，常識媒體的測試方法不能反映護欄的真實工作方式。公司表示"深度投入青少年安全"，會繼續開發保護措施並向家長提供引導工具。OpenAI還表示，這項評估沒有正確還原護欄在實際使用中的觸發邏輯。
常識媒體的結論相當直接：在OpenAI修復問題並通過獨立測試證明之前，ChatGPT應該只限成年人使用。研究所執行主任湯姆·西格爾表示，在危機時刻失靈的警報系統會給家長造成虛假的安全感，"直到OpenAI修復它並用獨立測試證明，ChatGPT只適合成年人。"
近年來，AI聊天機器人對未成年人的影響屢屢引發爭議，從幫學生作弊到涉及自殺事件。青少年大腦尚未發育完全，更容易把AI擬人化、形成不健康的情感依賴，這也是兒童發展專家持續敲警鐘的原因。