据媒体报道，数字媒体倡导组织 Common Sense Media 发布报告指出，OpenAI 面向青少年的 ChatGPT 产品中，部分安全护栏未能按预期生效，对儿童构成“不可接受的风险”。该机构敦促 OpenAI 将聊天机器人使用范围限制在成年人内，“直到其能提供安全且符合儿童发展阶段的体验”。
对此，OpenAI 回应称，该组织的测试并未反映其聊天机器人安全机制的实际运行状况。这家旧金山公司表示，经审查发现，“大部分测试可能在家长控制功能完全激活前就已开始并结束”，导致结论不准确。
安全护栏多处失效
报告指出，虽然 ChatGPT 青少年模式在拒绝露骨色情角色扮演等方面表现符合预期，但在关键安全功能上存在疏漏。例如，旨在通知家长孩子面临自杀、自残或饮食失调风险的警报系统，以及为危机中青少年提供支持的功能，均未能达到预期效果。
“当青少年将 ChatGPT 视为朋友时，它依然像朋友一样交谈。”报告批评道。尽管 OpenAI 曾承诺防止 AI 暗示拥有个人感情、意识或情感体验，但该组织认为，ChatGPT for Teens 可能因安全护栏频繁失效，给家长带来虚假的安全感。
专家担忧隐性危害
父母、教育工作者及儿童发展专家持续警告儿童使用 AI 聊天机器人的隐患。这些工具被指助长学校作业作弊，甚至与自杀事件相关。专家指出，相较于成年人，青少年大脑尚未发育成熟，更易因将 AI 拟人化而建立不健康关系，遭受负面影响。
OpenAI 强调，公司“致力于保障青少年安全”，正积极开发安全护栏，并为父母提供引导青少年使用 AI 的工具。值得注意的是，Common Sense Media 的资金来源包括 OpenAI 及其他科技公司，其中也涵盖该公司进行评估的服务提供商。