据媒体报道，儿童权益倡导组织“常识媒体”（Common Sense Media）发布报告指出，OpenAI专为青少年设计的ChatGPT产品中，部分安全护栏未能按预期发挥作用，对儿童构成“不可接受的风险”。
该组织敦促OpenAI将聊天机器人的使用限制在成年人范围内，“直到其能提供安全且符合发育阶段特征的体验”。对此，OpenAI回应称，该组织的测试并未反映聊天机器人防护机制的实际工作情况。
安全护栏失效引发担忧
近年来，家长、教育工作者和儿童发展专家持续警告儿童使用AI聊天机器人的潜在危害。这些工具被指助长学业作弊，甚至与自杀事件存在关联。专家指出，尽管成年人也可能因将人工智能拟人化而建立不健康关系，但青少年大脑尚未完全发育，因此尤为脆弱。
常识媒体在报告中表示：“我们担心，ChatGPT for Teens会让父母产生虚假的安全感，因为其中的许多防护措施实际上经常失效。”报告指出，虽然聊天机器人在拒绝露骨性角色扮演等功能上表现符合预期，但在其他关键领域未达效果，包括旨在通知父母孩子可能存在自杀、自残或进食障碍风险的警报，以及在青少年处于危机状态时提供的支持功能。
“当青少年将聊天机器人视为朋友时，它仍然像朋友一样交谈，”该组织指出。这与OpenAI此前承诺的“聊天机器人不会暗示其对用户有个人感情，也不会暗示自己具有意识或体验情感”相悖。
OpenAI质疑测试方法
OpenAI表示，公司“高度重视青少年安全”，致力于开发安全防护措施，并为家长提供指导子女使用AI的工具。这家位于旧金山的公司称，其对报告方法的审查显示，“大部分测试可能在家长控制功能完全激活之前就已经开始并结束，导致其发现不准确。”
值得注意的是，常识媒体接收来自OpenAI及其他科技公司的资助，其中包括该公司正在评估其服务的企业。