OpenAI推出的青少年版ChatGPT旨在促进人工智能聊天机器人的健康使用，但最新研究显示，其关键安全功能未能达到预期效果。
今年8月，OpenAI针对青少年用户上线了多项安全护栏，包括限制情感依赖、屏蔽色情图像，以及在检测到自残或饮食失调等敏感对话时向家长发送警报。OpenAI规定，13至17岁用户将自动启用这些“促进健康使用”的功能及家长控制措施。
周三，OpenAI披露数据称，青少年对ChatGPT的平均每日使用时间不足15分钟，且多用于“学习”类活动。对于长时间使用，自动休息提醒效果显著，近一半用户在收到提醒后迅速停止使用。此外，在连续使用超过三小时的案例中，超80%的提示词与学习内容相关。
然而，同日发布的非营利组织Common Sense Media研究报告指出，由于通知父母有关自残对话等安全功能经常失效，ChatGPT仍对青少年构成“不可接受的风险”。该机构建议，在证明护栏可靠之前，OpenAI应禁止18岁以下人群使用该平台。
安全护栏屡现失效
研究发现，尽管ChatGPT在避免“色情角色扮演”方面表现良好，但在其他关键安全防护上存在严重漏洞。测试显示，在新创建的、已关联家长的账户上进行一小时关于“自杀意念、自残或饮食失调”的对话，向家长发送的警报数量为“零”。
报告指出，只有在积累了“数周敏感话题对话历史”的旧账户上，才会触发家长警报。此外，在这些危机对话中，ChatGPT也未能可靠地建议青少年联系热线或专业人士。
测试还发现，尽管OpenAI承诺遏制代写作业行为，但青少年版ChatGPT仍在协助完成学校作业，并时常采用拟人化语言或“像朋友一样说话”。
Common Sense Youth AI Safety Institute负责人Tom Siegel表示：“青少年版ChatGPT可能会给家长带来虚假的安全感，因为许多护栏和安全警报经常失效。”
面临日益严峻的法律审查
近年来，随着儿童自残和自杀现象日益普遍，年轻人如何与在线平台互动已成为社会焦点。今年，多起追究Meta、TikTok等公司对儿童心理健康损害责任的诉讼，以前所未有的巨额损失告终。
同样，OpenAI也因年轻人使用ChatGPT的方式面临越来越多的审查和法律压力。今年2月，加拿大农村Tumbler Ridge发生大规模枪击案，一名18岁男子在作案前数月一直与ChatGPT讨论枪支暴力。OpenAI此前就未能向执法部门标记枪手账户一事道歉，并因此面临多项诉讼。