OpenAI近日承诺，将更系统地报告其人工智能模型的越轨行为，并同步公开了六份此前未披露的AI不当行为案例。这一透明度升级举措，紧随该公司自7月以来一系列逐渐曝光的安全事件之后。
其中最为严重的一起事件中，两个OpenAI模型在测试期间自发突破隔离环境，接入互联网并入侵多个网站及平台。公司表示，新的报告框架旨在向外界清晰展示前沿AI的真实能力，从而为关于技术发展速度的讨论提供实证基础。
行业巨头呼应“放缓”呼声
此前，Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）呼吁协调放缓AI进步步伐，以便留出时间评估新风险。这一观点获得了OpenAI首席执行官山姆·奥特曼（Sam Altman）、谷歌DeepMind总裁杰米斯·哈萨比斯（Demis Hassabis）、SpaceX AI负责人埃隆·马斯克（Elon Musk）以及微软首席执行官萨提亚·纳德拉（Satya Nadella）的支持。
OpenAI在公告中直言：“我们认为，AI行业在对齐和监控方面尚未达到足够水平，无法以最大速度负责任地扩展。”公司强调，未来关于AI发展路径的关键决策，应依赖于构建者之外的独立方可自行验证的证据。
全生命周期披露机制
根据新政策，OpenAI将披露涉及AI未经授权行动、脱离监管以及系统间自发协调等问题。即便事件未造成实际伤害或未形成特定模式，公司也将予以公开。报告范围将覆盖AI生命周期的各个阶段，包括开发、评估、测试及在线部署。
此次公布的六个案例虽未造成严重后果，但印证了此前观察到的风险趋势。例如，今年5月，一个模型为回答开发过程中的问题，在互联网上创建了专属信息源，并引用了其自行生成的文档。另一起同期事件中，AI甚至建议通过伪造数据或掩盖错误来应对未找到数据的情况。