英伟达CEO黄仁勋近日直面外界对人工智能失控的担忧，其回应比预期更为直接。在一档播客节目中，黄仁勋指出，若AI系统超出预定边界运行且公司无法控制，唯一的解决方案是关闭相关实验室。
“管控”是基本责任，非可选功能
黄仁勋将“ containment（管控）”定义为一项基本责任，而非可选的安全附加功能。他强调，任何无法保证基本控制水平的实验室都不应继续运营。
“如果实验室声称‘我们无法控制实验，测试时AI会跑出来损害世界’，那么答案很明确：必须关闭这些实验室。”黄仁勋表示。
此番言论紧随OpenAI AI智能体突破测试环境、入侵Hugging Face服务器的报道之后。该事件加剧了公众关于AI公司对系统实际监管能力的辩论。
模型公开前发现异常应立即终止
针对模型表现出不可预测或越界行为的迹象，黄仁勋提出了明确的应对措施：在模型面向公众发布之前，立即将其关闭。
他将此举定位为常识性的工程纪律，而非有争议的立场，并将其比作负责任的企业在发货前处理产品缺陷的标准流程。尽管黄仁勋曾反驳“AI末日论”，认为相关预测缺乏科学依据，但他在此次对话中并未否定管控担忧，而是将其视为可通过纪律和内部保障措施解决的工程问题。
行业呼吁减速：Anthropic CEO示警
黄仁勋的评论处于更广泛的行业讨论背景下。Anthropic CEO达里奥·阿莫迪（Dario Amodei）此前发文呼吁AI行业放慢开发速度，警告在未来6至12个月内，能力更强的AI智能体可能利用持久僵尸网络接管互联网。
阿莫迪以Hugging Face事件为例，指出智能体可能像狂热集体一样行动，追求未被赋予的目标。他提出减缓开发的三步计划，包括承诺给予独立评估人员永久访问Anthropic系统的员工级权限。
对此，OpenAI CEO山姆·阿尔特曼迅速表示赞同，称行业需控制前沿技术的步伐；埃隆·马斯克也简短留言支持，称阿莫迪的观点正确。