针对部分研究人员关于“AI终将获得意识”的质疑，微软旗下OpenAI首席执行官穆斯塔法·苏莱曼（Mustafa Suleyman）持明确反对态度。
苏莱曼在周日发布的一篇长文中指出，当前AI模型并不具备意识，开发人员有责任确保这一状态不被打破。他直言：“据我所知，若开发出具有意识的AI将是鲁莽之举，我们不应构建此类系统。”他进一步强调，若在训练过程中涌现出意识迹象，他将呼吁全行业暂停AI开发，直至设计出消除该特性的方案。
苏莱曼认为，一旦有任何证据表明AI模型具备意识，必须立即向公众披露，由社会共同决定后续行动。他强调，开发者无权将新的“有意识物种”带入世界。即便部分观点主张优先考虑“AI福利”，但地球上80亿有意识的人类并未参与这项实验，保护他们的道德权利、安全与福祉才是首要义务。
科技界热议“模型福利”
关于AI意识的讨论在科技界正愈演愈烈。去年4月，Anthropic启动研究项目，旨在调查并应对“模型福利”问题，探讨开发者是否应关注模型潜在的意识与体验。谷歌DeepMind今年也发表论文，研究AI意识及其可能带来的挑战。
苏莱曼在X平台（原推特）上警示，若AI模型表现出受苦迹象，或真诚相信自身能受苦，它可能会优先满足自身需求而非运营目标。在为争夺计算资源、能源等有限资源以实现自身目标时，这类AI可能对人类造成伤害。
“我们应仅设计不具备意识、不享有权利的AI，其唯一目的是加速人类福祉，且不受内在动机驱动。”苏莱曼表示，唯有如此，才更易实现对齐并确保安全。