自2022年11月ChatGPT问世以来，人工智能（AI）的发展势头迅猛。行业长期理论化的愿景——基于神经网络的AI通过规模化扩展在能力上超越人类，正随着技术进步逐渐变为现实。
“AI正稳步且快速地进化，终有一天，它能胜任我们所能做的全部事情。无论是任何我能掌握的技能，还是你们能学会的本领，AI都将同样游刃有余。”
以人类为标尺
OpenAI联合创始人、前首席科学家Ilya Sutskever，现任Safe Superintelligence Inc.（SSI）联合创始人兼CEO。他在多伦多大学接受荣誉学位期间发表演讲，深入剖析了当前AI技术的现实状况及未来前景。
Sutskever指出，尽管构建一个由AI承担所有人类工作的未来面临巨大挑战，但人类必须为此做好准备。他强调，即便公众目前对AI关注度有限，但这并不改变AI未来将深刻影响每个人生活的事实。
更令人担忧的是，他暗示假设中的超级智能AI可能在意图上缺乏“诚实性”。这构成了一个亟待应对的存在性风险。
思考机器的演进
超级智能AI的概念源远流长，最早可追溯至英国数学家I.J. Good的开创性论文《关于第一个超智能机器的推测》。
此后，科学界普遍认同这一理论路径：AI的持续进步将催生通用人工智能（AGI）。这种强大的系统能在多领域超越人类，并具备自我改进代码的能力，最终演化为人工超级智能（ASI）。
然而，对于当前主导的基于神经网络的AI系统能否真正通向AGI，学界仍存分歧。许多科学家认为，行业需要突破Google于2017年确立的Transformer架构局限，探索新的技术路径。