在关于人工智能引发灾难的争论中，Anthropic处于风暴中心，而其联合创始人兼首席科学官Jared Kaplan则是核心人物。
去年年底，Kaplan发出警示：若前沿开发者让AI发展到能够完全自主训练的程度，后果尚不可知。他指出，这一过程可能引发“智力爆炸”，但也构成“终极风险”，甚至是“可能做出的最可怕决定”。他预测，这一关键节点可能在2027年至2030年间到来。
目前，行业正大致按此轨迹推进。随着2026年接近尾声，在Anthropic和OpenAI的帮助下，最先进的AI系统已开始在模型构建中协助研究人员。
作为从物理学转型的AI研究员，Kaplan于2021年离开OpenAI，与CEO Dario Amodei等人共同创立Anthropic。身为首席科学官，他负责监督技术研究、AI安全及公司的“负责任扩展政策”，其职责正是降低强大AI带来的风险。他对AI失控的担忧，赋予了其在科技界极具影响力的权威地位。
越来越多的人开始重视Kaplan的警告。本月早些时候，从Anthropic辞职的研究员Jacob Coxon在引发广泛关注的社交媒体帖子中直指AI自主训练问题，称OpenAI和Anthropic正在“拿生命赌博”。民调显示，约三分之二美国人认为AI存在毁灭人类的风险。这一讨论也已波及华盛顿，立法者提出新法案并重新关注AI长期安全问题。前Anthropic工程师、AI安全非营利组织Palisade Research创始人Jeffrey Ladish表示，在与立法者会面时，他反复引用Kaplan的观点，特别是AI自主训练可能导致失控的风险。
Ladish认为，让专注于解决问题的工程师和研究人员的观点被更多人听到，是一件好事。
尽管已成为亿万富翁，Kaplan仍保持低调的公众形象，公司也拒绝安排其接受采访。但共事过的研究人员称，他在Anthropic内部发挥着重要的领导作用。
Kaplan与Amodei的早期渊源
AI是Kaplan的第二职业。在哈佛大学攻读物理学及普林斯顿大学生物物理学研究生期间，他结识了Amodei。两人曾拼车参加活动，并就慈善评估机构GiveWell建立联系，随后成为朋友，甚至在旧金山短暂同居。
彼时，Kaplan已展露潜力。他曾合著颇具影响力的物理学论文《通胀的有效场论》，并在门洛帕克的能源部实验室及斯坦福大学工作，2012年加入约翰斯·霍普金斯大学教职团队。
其在哈佛的导师Nima Arkani-Hamed回忆，Kaplan的优势在于追随“宏大概念点”的发展路径，这为他转向AI领域奠定了基础。Arkani-Hamed指出，这种风格非常适合一个全新且充满“唾手可得成果”的领域。Kaplan曾在采访中总结自己的方法：“我想在基本层面上感到困惑；我们在问正确的问题吗？”
从物理学走向AI前沿
2010年代末，随着包括Amodei在内的更多朋友讨论AI，Kaplan开始与其他物理学家一起学习该技术，并以顾问身份为OpenAI研究做出贡献。
2020年，Kaplan主导发布了标志性论文《神经网络语言模型的缩放定律》，证明更大模型能产生更好结果，为随后的AI热潮奠定基本范式。同年，他还参与推出了成为ChatGPT基础的大语言模型GPT-3。
尽管OpenAI当时正作为研究实验室崭露头角，但Kaplan、Amodei等人认为需要为“人类将控制权移交给变革性AI”的时刻做好准备。2021年，他们共同创立了Anthropic。Arkani-Hamed透露，Kaplan更担心的是确保AI不会对社会造成伤害，而非其对物理学的影响。
AI发展的巨大赌注
目前，“缩放定律”依然有效，前沿实验室通过增加数据和算力推进AI能力。Anthropic借此接近完成巨额首次公开募股（IPO）。
这一财务里程碑之际，Kaplan关于AI自主训练危险性的观点再度受到关注。Amodei近期撰文表示，领先实验室应“控制节奏”发展。他指出，自今年夏天起，AI进步速度急剧加快，主要驱动力是AI日益增强的构建下一代AI的能力。若不加以限制，可能会超出人类理解和控制这些系统的能力，因此必须极其谨慎地推进。
曾在Anthropic对齐科学团队工作的David Duvenaud回忆，Kaplan在展示实验时表现得理智且易于交流。如今，Duvenaud对允许AI自动改进自己感到“忐忑不安”。他表示，看到公司领导呼吁设置“关闭开关”，表明他们严肃对待进程失控的风险。“无论如何，这都是一种疯狂的赌注，即使是由最理智的人类来运行它。”