预计到下月中旬，全球人口将达到约83亿。这一数字远远低于1960年一项预测中“数学上无限增长”的人口数量。这项预测的偏差对当前关于人工智能的辩论具有现实参照意义：它表明，一个模型即便能在多年内精准追踪加速趋势，也未能确立该趋势将无限持续。对失控技术进步的预测面临同样的问题——推动今日增长的潜在条件究竟能维持多久？
双曲增长模型的“末日”预言
海因茨·冯·福斯特（Heinz von Foerster）及其同事曾利用双曲增长模型得出上述预测。与假设恒定百分比增长的指数模型不同，双曲增长假设增长率本身会随人口增加而上升。这种反馈机制导致扩张速度越来越快，最终在有限时间内发散至无穷大。研究人员将这一“奇点”设定为2026年11月13日，并在《科学》杂志发表题为《末日：公元2026年11月13日星期五》的文章，该日期恰好是冯·福斯特的生日。
该预测基于公元1年至1958年的全球人口估算数据。从数据表现看，人类在公元1800年达到10亿人口，1925年翻倍，1975年再次翻倍至40亿，不到50年又增至80亿。间隔期的缩短显示出比指数曲线更快的增长态势。在20世纪60年代和70年代，传统人口预测反复低估了增长，而双曲模型直到70年代末都紧密跟踪了人口变化，因此具备一定可信度。
模型局限与数据偏差
然而，批评者指出该模型在物理上不可行，且未明确考虑经济和技术适应因素。尽管与历史数据拟合良好，但这不能证明人们会在相同条件下继续繁殖。事实上，人口规模与增长率的联系在20世纪60年代中期开始减弱。到了80年代，发达国家进入低于更替生育率时期，发展中国家的人口转型也在加速。总人口虽继续上升，但更大的人口规模不再始终按比例更快地增长。这种区别解释了为何该模型能短期吻合观测值，却失去了长期预测的基础。
经济学家迈克尔·克雷默（Michael Kremer）在1993年重新审视双曲增长，认为其有助于解释追溯至一百万年前的人口历史广泛模式。但加入截至2023年的联合国人口数据后，这一发现变得复杂：新数据削弱了人口规模与增长率之间的正相关性。此外，早期人口水平基于有限的考古证据及假设，单一曲线可能掩盖了新石器时代革命与现代人口爆炸等不同时期的差异。历史时期的选择会极大改变预测结果，正如公元前200年的观察者若外推新石器时代趋势，会错误预测人类在公元1000年左右达到当前规模。
对AI预测的启示
20世纪50年代末，约翰·冯·诺依曼曾讨论加速的技术变革，暗示其可能达到使预测变得不可能的临界点，但未提供具体方程或日期。人口预测的案例说明了实现这一飞跃的难度：观察到的加速可以支持有用预测，但并不证明增长将继续加速。
同样的局限性适用于基于AI扩展定律的预测。无限延伸当前关系可能使爆炸性技术进步看起来不可避免，但这些关系可能仅取决于测量时的特定条件。这并不排除AI取得重大进展的可能性，但意味着快速进步的证据与接近奇点的证据是两回事。