推理规模扩张,数据足迹呈指数级增长

传统AI基础设施讨论多聚焦于计算密集型的模型训练。训练具有明确的起止边界,属于可预算、可归档的项目制任务;而推理则是持续发生的常态化负载,每次响应请求都会在后台留下数据痕迹,且永不“退休”。

以AI生成视频为例,其后端开销远超用户感知。内部数据显示,一个最终输出为3.97MB的720p、8秒视频片段,会在后端产生包括日志、缓存上下文、即时渲染、备份及安全记录在内的超过500MB数据。这一后端数据量是前端输出文件的130倍。若扩展至企业级高分辨率、长时长视频生成场景,单个片段的后端数据足迹将激增至数百GB。

这一趋势正在加速。麦肯锡预测,到2030年,AI推理需求的年复合增长率(CAGR)将达35%,高于训练需求的22%。届时,推理负载将占据数据中心总需求的40%以上。

全球调查数据印证了这一压力。近95%的IT及商业决策者表示,过去12个月内生成式AI导致数据量增加,其中约61%的企业数据增幅超过25%。某超大规模云服务提供商高级产品经理指出:“增加存储实质上是保持GPU忙碌的优化手段。”GPU空闲数小时即会产生高昂成本,若存储支出以25%的年增速扩张,终将突破预算红线。

存储架构需适配AI数据全生命周期

与随训练周期和硬件刷新波动的计算需求不同,数据留存具有累积性。即便计算负载放缓,模型日志、合成输出及推理结果仍在不断堆积,且保留周期日益延长。

数据的角色随之重构。曾经沉睡于归档系统中的信息,正转变为未来AI工作负载的关键输入。随着数据被频繁保留、检索和重用,存储系统不仅需扩容,更需支持动态访问。调查显示,96%的受访者预计需要更快的归档检索速度,以支撑推理或检索增强生成(RAG)应用。

面对兼顾性能与容量的双重挑战,硬盘驱动器(HDD)凭借显著的每TB成本优势,成为承载海量长期保留数据的高性价比基础设施。