
英国先进研究与创新署(ARIA)资助的扩展推理实验室将部署Lumai公司的Iris服务器,成为该实验室首个采用光学计算技术的平台。Lumai声称该技术能大幅降低能耗,但相关数据尚未经过独立验证。
扩展推理实验室由非营利组织CommonAI运营,获ARIA提供的5000万英镑资金支持。实验室将在商业数据中心的多台机器上安装并运行Iris服务器,旨在观察其在应对真实AI模型时的功耗和冷却需求表现。验证Lumai的能效数据正是该实验室的核心任务之一。
Lumai于2021年从牛津大学衍生成立,其技术将数据编码为光束,利用光线而非晶体管开关处理AI复杂数学运算,其余部分则由常规电子元件处理。该公司将硬件瞄准AI模型的“预填充”阶段,即模型首次读取用户提示的环节,最终答案仍由普通芯片生成。
Lumai声称,其方法可将数据中心电力消耗降低高达90%;与标准芯片配合使用时,系统每请求的能效至少比纯硅芯片高出16倍。ARIA首席科学与技术官David Lewis评价称:“Lumai的技术是我们评估过的最成熟的光学计算平台。”
光学计算赛道近期动作频频。同样基于牛津大学研究的Salience Labs上月筹集了1.25亿美元用于开发光学交换机。目前,英国初创公司Oriole已入驻该实验室,利用光线连接AI芯片;另一家英国推理芯片初创公司Fractile正在进行估值高达65亿美元的融资。与此同时,英伟达已在数据中心内部的光基连接技术方面投入了数十亿美元。