
AI工程师Divyansh Agrawal展示了实验性项目“Qwenputer”。该项目将Qwen 3.5 4B大语言模型与32位RISC-V CPU进行融合,后者经编译后直接嵌入模型权重中。在实际运行中,Qwenputer无需依赖任何外部运行时环境或工具调用,即可执行处理器算术运算,甚至在其内置CPU上运行C语言和MicroPython代码。此外,它还能运行游戏《毁灭战士》(Doom),尽管速度较慢。
架构创新:以“快速权重”模拟RAM
Qwenputer的实现引入了一些新颖的技术方案。开发者利用Qwen的Gated DeltaNet (GND) 状态充当随机存取存储器(RAM)。Agrawal称这是一个“相当巧妙的技巧”。虽然将“快速权重”用作RAM并非全新概念,但以这种方式修改Qwen 3.5尚属首次尝试。
与传统大模型训练不同,植入“CPU”不涉及任何训练过程。该RISC-V CPU实现位于Qwen架构的前11个Transformer层之前,其权重均非学习所得,而是由编译器逐一计算生成。Agrawal表示,Qwenputer内置CPU已通官方的riscv-tests测试,程序表现与qemu模拟器一致,并在自由运行状态下无错误执行了1800万条指令。
功能扩展:内置文件系统与持久化存储
开发者强调,Qwen利用这一内置CPU发送指令并读取结果,全程无需外部工具介入。这不仅克服了大多数大语言模型在算术计算上的弱点,提供了精确结果,还实现了在LLM内部直接运行代码的能力。
在此基础上,Agrawal进一步为Qwenputer配备了文件系统。得益于已有的RAM结构,这一扩展相对简便,存储同样利用DeltaNet状态实现。系统拥有1,024个插槽,最多可容纳512个文件。若在对话结束时保存状态,这些存储数据可实现持久化。
资源需求与开源获取
由于资源占用增加,Qwenputer使底层Qwen 3.5 4B模型的体积翻倍,达到近19GB。Agrawal建议,测试当前版本的工作站至少需配备24GB显存。目前,团队正致力于优化编码效率并提升运行速度。
该项目属于实验性质,旨在探索大模型能力的边界,而非解决特定实际问题。尽管如此,这种定制化大模型的构建提出了有趣的概念,并展现出潜在的应用前景。相关代码已在GitHub上以MIT许可证开源,模型文件也可从Hugging Face下载供开发者上手体验。