面对工作中转瞬即逝的灵感与杂乱无章的待办事项,传统语音输入工具往往只解决了打字速度问题,却未能真正理解用户意图。为此,一套完全本地化的语音转任务系统应运而生,旨在从噪音中提炼核心信息,将碎片化思绪转化为结构化任务。

双模型协作:聆听与理解的分离

该系统摒弃了单一模型包揽所有工作的思路,采用 Whisper 与 Qwen 双模型协作架构。Whisper 负责在本地将语音转录为文本,随后通过 llama.cpp 运行的 Qwen 模型解读真实意图。这种分工使得系统能在 RTX 4070 Ti 显卡(12GB 显存)上高效运行,其中经过 Q4_K_M 量化的 Qwen 3.5-9B 模型配合 Whisper,总显存占用仅为 7GB。

为确保准确性,大语言模型(LLM)仅负责提取任务并推断预期时间,返回结构化数据,而具体的日期计算则由确定性代码完成。例如,语音指令“为周末派对订购零食、打扫房子并清洗空气炸锅”会被自动拆解为三个独立项目,并按时间顺序排序,避免了 LLM 在处理时间概念时的不确定性。

极简架构:单一文件封装与 CPU/GPU 分工

为解决初期流程繁琐、多窗口切换的问题,开发者将所有功能封装进一个单一的 Python 文件中。该程序集成服务器启动、Whisper 引擎连接、录音启用及 GUI 展示功能,待办事项以可拖放的便利贴形式呈现,极大提升了可用性。

在算力分配上,系统采取务实策略:Whisper 转录任务交由 CPU 处理,仅需数秒即可完成短语音备忘;GPU 则专注于加载和驻留 Qwen 模型。此外,系统支持模型卸载功能,可在闲置时释放 GPU 资源,并在需要时自动重启服务。

本地部署:隐私优先与去订阅化

坚持本地部署的核心动机在于数据隐私与成本控制。所有思维数据均保留在本地机器,无需通过云 API 传输,也避免了月度订阅费用。尽管系统偶有名字误听或 GPU 预热延迟的情况,但相较于其带来的效率提升与隐私保障,这些权衡完全可以接受。在当前阶段,这种专用的双模型架构已能充分满足需求。