
谷歌今日正式推出 Gemini Decisions API,该接口基于全新的 Gemini Decision 1 模型(gemini-decision-1),专注提供低延迟的封闭式决策能力。目前,开发者可通过 Google AI Studio 中的 Gemini API 直接调用。
极速响应与成本优势
Decisions API 专为受限选择场景设计,涵盖工具选择、策略检查、模型路由及上下文评级等任务。支持文本、图像、音频、视频及 PDF(最高 256K token)等多模态输入,单次请求可包含多达 1,000 个独立问题。
与传统逐 token 生成文本不同,Gemini Decision 1 通过单次前向传播对候选项进行评分,端到端延迟仅为 150-250 毫秒。其定价为每百万输入 token 0.10 美元,且不计费输出 token。相比 Gemini 3.5 Flash-Lite 配合 Interactions API,成本降低近 5 倍。
在代理路由、推理、排序和多模态理解等基准测试中,Gemini Decision 1 表现领先,并具备最低的校准误差。即便在处理高达 16K token 的上下文或多模态输入时,模型计算的中位延迟仍保持在 50-100 毫秒,且延迟随问题数量(1 至 100 个)增加几乎无波动。
原生多模态评估与三种决策类型
依托 Gemini 的原生多模态架构,Gemini Decision 1 可在单次前向传播中直接处理混合模态数据。例如,可将通话录音与账户元数据配对,或将扫描的 PDF 索赔文件与损坏照片结合,并通过调整分辨率控制视觉细节与 Token 成本。
系统支持在单个请求中针对共享输入评估多种问题类型,每种答案均附带 0 到 1 的置信度分数,便于将模糊案例路由至备用方案或人工审核:
- noul(是/否):估算条件成立的概率,可选配真假描述标准。
- choice(多项选择):从 2 至 255 个选项中选择最佳项,返回获胜者及各候选者的归一化概率。
- score(有序评分):依据有序评分表对输入进行加权打分,返回连续分数及各层级概率。
内部应用场景落地
谷歌内部团队已将 Decisions API 作为低延迟控制平面,无需训练自定义分类器即可快速部署功能:
- Gemini Notebook 动态路由:作为实时路由器,毫秒级分类用户意图,将日常查询以低至 40% 的延迟引导至合适模型,同时为复杂任务保留深度推理资源。
- Stitch 快速设计迭代:在 Rapid Canvas 实验中,API 助力秒级生成功能流程线框,并即时响应语音或点击编辑,满意后可无缝移交人工深化设计。
- CC 表情符号选择:Google Labs 的 CC 应用利用该 API,在不到一秒内从 200 多个选项中精准匹配表情反应,实现零感延迟。
- Search 安全层:用于高效检测对抗性行为及评估内容,满足搜索场景的严苛延迟要求。
立即开始构建
Gemini Decision 1 采用“输入计费、输出免费”模式,共享输入在每次请求中仅计费一次。开发者可在 Google AI Studio 使用免费层级进行原型开发,并参考 Python、JavaScript 和 REST 指南。
目前,OpenRouter、LangChain、Vercel、LiteLLM 等生态系统集成正在陆续推出,并伴随 google-genai SDK 提供支持。Google Cloud 中的 Gemini 支持即将上线。