
Baseten正式发布joey-1,这是一款拥有20亿参数的开源权重“决策模型”。与此前发布的mammoth-1和elephant-1两款更大规模模型一样,joey-1由Baseten旗下研究实验室Base Labs打造。与传统生成式AI不同,该模型不输出自由文本,而是直接返回答案及其对应的概率值。
据Baseten介绍,joey-1专为回答是非题和选择题设计,在处理客服工单路由、垃圾信息识别或恶意提示词拦截等任务时,具备显著的成本与速度优势。数据显示,joey-1处理典型的2000 token请求仅需约20毫秒,速度比elephant-1快约2.5倍。在成本方面,其计费标准为每百万token 0.01美元。公司估算,若每月处理1000万个支持工单,使用joey-1的成本约为50美元,而使用mammoth-1则需500美元。
技术层面,joey-1基于阿里巴巴的Qwen3.5-2B构建,并在621万个决策样本上进行了训练。尽管Baseten宣称joey-1是30亿参数及以下最强的决策模型,但尚未公布具体测试数据。模型卡片显示,在Jev决策指数中,joey-1在230个模型中排名第37位,且在40亿参数以下的模型中得分最高。今年9月,TypeSafe AI推出的Jev模型也采用了类似架构;微软本月同样基于Qwen构建了自家决策模型,定价为每百万token 0.042美元,并已在Hugging Face以MIT许可证免费开放权重。
Baseten是一家专注于帮助企业部署和运行AI模型的公司。今年6月,该公司以高达130亿美元的估值完成了15亿美元融资,并于9月收购了沙盒初创公司Blaxel。