理应资讯
企业经营智能化

Baseten 旗下 Base Labs 发布决策模型 mammoth-1 与 elephant-1:不生成文字,直接给出每个选项的概率

理应编辑室 ·

Baseten 旗下 Base Labs 发布 27B 的 mammoth-1 与 9B 的 elephant-1 两款开源决策模型,输入一段内容和若干问题即返回各选项概率,可一次完成客服工单的分组、是否退款与紧急程度判断,10 月 21 日起已上线 Baseten Model APIs。

X 用户“果汁哥”介绍了 Baseten 旗下研究团队 Base Labs 新发布的两款开源模型:27B 参数的 mammoth-1 和 9B 参数的 elephant-1。它们的特别之处在于“只做选择题”,不生成文字,给一段内容再附上几个问题,模型直接返回每个选项的概率。帖子举的例子是一张客服工单:该转给哪个组、是否需要退款、客户有多急,一次请求就能全部问完。该帖还称两款模型可免费使用到下周二,这一点在 Baseten 公开的更新日志和文档中未见说明。

根据 Base Labs 的技术文章和 Baseten 模型库页面,两款模型分别由 Qwen3.5-9B 和 Qwen3.5-27B 全量微调而来,采用 MIT 许可证,属于近来兴起的“决策模型”形态:支持多选、是/否和有序评分三类问题,用于分类、路由和打分。全注意力层改用块状双向注意力,让每个问题都能参考自己的候选项;多问题共享同一段输入前缀缓存。由于输出的是每个选项的概率,业务系统可以自行设定阈值,低于阈值时转人工复核,而不必再解析一段生成的文字。

Base Labs 称训练数据混合了 621 万条样本,是团队尝试的第八版配比。按其公布的成绩,mammoth-1 在 Jev Decision Index 上以 71.24 分排名第一(共 208 个模型),在其复现的 Artificial Analysis 决策指数上得 65.9 分,elephant-1 得 65.2 分,官方给出的 d1-ultra 成绩为 65 分。以上均为开发方自报结果。

Baseten 更新日志显示,两款模型已于 10 月 21 日接入 Baseten Model APIs,通过 System One 接口调用,请求中用 state 字段放待判断的文本、questions 字段定义问题。官方示例正是把“我的订阅被重复扣费,请退还重复的费用”这类请求路由到账单或技术支持团队。对客服、风控和内容审核等需要大量结构化判断的企业流程来说,这类模型把“让大模型写答案再解析”换成了“直接拿概率做决策”。

flowchart LR
  T[客服工单文本 state] --> M[mammoth-1 / elephant-1]
  Q1[问题: 转哪个组] --> M
  Q2[问题: 是否退款] --> M
  Q3[问题: 紧急程度] --> M
  M --> P[每个选项的概率]
  P -->|高于阈值| A[自动路由]
  P -->|低于阈值| H[转人工复核]
# Baseten# Base Labs# 决策模型# 客服工单路由# 开源模型