torchcast-decision-27b(Based:Startlux)
基于 StartLux-Decision-27B（startlux-models/StartLux-Decision-27B）微调而来，采用 LoRA。Decision Index 0.3 中 public 分最高（65.1，第 1），但 full 分第 4（59.9）——因为它的 same_skills / new_domains 相对弱。典型的「公开榜强、私有集弱」案例，也正好说明为什么选型不该只看公开榜。
Decision Index Full
59.9
第 4 名 · public 65.1
校准 ECE
0.024
越低越好 · Brier 0.284
模型信息
- 厂商
- Torchcast AI
- 类别
- 开源权重
- 参数规模
- 28B
- 基座模型
- startlux-models/StartLux-Decision-27B
- 权重
- 可下载（开源）
- 许可证
- 未标注 许可不明
- 输入模态
- 文本
- 决策原语
- ChoiceNoulScore
- 可微调
- 可以
- 微调方法
- 在 StartLux-Decision-27B 的基础上做 LoRA 微调
- 训练方式
- LoRA
Decision Index 领域得分
知识与推理
69.5
语言理解
89.3
检索与分类
81.1
工具与自动化
95.7
艺术与人类品味
67.7
Decision Index · 42 个基准
| 基准 | 类型 | 该模型 | 全场最佳 | 全场均值 | 对比 | 来源 |
|---|---|---|---|---|---|---|
| ARC-Easy | 混合（Choice | 99.3 | 99.5 | 87.3 | 来源 ↗ | |
| BFCL | 混合（Choice | 97.7 | 98.8 | 80.3 | 来源 ↗ | |
| HellaSwag | 混合（Choice | 97.6 | 98.5 | 72.9 | 来源 ↗ | |
| ARC-Challenge | 混合（Choice | 97.1 | 98.2 | 79.1 | 来源 ↗ | |
| BPoMP | 混合（Choice | 95.4 | 97.0 | 73.5 | 来源 ↗ | |
| WinoGrande | 混合（Choice | 93.8 | 97.5 | 69.7 | 来源 ↗ | |
| CLINC150 | 混合（Choice | 93.5 | 97.4 | 68.2 | 来源 ↗ | |
| FinEntity | 混合（Choice | 93.2 | 97.1 | 73.8 | 来源 ↗ | |
| BANKING77 | 混合（Choice | 91.1 | 94.1 | 69.1 | 来源 ↗ | |
| Home appliances | 混合（Choice | 89.8 | 98.9 | 23.1 | 来源 ↗ | |
| HoVer | 混合（Choice | 89.4 | 89.4 | 63.7 | 来源 ↗ | |
| When2Call | 混合（Choice | 89.0 | 91.7 | 57.9 | 来源 ↗ | |
| MMLU | 混合（Choice | 86.5 | 91.9 | 64.1 | 来源 ↗ | |
| ContractNLI | 混合（Choice | 86.5 | 86.5 | 60.3 | 来源 ↗ | |
| NLI4CT | 混合（Choice | 86.2 | 86.2 | 69.2 | 来源 ↗ | |
| RAGTruth | 混合（Choice | 86.0 | 86.0 | 51.7 | 来源 ↗ | |
| API-Bank | 混合（Choice | 85.2 | 93.1 | 56.2 | 来源 ↗ | |
| VAST | 混合（Choice | 82.0 | 82.0 | 50.2 | 来源 ↗ | |
| BBH | 混合（Choice | 80.7 | 92.9 | 58.2 | 来源 ↗ | |
| RouterBench | 混合（Choice | 79.8 | 80.1 | 73.2 | 来源 ↗ | |
| New Yorker | 混合（Choice | 79.0 | 82.0 | 52.8 | 来源 ↗ | |
| ANLI | 混合（Choice | 78.8 | 98.6 | 53.7 | 来源 ↗ | |
| CRUXEval | 混合（Choice | 78.6 | 87.9 | 50.3 | 来源 ↗ | |
| CLadder | 混合（Choice | 74.5 | 97.7 | 62.3 | 来源 ↗ | |
| SGD | 混合（Choice | 73.4 | 73.4 | 47.8 | 来源 ↗ | |
| MMLU-Pro | 混合（Choice | 70.4 | 82.7 | 42.0 | 来源 ↗ | |
| PhishNChips | 混合（Choice | 70.3 | 99.9 | 61.7 | 来源 ↗ | |
| cfcolor | 混合（Choice | 70.2 | 70.2 | 57.8 | 来源 ↗ | |
| ToolRet | 混合（Choice | 68.4 | 69.1 | 54.9 | 来源 ↗ | |
| MuSR | 混合（Choice | 67.3 | 86.2 | 55.8 | 来源 ↗ | |
| GSM8K | 混合（Choice | 64.7 | 83.5 | 35.7 | 来源 ↗ | |
| Humicroedit | 混合（Choice | 62.6 | 75.1 | 57.2 | 来源 ↗ | |
| Amazon ESCI | 混合（Choice | 61.6 | 61.6 | 40.7 | 来源 ↗ | |
| Habermas | 混合（Choice | 60.3 | 71.8 | 42.3 | 来源 ↗ | |
| ACOS | 混合（Choice | 57.3 | 57.3 | 14.6 | 来源 ↗ | |
| GPQA Diamond | 混合（Choice | 51.5 | 78.3 | 37.5 | 来源 ↗ | |
| POP909 | 混合（Choice | 50.8 | 74.6 | 12.5 | 来源 ↗ | |
| BRIGHT | 混合（Choice | 50.7 | 50.9 | 35.9 | 来源 ↗ | |
| iSarcasmEval | 混合（Choice | 50.1 | 71.0 | 38.2 | 来源 ↗ | |
| ChessBench | 混合（Choice | 18.1 | 40.2 | 14.1 | 来源 ↗ | |
| SATA-Bench | 混合（Choice | 15.0 | 37.2 | 20.2 | 来源 ↗ | |
| HLE | 混合（Choice | 13.4 | 20.4 | 12.3 | 来源 ↗ |