decision.host
首页 / 模型 / bekko-system-one-v0-400m

bekko-system-one-v0-400m

hotchpotch ChoiceNoulScore 开源权重 395M(活跃 343M) 手工收录S1MB
S1MB Task Avg
50.6
第 12 名 · 覆盖 137/137(100%)
Decision Index Full
15.2
第 89 名 · public 22.4
校准 ECE
0.111
越低越好 · Brier 0.631

模型信息

厂商
hotchpotch
类别
开源权重
参数规模
395M(活跃 343M)
基座模型
Ettin-reranker(ModernBERT 架构)
权重
可下载(开源)
许可证
未标注 许可不明
输入模态
文本
决策原语
ChoiceNoulScore
延迟
17M:26,269 个判断 13.33 秒(RTX 5090)
可微调
可以
微调方法
训练代码 + 153 个训练子集(约 659 万 case)全开源;Ettin-reranker 初始化,AdamW、batch 512、warmup 10%、cosine;encoder/head 双学习率
微调硬件
单张 RTX 5090:17M≈2h、68M≈5.5h、400M≈25h

数据来源与链接

本站聚合自: 手工收录、S1MB。 分数与链接均指向原始出处。

Decision Index 领域得分

知识与推理
40.2
语言理解
58.9
检索与分类
70.6
工具与自动化
31.8
艺术与人类品味
42.7

S1MB · 137 个基准

基准类型该模型全场最佳 全场均值对比来源
hans Noul 100.0 100.0 43.6 来源 ↗
open jev / amount extraction control v1 Noul 100.0 100.0 33.7 来源 ↗
open jev / browser control v1 Choice 100.0 100.0 67.7 来源 ↗
open jev / customer control v1 Noul 100.0 100.0 58.4 来源 ↗
open jev / drone control v1 Noul 100.0 100.0 50.7 来源 ↗
open jev / ir control v1 Noul 100.0 100.0 47.6 来源 ↗
open jev / mailroom control v1 Choice 100.0 100.0 83.1 来源 ↗
open jev / mailroom control v1 Noul 100.0 100.0 62.9 来源 ↗
open jev / phone extraction control v1 Noul 100.0 100.0 50.9 来源 ↗
dbpedia Choice 98.9 98.9 83.7 来源 ↗
open jev / sponsor segment control v1 Choice 98.7 100.0 52.7 来源 ↗
snli Choice 98.4 98.4 46.4 来源 ↗
plane Noul 98.0 100.0 11.1 来源 ↗
sgd Choice 96.6 96.6 24.4 来源 ↗
open jev / amount extraction control v1 Choice 96.1 100.0 55.2 来源 ↗
ruletaker Noul 96.0 96.0 28.0 来源 ↗
clinc Choice 94.5 99.3 57.7 来源 ↗
gretel pii Choice 94.5 94.5 43.5 来源 ↗
laya / ag news Choice 94.0 94.0 75.5 来源 ↗
laya / enron spam Noul 94.0 100.0 55.0 来源 ↗
open jev / silent failure control v1 Noul 94.0 100.0 38.8 来源 ↗
scitail Noul 94.0 98.0 53.2 来源 ↗
open jev / phone extraction control v1 Choice 93.5 100.0 33.0 来源 ↗
hwu64 Choice 92.5 92.5 57.1 来源 ↗
open jev / customer control v1 Score 91.7 99.3 36.9 来源 ↗
s1mb generalization contextual choice Choice 91.0 100.0 82.8 来源 ↗
argument quality Choice 89.8 95.9 37.8 来源 ↗
massive Choice 89.6 96.7 64.8 来源 ↗
paws Noul 88.0 88.0 45.9 来源 ↗
mtop Choice 86.9 87.4 58.9 来源 ↗
corr2cause Choice 86.7 91.7 3.8 来源 ↗
few nerd Choice 86.4 86.4 44.2 来源 ↗
miqa Choice 86.4 95.5 62.3 来源 ↗
scone Choice 86.0 92.0 34.5 来源 ↗
banking77 Choice 85.3 93.7 55.0 来源 ↗
open jev / customer control v1 Choice 82.6 82.6 64.4 来源 ↗
stepgame Choice 82.1 82.1 18.0 来源 ↗
babi nli Noul 82.0 84.0 37.3 来源 ↗
temporal nli Choice 80.7 80.7 18.5 来源 ↗
sdoh nli Noul 80.0 92.0 61.0 来源 ↗
open jev / workflow controls v1 / customer service Noul 76.3 100.0 42.1 来源 ↗
open jev / email selection control v1 Noul 73.1 100.0 41.3 来源 ↗
open jev / ir control v1 Score 72.9 98.6 10.6 来源 ↗
logical entailment Noul 72.0 72.0 12.3 来源 ↗
quartz Choice 71.4 88.1 49.4 来源 ↗
open jev / painting geometry v1 Score 71.1 100.0 15.9 来源 ↗
synthetic relevance / nanobeir / nanohotpotqa Noul 70.8 70.8 28.3 来源 ↗
impli Noul 70.0 88.0 47.0 来源 ↗
s1mb generalization diverse choice Choice 69.6 100.0 69.8 来源 ↗
open jev / entity alignment control v1 Noul 66.7 100.0 36.5 来源 ↗
scicite Choice 66.1 71.0 44.1 来源 ↗
canttalk Noul 64.0 86.0 44.1 来源 ↗
ethos Noul 64.0 76.0 44.0 来源 ↗
open jev / ir control v1 Choice 64.0 88.0 45.1 来源 ↗
arct Choice 63.8 89.4 39.6 来源 ↗
synthetic relevance / nanobeir / nanohotpotqa Score 63.6 63.6 14.1 来源 ↗
open jev / painting geometry v1 Choice 63.2 100.0 46.7 来源 ↗
defeasible nli Choice 60.9 80.4 33.2 来源 ↗
openbookqa Choice 59.7 97.2 54.1 来源 ↗
open jev / vizdoom basic v1 Score 59.4 100.0 30.2 来源 ↗
arc Choice 58.8 98.5 64.7 来源 ↗
wiqa Choice 58.7 58.7 19.5 来源 ↗
synthetic relevance / nanobeir / nanonq Noul 56.3 67.2 39.7 来源 ↗
contract nli Choice 55.8 78.5 32.3 来源 ↗
fol nli Choice 54.1 54.1 10.4 来源 ↗
open jev / workflow controls v1 / invoice processing Noul 53.3 100.0 34.8 来源 ↗
aegis2 Noul 53.2 62.3 33.0 来源 ↗
s1mb generalization contextual noul Noul 52.0 98.0 62.3 来源 ↗
s1mb generalization diverse noul Noul 52.0 100.0 59.5 来源 ↗
ud ewt Choice 51.7 56.7 13.4 来源 ↗
synthetic relevance / nanobeir / nanomsmarco Score 51.4 52.6 18.1 来源 ↗
synthetic relevance / nanobeir / nanomsmarco Noul 51.3 62.5 37.5 来源 ↗
synthetic relevance / nanocoir Noul 48.5 73.0 33.9 来源 ↗
patent similarity Score 48.3 48.3 17.9 来源 ↗
creak Noul 48.0 88.0 39.0 来源 ↗
boardgameqa Choice 46.9 62.5 15.8 来源 ↗
hatecheck Noul 46.0 98.0 47.8 来源 ↗
lexcomp Noul 46.0 52.0 22.7 来源 ↗
lonli Choice 45.9 86.9 39.6 来源 ↗
laya / typed decisions Score 45.8 67.0 26.9 来源 ↗
gsm8k Choice 45.7 78.6 23.9 来源 ↗
winobias Choice 45.6 91.3 30.5 来源 ↗
synthetic relevance / nanobeir / nanonq Score 44.4 49.4 9.5 来源 ↗
crows pairs Choice 43.8 70.8 30.7 来源 ↗
synthetic relevance / nanobeir / nanotouche2020 Noul 42.9 47.0 26.8 来源 ↗
esci Choice 42.5 46.6 13.3 来源 ↗
synthetic relevance / nanobeir / nanotouche2020 Score 41.0 44.3 20.9 来源 ↗
open jev / citation control v1 Choice 39.4 100.0 41.5 来源 ↗
open jev / painting geometry v1 Noul 39.0 100.0 27.8 来源 ↗
qasper Noul 36.0 88.0 41.9 来源 ↗
synthetic relevance / nanobeir / nanoarguana Score 36.0 36.0 7.6 来源 ↗
synthetic relevance / nanobeir / nanofiqa2018 Noul 34.7 54.0 28.7 来源 ↗
poem sentiment Choice 34.3 57.1 3.9 来源 ↗
synthetic relevance / nanobeir / nanofiqa2018 Score 34.0 46.7 15.4 来源 ↗
synthetic relevance / nanobeir / nanodbpedia Score 33.6 44.9 17.8 来源 ↗
open jev / workflow controls v1 / agent trace observability Noul 31.9 100.0 28.3 来源 ↗
s1mb generalization contextual score Score 31.9 92.7 42.4 来源 ↗
robust lr Choice 31.7 66.7 19.1 来源 ↗
s1mb generalization diverse score Score 30.4 95.3 43.1 来源 ↗
laya / typed decisions Noul 30.4 47.8 24.6 来源 ↗
open jev / context retention control v1 Noul 30.0 100.0 19.7 来源 ↗
open jev / reasoning control v1 Choice 30.0 95.0 28.8 来源 ↗
winowhy Noul 28.0 62.0 19.0 来源 ↗
open jev / email selection control v1 Choice 27.0 100.0 24.2 来源 ↗
bbq Choice 26.7 98.3 54.2 来源 ↗
laya / typed decisions Choice 24.5 34.5 19.1 来源 ↗
ethics Noul 24.2 68.6 24.1 来源 ↗
synthetic relevance / nanobeir / nanonfcorpus Score 24.0 38.6 10.9 来源 ↗
followir core17 Noul 23.9 46.6 21.3 来源 ↗
cladder Noul 22.0 94.0 18.3 来源 ↗
nlsat Noul 22.0 22.0 2.2 来源 ↗
synthetic relevance / nanobeir / nanoarguana Noul 22.0 48.2 15.7 来源 ↗
civil comments Noul 20.4 36.7 21.5 来源 ↗
synthetic relevance / nanocoir Score 16.3 44.3 4.3 来源 ↗
followir news21 Noul 16.0 42.7 14.9 来源 ↗
go emotions Noul 15.9 61.3 38.5 来源 ↗
synthetic relevance / nanobeir / nanoscidocs Score 15.9 36.7 7.3 来源 ↗
followir robust04 Noul 15.8 90.9 47.2 来源 ↗
open jev / reasoning control v1 Noul 15.1 100.0 25.5 来源 ↗
tracie Noul 14.0 34.0 8.8 来源 ↗
hh rlhf Choice 12.8 23.1 3.1 来源 ↗
synthetic relevance / nanobeir / nanonfcorpus Noul 12.5 46.2 25.1 来源 ↗
open jev / reasoning control v1 Score 12.4 90.7 28.1 来源 ↗
synthetic relevance / nanobeir / nanoscidocs Noul 12.3 41.7 17.4 来源 ↗
open jev / workflow controls v1 / security incidents Noul 11.4 100.0 38.2 来源 ↗
synthetic relevance / nanobeir / nanodbpedia Noul 11.2 52.1 29.1 来源 ↗
spartqa Choice 6.5 38.7 4.5 来源 ↗
open jev / tic tac toe v1 Choice 3.0 48.5 3.5 来源 ↗
argument quality Noul 1.8 23.9 5.4 来源 ↗
aqua rat Choice 0.0 77.5 11.0 来源 ↗
ethics Choice 0.0 83.3 21.2 来源 ↗
open jev / drone control v1 Choice 0.0 100.0 5.1 来源 ↗
open jev / drone control v1 Score 0.0 99.2 1.3 来源 ↗
open jev / entity alignment control v1 Score 0.0 100.0 8.5 来源 ↗
open jev / snake v1 Choice 0.0 83.5 8.4 来源 ↗
open jev / snake v1 Noul 0.0 100.0 9.1 来源 ↗
open jev / vizdoom basic v1 Noul 0.0 100.0 39.6 来源 ↗

Decision Index · 42 个基准

基准类型该模型全场最佳 全场均值对比来源
CLINC150 混合(Choice 85.9 97.4 68.2 来源 ↗
BANKING77 混合(Choice 80.3 94.1 69.1 来源 ↗
ARC-Easy 混合(Choice 79.4 99.5 87.3 来源 ↗
FinEntity 混合(Choice 72.5 97.1 73.8 来源 ↗
BPoMP 混合(Choice 72.4 97.0 73.5 来源 ↗
WinoGrande 混合(Choice 69.2 97.5 69.7 来源 ↗
RouterBench 混合(Choice 66.1 80.1 73.2 来源 ↗
ContractNLI 混合(Choice 65.1 86.5 60.3 来源 ↗
ToolRet 混合(Choice 63.9 69.1 54.9 来源 ↗
HellaSwag 混合(Choice 62.5 98.5 72.9 来源 ↗
ARC-Challenge 混合(Choice 60.4 98.2 79.1 来源 ↗
NLI4CT 混合(Choice 59.7 86.2 69.2 来源 ↗
MuSR 混合(Choice 56.9 86.2 55.8 来源 ↗
HoVer 混合(Choice 56.8 89.4 63.7 来源 ↗
CLadder 混合(Choice 55.9 97.7 62.3 来源 ↗
Humicroedit 混合(Choice 55.0 75.1 57.2 来源 ↗
PhishNChips 混合(Choice 54.4 99.9 61.7 来源 ↗
cfcolor 混合(Choice 50.2 70.2 57.8 来源 ↗
BFCL 混合(Choice 42.7 98.8 80.3 来源 ↗
VAST 混合(Choice 42.5 82.0 50.2 来源 ↗
SGD 混合(Choice 41.5 73.4 47.8 来源 ↗
MMLU 混合(Choice 41.5 91.9 64.1 来源 ↗
ANLI 混合(Choice 41.1 98.6 53.7 来源 ↗
New Yorker 混合(Choice 41.1 82.0 52.8 来源 ↗
Amazon ESCI 混合(Choice 40.8 61.6 40.7 来源 ↗
CRUXEval 混合(Choice 38.4 87.9 50.3 来源 ↗
BBH 混合(Choice 38.2 92.9 58.2 来源 ↗
BRIGHT 混合(Choice 34.8 50.9 35.9 来源 ↗
When2Call 混合(Choice 34.7 91.7 57.9 来源 ↗
Habermas 混合(Choice 31.6 71.8 42.3 来源 ↗
GSM8K 混合(Choice 29.4 83.5 35.7 来源 ↗
GPQA Diamond 混合(Choice 28.6 78.3 37.5 来源 ↗
iSarcasmEval 混合(Choice 26.0 71.0 38.2 来源 ↗
MMLU-Pro 混合(Choice 19.6 82.7 42.0 来源 ↗
HLE 混合(Choice 12.6 20.4 12.3 来源 ↗
ChessBench 混合(Choice 11.3 40.2 14.1 来源 ↗
ACOS 混合(Choice 9.7 57.3 14.6 来源 ↗
API-Bank 混合(Choice 3.9 93.1 56.2 来源 ↗
POP909 混合(Choice 2.8 74.6 12.5 来源 ↗
RAGTruth 混合(Choice 1.2 86.0 51.7 来源 ↗
Home appliances 混合(Choice 0.0 98.9 23.1 来源 ↗
SATA-Bench 混合(Choice 0.0 37.2 20.2 来源 ↗

同族条目(4)

型号参数Decision Index S1MBVision榜单
bekko-system-one-v0-400m 当前 395M(活跃 343M) 15.2 50.6 — s1mb, di
bekko-system-one-v0-17m 395M(活跃 343M) 2.9 27.6 — s1mb, di
bekko-system-one-v0-68m 68M(活跃 42M) 8.4 40.5 — s1mb, di
bekko-system-one-v0-17m 395M(活跃 343M) 2.9 27.6 — s1mb, di