decision.host
首页 / 模型 / bekko-system-one-v0-68m

bekko-system-one-v0-68m

hotchpotch ChoiceNoulScore 开源权重 68M(活跃 42M) 手工收录S1MB
S1MB Task Avg
40.5
第 38 名 · 覆盖 137/137(100%)
Decision Index Full
8.4
第 100 名 · public 13.0
校准 ECE
0.113
越低越好 · Brier 0.685

模型信息

厂商
hotchpotch
类别
开源权重
参数规模
68M(活跃 42M)
基座模型
Ettin-reranker(ModernBERT 架构)
权重
可下载(开源)
许可证
未标注 许可不明
输入模态
文本
决策原语
ChoiceNoulScore
延迟
17M:26,269 个判断 13.33 秒(RTX 5090)
可微调
可以
微调方法
训练代码 + 153 个训练子集(约 659 万 case)全开源;Ettin-reranker 初始化,AdamW、batch 512、warmup 10%、cosine;encoder/head 双学习率
微调硬件
单张 RTX 5090:17M≈2h、68M≈5.5h、400M≈25h

数据来源与链接

本站聚合自: 手工收录、S1MB。 分数与链接均指向原始出处。

Decision Index 领域得分

知识与推理
32.3
语言理解
48.9
检索与分类
61.2
工具与自动化
21.3
艺术与人类品味
43.2

S1MB · 137 个基准

基准类型该模型全场最佳 全场均值对比来源
hans Noul 100.0 100.0 43.6 来源 ↗
open jev / browser control v1 Choice 100.0 100.0 67.7 来源 ↗
open jev / ir control v1 Noul 100.0 100.0 47.6 来源 ↗
open jev / mailroom control v1 Choice 100.0 100.0 83.1 来源 ↗
open jev / mailroom control v1 Noul 100.0 100.0 62.9 来源 ↗
plane Noul 100.0 100.0 11.1 来源 ↗
dbpedia Choice 98.9 98.9 83.7 来源 ↗
open jev / amount extraction control v1 Noul 96.9 100.0 33.7 来源 ↗
scitail Noul 96.0 98.0 53.2 来源 ↗
open jev / vizdoom basic v1 Noul 94.1 100.0 39.6 来源 ↗
laya / enron spam Noul 94.0 100.0 55.0 来源 ↗
snli Choice 93.5 98.4 46.4 来源 ↗
laya / ag news Choice 92.5 94.0 75.5 来源 ↗
open jev / silent failure control v1 Noul 92.0 100.0 38.8 来源 ↗
ruletaker Noul 92.0 96.0 28.0 来源 ↗
clinc Choice 91.7 99.3 57.7 来源 ↗
corr2cause Choice 91.7 91.7 3.8 来源 ↗
open jev / sponsor segment control v1 Choice 91.0 100.0 52.7 来源 ↗
sgd Choice 89.8 96.6 24.4 来源 ↗
gretel pii Choice 88.6 94.5 43.5 来源 ↗
open jev / amount extraction control v1 Choice 88.2 100.0 55.2 来源 ↗
open jev / drone control v1 Noul 88.2 100.0 50.7 来源 ↗
paws Noul 86.0 88.0 45.9 来源 ↗
massive Choice 85.7 96.7 64.8 来源 ↗
hwu64 Choice 84.0 92.5 57.1 来源 ↗
few nerd Choice 83.5 86.4 44.2 来源 ↗
open jev / customer control v1 Choice 82.6 82.6 64.4 来源 ↗
babi nli Noul 82.0 84.0 37.3 来源 ↗
open jev / citation control v1 Choice 81.8 100.0 41.5 来源 ↗
open jev / customer control v1 Noul 81.3 100.0 58.4 来源 ↗
mtop Choice 81.2 87.4 58.9 来源 ↗
temporal nli Choice 80.7 80.7 18.5 来源 ↗
banking77 Choice 79.0 93.7 55.0 来源 ↗
scone Choice 78.0 92.0 34.5 来源 ↗
open jev / customer control v1 Score 76.0 99.3 36.9 来源 ↗
stepgame Choice 72.6 82.1 18.0 来源 ↗
argument quality Choice 71.4 95.9 37.8 来源 ↗
open jev / phone extraction control v1 Noul 70.0 100.0 50.9 来源 ↗
open jev / painting geometry v1 Choice 68.4 100.0 46.7 来源 ↗
sdoh nli Noul 66.0 92.0 61.0 来源 ↗
open jev / painting geometry v1 Score 64.5 100.0 15.9 来源 ↗
synthetic relevance / nanobeir / nanohotpotqa Noul 64.2 70.8 28.3 来源 ↗
s1mb generalization contextual choice Choice 64.0 100.0 82.8 来源 ↗
scicite Choice 62.9 71.0 44.1 来源 ↗
logical entailment Noul 62.0 72.0 12.3 来源 ↗
open jev / email selection control v1 Noul 61.5 100.0 41.3 来源 ↗
synthetic relevance / nanobeir / nanohotpotqa Score 60.1 63.6 14.1 来源 ↗
wiqa Choice 57.1 58.7 19.5 来源 ↗
miqa Choice 56.8 95.5 62.3 来源 ↗
ethos Noul 56.0 76.0 44.0 来源 ↗
open jev / email selection control v1 Choice 53.0 100.0 24.2 来源 ↗
s1mb generalization diverse choice Choice 51.1 100.0 69.8 来源 ↗
fol nli Choice 49.2 54.1 10.4 来源 ↗
synthetic relevance / nanobeir / nanomsmarco Score 47.4 52.6 18.1 来源 ↗
defeasible nli Choice 45.6 80.4 33.2 来源 ↗
arct Choice 44.7 89.4 39.6 来源 ↗
impli Noul 44.0 88.0 47.0 来源 ↗
aegis2 Noul 43.7 62.3 33.0 来源 ↗
open jev / workflow controls v1 / invoice processing Noul 43.1 100.0 34.8 来源 ↗
synthetic relevance / nanobeir / nanomsmarco Noul 43.0 62.5 37.5 来源 ↗
synthetic relevance / nanocoir Noul 42.2 73.0 33.9 来源 ↗
boardgameqa Choice 42.2 62.5 15.8 来源 ↗
open jev / workflow controls v1 / customer service Noul 41.4 100.0 42.1 来源 ↗
synthetic relevance / nanobeir / nanonq Noul 41.2 67.2 39.7 来源 ↗
esci Choice 41.1 46.6 13.3 来源 ↗
patent similarity Score 41.1 48.3 17.9 来源 ↗
robust lr Choice 40.0 66.7 19.1 来源 ↗
open jev / entity alignment control v1 Noul 39.3 100.0 36.5 来源 ↗
synthetic relevance / nanobeir / nanotouche2020 Noul 39.0 47.0 26.8 来源 ↗
arc Choice 38.2 98.5 64.7 来源 ↗
canttalk Noul 38.0 86.0 44.1 来源 ↗
synthetic relevance / nanobeir / nanotouche2020 Score 37.8 44.3 20.9 来源 ↗
open jev / workflow controls v1 / security incidents Noul 37.3 100.0 38.2 来源 ↗
s1mb generalization diverse noul Noul 36.0 100.0 59.5 来源 ↗
synthetic relevance / nanobeir / nanoarguana Score 35.1 36.0 7.6 来源 ↗
open jev / drone control v1 Choice 34.2 100.0 5.1 来源 ↗
synthetic relevance / nanobeir / nanoarguana Noul 33.9 48.2 15.7 来源 ↗
gsm8k Choice 32.9 78.6 23.9 来源 ↗
synthetic relevance / nanobeir / nanodbpedia Score 32.8 44.9 17.8 来源 ↗
contract nli Choice 32.6 78.5 32.3 来源 ↗
synthetic relevance / nanobeir / nanonq Score 32.0 49.4 9.5 来源 ↗
poem sentiment Choice 31.4 57.1 3.9 来源 ↗
openbookqa Choice 30.6 97.2 54.1 来源 ↗
laya / typed decisions Noul 29.4 47.8 24.6 来源 ↗
lonli Choice 27.9 86.9 39.6 来源 ↗
s1mb generalization contextual noul Noul 26.0 98.0 62.3 来源 ↗
synthetic relevance / nanobeir / nanofiqa2018 Score 25.3 46.7 15.4 来源 ↗
hatecheck Noul 24.0 98.0 47.8 来源 ↗
lexcomp Noul 24.0 52.0 22.7 来源 ↗
synthetic relevance / nanobeir / nanofiqa2018 Noul 23.4 54.0 28.7 来源 ↗
open jev / workflow controls v1 / agent trace observability Noul 22.8 100.0 28.3 来源 ↗
tracie Noul 22.0 34.0 8.8 来源 ↗
open jev / painting geometry v1 Noul 21.9 100.0 27.8 来源 ↗
synthetic relevance / nanobeir / nanonfcorpus Score 21.2 38.6 10.9 来源 ↗
open jev / vizdoom basic v1 Score 20.7 100.0 30.2 来源 ↗
open jev / ir control v1 Choice 20.0 88.0 45.1 来源 ↗
laya / typed decisions Choice 20.0 34.5 19.1 来源 ↗
laya / typed decisions Score 18.0 67.0 26.9 来源 ↗
creak Noul 18.0 88.0 39.0 来源 ↗
hh rlhf Choice 17.9 23.1 3.1 来源 ↗
open jev / phone extraction control v1 Choice 17.4 100.0 33.0 来源 ↗
synthetic relevance / nanobeir / nanodbpedia Noul 17.0 52.1 29.1 来源 ↗
open jev / ir control v1 Score 16.7 98.6 10.6 来源 ↗
ud ewt Choice 16.4 56.7 13.4 来源 ↗
go emotions Noul 16.3 61.3 38.5 来源 ↗
civil comments Noul 15.8 36.7 21.5 来源 ↗
open jev / reasoning control v1 Choice 15.0 95.0 28.8 来源 ↗
open jev / context retention control v1 Noul 14.0 100.0 19.7 来源 ↗
followir core17 Noul 13.2 46.6 21.3 来源 ↗
quartz Choice 11.9 88.1 49.4 来源 ↗
synthetic relevance / nanobeir / nanonfcorpus Noul 11.6 46.2 25.1 来源 ↗
synthetic relevance / nanobeir / nanoscidocs Score 10.7 36.7 7.3 来源 ↗
aqua rat Choice 9.9 77.5 11.0 来源 ↗
s1mb generalization contextual score Score 9.8 92.7 42.4 来源 ↗
synthetic relevance / nanobeir / nanoscidocs Noul 9.7 41.7 17.4 来源 ↗
s1mb generalization diverse score Score 8.1 95.3 43.1 来源 ↗
qasper Noul 8.0 88.0 41.9 来源 ↗
winowhy Noul 8.0 62.0 19.0 来源 ↗
open jev / reasoning control v1 Score 6.7 90.7 28.1 来源 ↗
spartqa Choice 3.2 38.7 4.5 来源 ↗
ethics Noul 2.4 68.6 24.1 来源 ↗
argument quality Noul 0.0 23.9 5.4 来源 ↗
bbq Choice 0.0 98.3 54.2 来源 ↗
cladder Noul 0.0 94.0 18.3 来源 ↗
crows pairs Choice 0.0 70.8 30.7 来源 ↗
ethics Choice 0.0 83.3 21.2 来源 ↗
followir news21 Noul 0.0 42.7 14.9 来源 ↗
followir robust04 Noul 0.0 90.9 47.2 来源 ↗
nlsat Noul 0.0 22.0 2.2 来源 ↗
open jev / drone control v1 Score 0.0 99.2 1.3 来源 ↗
open jev / entity alignment control v1 Score 0.0 100.0 8.5 来源 ↗
open jev / reasoning control v1 Noul 0.0 100.0 25.5 来源 ↗
open jev / snake v1 Choice 0.0 83.5 8.4 来源 ↗
open jev / snake v1 Noul 0.0 100.0 9.1 来源 ↗
open jev / tic tac toe v1 Choice 0.0 48.5 3.5 来源 ↗
synthetic relevance / nanocoir Score 0.0 44.3 4.3 来源 ↗
winobias Choice 0.0 91.3 30.5 来源 ↗

Decision Index · 42 个基准

基准类型该模型全场最佳 全场均值对比来源
CLINC150 混合(Choice 76.4 97.4 68.2 来源 ↗
BPoMP 混合(Choice 73.7 97.0 73.5 来源 ↗
BANKING77 混合(Choice 71.8 94.1 69.1 来源 ↗
ARC-Easy 混合(Choice 57.0 99.5 87.3 来源 ↗
HoVer 混合(Choice 56.6 89.4 63.7 来源 ↗
MuSR 混合(Choice 52.9 86.2 55.8 来源 ↗
WinoGrande 混合(Choice 52.3 97.5 69.7 来源 ↗
RouterBench 混合(Choice 51.8 80.1 73.2 来源 ↗
CLadder 混合(Choice 50.5 97.7 62.3 来源 ↗
cfcolor 混合(Choice 49.6 70.2 57.8 来源 ↗
ToolRet 混合(Choice 48.6 69.1 54.9 来源 ↗
NLI4CT 混合(Choice 48.5 86.2 69.2 来源 ↗
PhishNChips 混合(Choice 47.7 99.9 61.7 来源 ↗
SGD 混合(Choice 47.0 73.4 47.8 来源 ↗
Humicroedit 混合(Choice 46.0 75.1 57.2 来源 ↗
FinEntity 混合(Choice 45.9 97.1 73.8 来源 ↗
ContractNLI 混合(Choice 41.9 86.5 60.3 来源 ↗
ARC-Challenge 混合(Choice 37.5 98.2 79.1 来源 ↗
When2Call 混合(Choice 37.4 91.7 57.9 来源 ↗
BFCL 混合(Choice 37.4 98.8 80.3 来源 ↗
CRUXEval 混合(Choice 37.4 87.9 50.3 来源 ↗
HellaSwag 混合(Choice 36.6 98.5 72.9 来源 ↗
Habermas 混合(Choice 33.7 71.8 42.3 来源 ↗
BBH 混合(Choice 33.0 92.9 58.2 来源 ↗
New Yorker 混合(Choice 33.0 82.0 52.8 来源 ↗
MMLU 混合(Choice 32.9 91.9 64.1 来源 ↗
VAST 混合(Choice 32.5 82.0 50.2 来源 ↗
ANLI 混合(Choice 31.7 98.6 53.7 来源 ↗
Amazon ESCI 混合(Choice 27.1 61.6 40.7 来源 ↗
iSarcasmEval 混合(Choice 26.5 71.0 38.2 来源 ↗
GPQA Diamond 混合(Choice 25.5 78.3 37.5 来源 ↗
BRIGHT 混合(Choice 21.5 50.9 35.9 来源 ↗
GSM8K 混合(Choice 20.6 83.5 35.7 来源 ↗
MMLU-Pro 混合(Choice 16.5 82.7 42.0 来源 ↗
HLE 混合(Choice 15.6 20.4 12.3 来源 ↗
POP909 混合(Choice 8.8 74.6 12.5 来源 ↗
ChessBench 混合(Choice 7.8 40.2 14.1 来源 ↗
ACOS 混合(Choice 4.2 57.3 14.6 来源 ↗
API-Bank 混合(Choice 2.6 93.1 56.2 来源 ↗
RAGTruth 混合(Choice 1.4 86.0 51.7 来源 ↗
Home appliances 混合(Choice 0.0 98.9 23.1 来源 ↗
SATA-Bench 混合(Choice 0.0 37.2 20.2 来源 ↗

同族条目(4)

型号参数Decision Index S1MBVision榜单
bekko-system-one-v0-68m 当前 68M(活跃 42M) 8.4 40.5 — s1mb, di
bekko-system-one-v0-17m 395M(活跃 343M) 2.9 27.6 — s1mb, di
bekko-system-one-v0-400m 395M(活跃 343M) 15.2 50.6 — s1mb, di
bekko-system-one-v0-17m 395M(活跃 343M) 2.9 27.6 — s1mb, di