decision.host
首页 / 模型 / ZefanCai/Open-Jev-27B-v1.1

ZefanCai/Open-Jev-27B-v1.1

Zefan Cai ChoiceNoulScore 开源权重 26B(活跃 24B) 手工收录S1MB
S1MB Task Avg
56.9
第 6 名 · 覆盖 137/137(100%)

模型信息

厂商
Zefan Cai
类别
开源权重
参数规模
26B(活跃 24B)
基座模型
Qwen/Qwen3.5-9B
权重
可下载(开源)
许可证
未标注 许可不明
输入模态
文本
决策原语
ChoiceNoulScore
可微调
可以
微调方法
pip install -e '.[train]';LoRA rank 8 / alpha 16,scalar head 联合训练,保存温度(T=1.897)
微调硬件
9B bf16 约 16 GB

数据来源与链接

本站聚合自: 手工收录、S1MB。 分数与链接均指向原始出处。

S1MB · 137 个基准

基准类型该模型全场最佳 全场均值对比来源
open jev / amount extraction control v1 Choice 100.0 100.0 55.2 来源 ↗
open jev / amount extraction control v1 Noul 100.0 100.0 33.7 来源 ↗
open jev / browser control v1 Choice 100.0 100.0 67.7 来源 ↗
open jev / citation control v1 Choice 100.0 100.0 41.5 来源 ↗
open jev / context retention control v1 Noul 100.0 100.0 19.7 来源 ↗
open jev / customer control v1 Noul 100.0 100.0 58.4 来源 ↗
open jev / drone control v1 Choice 100.0 100.0 5.1 来源 ↗
open jev / drone control v1 Noul 100.0 100.0 50.7 来源 ↗
open jev / email selection control v1 Choice 100.0 100.0 24.2 来源 ↗
open jev / email selection control v1 Noul 100.0 100.0 41.3 来源 ↗
open jev / entity alignment control v1 Noul 100.0 100.0 36.5 来源 ↗
open jev / ir control v1 Noul 100.0 100.0 47.6 来源 ↗
open jev / mailroom control v1 Choice 100.0 100.0 83.1 来源 ↗
open jev / mailroom control v1 Noul 100.0 100.0 62.9 来源 ↗
open jev / painting geometry v1 Choice 100.0 100.0 46.7 来源 ↗
open jev / painting geometry v1 Noul 100.0 100.0 27.8 来源 ↗
open jev / phone extraction control v1 Choice 100.0 100.0 33.0 来源 ↗
open jev / phone extraction control v1 Noul 100.0 100.0 50.9 来源 ↗
open jev / reasoning control v1 Noul 100.0 100.0 25.5 来源 ↗
open jev / silent failure control v1 Noul 100.0 100.0 38.8 来源 ↗
open jev / vizdoom basic v1 Noul 100.0 100.0 39.6 来源 ↗
open jev / workflow controls v1 / agent trace observability Noul 100.0 100.0 28.3 来源 ↗
open jev / workflow controls v1 / customer service Noul 100.0 100.0 42.1 来源 ↗
s1mb generalization contextual choice Choice 100.0 100.0 82.8 来源 ↗
s1mb generalization diverse choice Choice 100.0 100.0 69.8 来源 ↗
open jev / painting geometry v1 Score 99.6 100.0 15.9 来源 ↗
open jev / drone control v1 Score 99.2 99.2 1.3 来源 ↗
dbpedia Choice 98.9 98.9 83.7 来源 ↗
open jev / vizdoom basic v1 Score 98.5 100.0 30.2 来源 ↗
open jev / sponsor segment control v1 Choice 97.4 100.0 52.7 来源 ↗
open jev / snake v1 Noul 97.3 100.0 9.1 来源 ↗
arc Choice 97.1 98.5 64.7 来源 ↗
open jev / entity alignment control v1 Score 97.0 100.0 8.5 来源 ↗
open jev / workflow controls v1 / security incidents Noul 96.8 100.0 38.2 来源 ↗
s1mb generalization diverse noul Noul 96.0 100.0 59.5 来源 ↗
open jev / reasoning control v1 Choice 95.0 95.0 28.8 来源 ↗
open jev / workflow controls v1 / invoice processing Noul 94.9 100.0 34.8 来源 ↗
openbookqa Choice 90.3 97.2 54.1 来源 ↗
hans Noul 90.0 100.0 43.6 来源 ↗
s1mb generalization contextual noul Noul 90.0 98.0 62.3 来源 ↗
open jev / reasoning control v1 Score 89.6 90.7 28.1 来源 ↗
open jev / customer control v1 Score 88.7 99.3 36.9 来源 ↗
miqa Choice 88.6 95.5 62.3 来源 ↗
open jev / ir control v1 Score 88.2 98.6 10.6 来源 ↗
quartz Choice 88.1 88.1 49.4 来源 ↗
open jev / ir control v1 Choice 88.0 88.0 45.1 来源 ↗
lonli Choice 86.9 86.9 39.6 来源 ↗
canttalk Noul 86.0 86.0 44.1 来源 ↗
scone Choice 86.0 92.0 34.5 来源 ↗
massive Choice 83.5 96.7 64.8 来源 ↗
open jev / snake v1 Choice 83.5 83.5 8.4 来源 ↗
open jev / customer control v1 Choice 82.6 82.6 64.4 来源 ↗
winobias Choice 82.6 91.3 30.5 来源 ↗
hwu64 Choice 80.8 92.5 57.1 来源 ↗
mtop Choice 79.4 87.4 58.9 来源 ↗
laya / ag news Choice 79.1 94.0 75.5 来源 ↗
bbq Choice 78.3 98.3 54.2 来源 ↗
qasper Noul 78.0 88.0 41.9 来源 ↗
clinc Choice 76.5 99.3 57.7 来源 ↗
defeasible nli Choice 71.7 80.4 33.2 来源 ↗
gsm8k Choice 71.4 78.6 23.9 来源 ↗
scitail Noul 70.0 98.0 53.2 来源 ↗
contract nli Choice 69.5 78.5 32.3 来源 ↗
banking77 Choice 66.3 93.7 55.0 来源 ↗
paws Noul 66.0 88.0 45.9 来源 ↗
few nerd Choice 65.6 86.4 44.2 来源 ↗
crows pairs Choice 64.6 70.8 30.7 来源 ↗
snli Choice 64.5 98.4 46.4 来源 ↗
arct Choice 61.7 89.4 39.6 来源 ↗
s1mb generalization contextual score Score 59.4 92.7 42.4 来源 ↗
argument quality Choice 59.2 95.9 37.8 来源 ↗
gretel pii Choice 58.1 94.5 43.5 来源 ↗
impli Noul 58.0 88.0 47.0 来源 ↗
laya / typed decisions Score 56.2 67.0 26.9 来源 ↗
s1mb generalization diverse score Score 52.4 95.3 43.1 来源 ↗
scicite Choice 51.6 71.0 44.1 来源 ↗
aqua rat Choice 50.7 77.5 11.0 来源 ↗
sdoh nli Noul 50.0 92.0 61.0 来源 ↗
open jev / tic tac toe v1 Choice 48.5 48.5 3.5 来源 ↗
babi nli Noul 46.0 84.0 37.3 来源 ↗
synthetic relevance / nanobeir / nanotouche2020 Score 44.3 44.3 20.9 来源 ↗
creak Noul 44.0 88.0 39.0 来源 ↗
ruletaker Noul 44.0 96.0 28.0 来源 ↗
synthetic relevance / nanobeir / nanomsmarco Score 42.6 52.6 18.1 来源 ↗
synthetic relevance / nanobeir / nanomsmarco Noul 41.9 62.5 37.5 来源 ↗
robust lr Choice 41.7 66.7 19.1 来源 ↗
stepgame Choice 40.5 82.1 18.0 来源 ↗
synthetic relevance / nanobeir / nanonq Noul 38.5 67.2 39.7 来源 ↗
boardgameqa Choice 37.5 62.5 15.8 来源 ↗
temporal nli Choice 37.1 80.7 18.5 来源 ↗
synthetic relevance / nanobeir / nanofiqa2018 Score 36.5 46.7 15.4 来源 ↗
wiqa Choice 36.5 58.7 19.5 来源 ↗
laya / typed decisions Noul 36.5 47.8 24.6 来源 ↗
ud ewt Choice 36.4 56.7 13.4 来源 ↗
ethics Choice 33.3 83.3 21.2 来源 ↗
synthetic relevance / nanobeir / nanodbpedia Score 32.3 44.9 17.8 来源 ↗
laya / typed decisions Choice 29.3 34.5 19.1 来源 ↗
synthetic relevance / nanobeir / nanotouche2020 Noul 28.7 47.0 26.8 来源 ↗
cladder Noul 28.0 94.0 18.3 来源 ↗
synthetic relevance / nanobeir / nanohotpotqa Score 27.9 63.6 14.1 来源 ↗
synthetic relevance / nanocoir Noul 27.6 73.0 33.9 来源 ↗
patent similarity Score 26.9 48.3 17.9 来源 ↗
synthetic relevance / nanobeir / nanonfcorpus Score 26.0 38.6 10.9 来源 ↗
hatecheck Noul 26.0 98.0 47.8 来源 ↗
aegis2 Noul 25.5 62.3 33.0 来源 ↗
sgd Choice 25.4 96.6 24.4 来源 ↗
fol nli Choice 22.9 54.1 10.4 来源 ↗
lexcomp Noul 20.0 52.0 22.7 来源 ↗
synthetic relevance / nanobeir / nanofiqa2018 Noul 19.1 54.0 28.7 来源 ↗
go emotions Noul 17.8 61.3 38.5 来源 ↗
synthetic relevance / nanobeir / nanonq Score 16.3 49.4 9.5 来源 ↗
followir robust04 Noul 15.8 90.9 47.2 来源 ↗
synthetic relevance / nanobeir / nanodbpedia Noul 15.1 52.1 29.1 来源 ↗
laya / enron spam Noul 14.0 100.0 55.0 来源 ↗
synthetic relevance / nanobeir / nanonfcorpus Noul 13.4 46.2 25.1 来源 ↗
esci Choice 12.3 46.6 13.3 来源 ↗
followir core17 Noul 12.1 46.6 21.3 来源 ↗
poem sentiment Choice 11.4 57.1 3.9 来源 ↗
synthetic relevance / nanobeir / nanohotpotqa Noul 10.3 70.8 28.3 来源 ↗
ethics Noul 10.0 68.6 24.1 来源 ↗
synthetic relevance / nanobeir / nanoscidocs Score 8.0 36.7 7.3 来源 ↗
logical entailment Noul 8.0 72.0 12.3 来源 ↗
synthetic relevance / nanobeir / nanoarguana Score 7.8 36.0 7.6 来源 ↗
civil comments Noul 6.7 36.7 21.5 来源 ↗
ethos Noul 6.0 76.0 44.0 来源 ↗
synthetic relevance / nanobeir / nanoscidocs Noul 5.7 41.7 17.4 来源 ↗
argument quality Noul 3.6 23.9 5.4 来源 ↗
corr2cause Choice 3.3 91.7 3.8 来源 ↗
followir news21 Noul 0.0 42.7 14.9 来源 ↗
hh rlhf Choice 0.0 23.1 3.1 来源 ↗
nlsat Noul 0.0 22.0 2.2 来源 ↗
plane Noul 0.0 100.0 11.1 来源 ↗
spartqa Choice 0.0 38.7 4.5 来源 ↗
synthetic relevance / nanobeir / nanoarguana Noul 0.0 48.2 15.7 来源 ↗
synthetic relevance / nanocoir Score 0.0 44.3 4.3 来源 ↗
tracie Noul 0.0 34.0 8.8 来源 ↗
winowhy Noul 0.0 62.0 19.0 来源 ↗

同族条目(6)

型号参数Decision Index S1MBVision榜单
ZefanCai/Open-Jev-27B-v1.1 当前 26B(活跃 24B) — 56.9 — s1mb
Kotoba Open-Jev DeBERTa v3 Large 26B(活跃 24B) — 10.1 — s1mb
open-jev (pngwn) 4.7B 32.1 — — di
Kotoba Open-Jev DeBERTa v3 Large 26B(活跃 24B) — 10.1 — s1mb
ZefanCai/Open-Jev-2B 1.9B(活跃 1.4B) — 34.6 — s1mb
ZefanCai/Open-Jev-9B 7.9B(活跃 6.9B) — 52.1 — s1mb