FCMBench 是一个面向信贷风控工作流的多模态基准测试(benchmark)。它旨在提供一个标准化的"试验场",促进学术界与产业界的协同开发,并在多个赛道(图像、视频、语音、智能体等)上提供标准化的数据集、提示词(prompts)与评测脚本。
🤗 Hugging Face | 🤖 ModelScope | 📑 FCMBench 论文 | 📑 FCMBench-Video 论文 | 🏆 排行榜 | 🌐 English
🔥 新闻
- 【2026. 04. 29】🎬 我们发布了 FCMBench-Video,一个面向文档视频智能的基准测试。基于 495 段实拍原子视频构建,组合为 1,200 段长视频,配套 11,322 条专家标注的问答实例,覆盖 28 种文档类型(中英双语)。论文见 arXiv 2604.25186。
- 【2026. 03. 16】✨ 我们发布了FCMBench-V1.1,该版本加入了英文证件图像和相关问答对,覆盖的证件类型增加至 26 个,图像增加至 5,198 张,问答样本增加至 13,806 条。
- 【2026. 01. 01】我们很高兴发布FCMBench-V1.0,该版本覆盖 18 类核心证件类型,包含 4,043 张符合隐私合规要求的图像与 8,446 条问答样本。其任务体系涵盖 3 类感知(Perception)任务与 4 类推理(Reasoning)任务,并与 10 类健壮性推理(robustness inferences)交叉引用。所有任务与推理过程均来源于真实世界的关键业务场景。
状态: 公开发布(v1.1)。
维护者: 奇富科技 / Qfin Holdings
联系方式: [yangyehui-jk@qifu.com]
赛道概览
| 赛道入口 | 输入 | 输出 | 评测脚本 | 排行榜 | 论文 | 样例数据 |
|---|---|---|---|---|---|---|
| Vision-Language Track | 文档图像 + 文本指令(JSONL,每行一个样本) | 文本响应(JSONL,每行一个样本) | evaluation.py | 排行榜 | arXiv 2601.00150 | 示例页 |
| Video Understanding Track | 文档视频 + 文本指令(JSONL) | 文本响应(JSONL) | benchmark_eval.py | 通过提交参与 | arXiv 2604.25186 | 详见 README |
1) 视觉-语言赛道(✅ 已开放)
基于图像的金融文档理解。
样例数据
请访问示例页面预览样例图片和问答示例。
参考模型 Demo
我们也提供 Qfin-VL-Instruct 模型的交互式演示(demo)访问,该模型在 FCMBench 上表现强劲。 如果你希望试用 Gradio demo,请将以下信息发送至 [yangyehui-jk@qifu.com]:
- 姓名
- 所属单位 / 组织
- 使用目的(例如:研究探索、评测基线参考)
- 联系邮箱
我们将按具体情况逐一审批并开通访问权限。
2) 视频理解赛道(🎬 已开放)
面向文档视频智能的基准测试,覆盖真实手持拍摄条件下的文档感知、时序定位与证据推理能力。基于 495 段实拍原子视频构建,组合为 1,200 段长视频(20s/40s/60s 时长区间),配套 11,322 条专家标注的问答实例,覆盖 28 种文档类型(中英双语)。详见论文了解完整基准设计和 9 款 Video-MLLM 的评测结果。
样例数据
请参阅视频理解赛道 README 了解完整的数据组成、指令文件说明和快速开始指南。提供一个含真值标注的分层 10% 子集(FCMBench-Video_v1.0_small.jsonl)用于自测。
参考模型 Demo
(待定)
3) 语音理解与生成赛道(🕒 即将推出)
4) 多步推理 / 智能体赛道(🕒 即将推出)
引用
FCMBench(视觉-语言赛道):
@misc{yang2026fcmbenchcomprehensivefinancialcredit,
title={FCMBench: A Comprehensive Financial Credit Multimodal Benchmark for Real-world Applications},
author={Yehui Yang and Dalu Yang and Wenshuo Zhou and Fangxin Shang and Yifan Liu and Jie Ren and Haojun Fei and Qing Yang and Yanwu Xu and Tao Chen},
year={2026},
eprint={2601.00150},
archivePrefix={arXiv},
primaryClass={cs.CV},
url={https://arxiv.org/abs/2601.00150},
}
FCMBench-Video(视频理解赛道):
@misc{cui2026fcmbenchvideobenchmarkingdocumentvideo,
title={FCMBench-Video: Benchmarking Document Video Intelligence},
author={Runze Cui and Fangxin Shang and Yehui Yang and Qing Yang and Tao Chen},
year={2026},
eprint={2604.25186},
archivePrefix={arXiv},
primaryClass={cs.CV},
url={https://arxiv.org/abs/2604.25186},
}
