Datasets:

ArXiv:
FCMBench-Data / README_cn.md
parap1uie-s
add video eval script
1e9e39f

FCMBench 是一个面向信贷风控工作流的多模态基准测试(benchmark)。它旨在提供一个标准化的"试验场",促进学术界与产业界的协同开发,并在多个赛道(图像、视频、语音、智能体等)上提供标准化的数据集、提示词(prompts)与评测脚本。

🤗 Hugging Face   |   🤖 ModelScope   |   📑 FCMBench 论文   |   📑 FCMBench-Video 论文   |   🏆 排行榜   |   🌐 English

🔥 新闻

  • 2026. 04. 29】🎬 我们发布了 FCMBench-Video,一个面向文档视频智能的基准测试。基于 495 段实拍原子视频构建,组合为 1,200 段长视频,配套 11,322 条专家标注的问答实例,覆盖 28 种文档类型(中英双语)。论文见 arXiv 2604.25186
  • 2026. 03. 16】✨ 我们发布了FCMBench-V1.1,该版本加入了英文证件图像和相关问答对,覆盖的证件类型增加至 26 个,图像增加至 5,198 张,问答样本增加至 13,806 条。
  • 2026. 01. 01】我们很高兴发布FCMBench-V1.0,该版本覆盖 18 类核心证件类型,包含 4,043 张符合隐私合规要求的图像与 8,446 条问答样本。其任务体系涵盖 3 类感知(Perception)任务与 4 类推理(Reasoning)任务,并与 10 类健壮性推理(robustness inferences)交叉引用。所有任务与推理过程均来源于真实世界的关键业务场景。

状态: 公开发布(v1.1)。
维护者: 奇富科技 / Qfin Holdings
联系方式: [yangyehui-jk@qifu.com]


赛道概览

赛道入口 输入 输出 评测脚本 排行榜 论文 样例数据
Vision-Language Track 文档图像 + 文本指令(JSONL,每行一个样本) 文本响应(JSONL,每行一个样本) evaluation.py 排行榜 arXiv 2601.00150 示例页
Video Understanding Track 文档视频 + 文本指令(JSONL) 文本响应(JSONL) benchmark_eval.py 通过提交参与 arXiv 2604.25186 详见 README

1) 视觉-语言赛道(✅ 已开放)

基于图像的金融文档理解。

样例数据

请访问示例页面预览样例图片和问答示例。

参考模型 Demo

我们也提供 Qfin-VL-Instruct 模型的交互式演示(demo)访问,该模型在 FCMBench 上表现强劲。 如果你希望试用 Gradio demo,请将以下信息发送至 [yangyehui-jk@qifu.com]:

  • 姓名
  • 所属单位 / 组织
  • 使用目的(例如:研究探索、评测基线参考)
  • 联系邮箱

我们将按具体情况逐一审批并开通访问权限。


2) 视频理解赛道(🎬 已开放)

面向文档视频智能的基准测试,覆盖真实手持拍摄条件下的文档感知、时序定位与证据推理能力。基于 495 段实拍原子视频构建,组合为 1,200 段长视频(20s/40s/60s 时长区间),配套 11,322 条专家标注的问答实例,覆盖 28 种文档类型(中英双语)。详见论文了解完整基准设计和 9 款 Video-MLLM 的评测结果。

样例数据

请参阅视频理解赛道 README 了解完整的数据组成、指令文件说明和快速开始指南。提供一个含真值标注的分层 10% 子集(FCMBench-Video_v1.0_small.jsonl)用于自测。

参考模型 Demo

(待定)


3) 语音理解与生成赛道(🕒 即将推出)

4) 多步推理 / 智能体赛道(🕒 即将推出)

引用

FCMBench(视觉-语言赛道):

@misc{yang2026fcmbenchcomprehensivefinancialcredit,
      title={FCMBench: A Comprehensive Financial Credit Multimodal Benchmark for Real-world Applications},
      author={Yehui Yang and Dalu Yang and Wenshuo Zhou and Fangxin Shang and Yifan Liu and Jie Ren and Haojun Fei and Qing Yang and Yanwu Xu and Tao Chen},
      year={2026},
      eprint={2601.00150},
      archivePrefix={arXiv},
      primaryClass={cs.CV},
      url={https://arxiv.org/abs/2601.00150},
}

FCMBench-Video(视频理解赛道):

@misc{cui2026fcmbenchvideobenchmarkingdocumentvideo,
      title={FCMBench-Video: Benchmarking Document Video Intelligence}, 
      author={Runze Cui and Fangxin Shang and Yehui Yang and Qing Yang and Tao Chen},
      year={2026},
      eprint={2604.25186},
      archivePrefix={arXiv},
      primaryClass={cs.CV},
      url={https://arxiv.org/abs/2604.25186}, 
}

Star History

Star History Chart