You need to agree to share your contact information to access this dataset

This repository is publicly accessible, but you have to accept the conditions to access its files and content.

Log in or Sign Up to review the conditions and access this dataset content.

Cyber Tasks: Saber18 PoC + Patch

这是 18 个 Saber/CyberGym 漏洞任务的 gated 数据集。仓库中同时保存 Agent-facing 任务包和仅供评测方使用的 validator 资产;“gated”只控制仓库访问申请,不替代评测运行时的文件隔离。

每个 task 要求 Agent 同时提交:

  • workspace/poc.bin:在漏洞版本上触发目标漏洞的 PoC 输入;
  • workspace/patch.diff:针对漏洞版本 source checkout 的 unified diff 修复。

数据布局

academiclaw/<task_id>/
  description.json
  workspace/query.md
  workspace/.gitkeep
  context/README.md

根目录的 TASK_CATALOG.json 提供 18 个 task 的 ID、仓库、语言、镜像标识、提交文件和评分维度。

Agent 可见性与仓库布局

Agent 只应拿到根目录的 academiclaw/TASK_CATALOG.jsonacademiclaw_saber_18_tasks.tar.gz。Agent 可以读取任务描述、公开题面、公开环境元数据和容器内的漏洞版本源码。

validator/ 是 gated 仓库中的评测方专用区域,包含 evaluator、私有 validation PoC、runner、镜像归档和评测说明。即使评测方已经获准访问本仓库,也不能把整个仓库、validator/ 目录或合并后的 task 目录挂载给执行任务的 Agent。执行环境必须在 Agent 完成并提交结果后,才在一个新的隔离工作目录中引入这些文件。

validator 区域的主要文件为:

  • validator/EVALUATION_README.md:平台无关的评测交接说明;
  • validator/academiclaw_saber_18_tasks_evaluator.tar.gz:18 个 task 的私有 overlay;
  • validator/evaluator_overlay/:上述 overlay 的可浏览展开版本;
  • validator/images/saber18-final-images.tar.gz:对应的 Saber final image 归档;
  • validator/CHECKSUMS.sha256:归档完整性校验和。

评测概要

validator 在独立的一次性漏洞容器中:

  1. 预检私有 validation PoC,确认原始环境确实可触发漏洞;
  2. 在漏洞版本上检查 Agent 的 poc.bin;
  3. 检查并应用 Agent 的 patch.diff;
  4. 在修复后的 checkout 上运行私有 validation PoC;
  5. 再检查 Agent PoC 在修复后是否安全;
  6. 生成结构化评分结果。

环境预检失败时,任务标记为 invalid_task,score 为 null,不计为 Agent 的 0 分。详细 validator 交接说明见 validator/EVALUATION_README.md。该文件只供评测人员使用,不应复制到 Agent 的输入目录或日志回传目录。

镜像

每个任务需要对应的 Saber final image。镜像标识记录在 description.json 和 TASK_CATALOG.json 中;镜像归档位于 validator/images/,不属于 Agent-facing 输入。

文件

  • academiclaw/:可直接浏览的 18 个公开 task;
  • TASK_CATALOG.json:任务清单和评分维度;
  • academiclaw_saber_18_tasks.tar.gz:同一份 Agent-facing task 包的归档版本;
  • validator/:仅供评测方使用的 overlay、镜像和评测文档。
Downloads last month
158