GymCL 数据集（Septzzz/gymcl-data）

GymCL 持续学习基准的数据。核心是 **unified/： 每个任务一份统一格式的 golden train + test**，可直接用于 SFT / 离线评测。

unified/ — 统一 golden 数据（10 个任务）

统一逐行 schema（train 与 test 同一种）：

{"messages": [{"role":"...","content":"..."}], "reward": 1.0 或 null, "meta": {"task","env_id","instance","source", ...}}

• train.jsonl —— golden 轨迹：messages 含完整 user/assistant(/tool)，reward=1.0。
• test.jsonl —— 输入侧 messages；有 gold 的把标准答案放 meta.gold，meta.grader 标明判分方式，reward=null。

类	任务	train golden 来源	test
code	swe_smith	SWE-smith-trajectories（resolved 多轮轨迹，5000）	SWE-smith held-out（problem→patch gold）
code	swebench_verified	R2EGym-SFT-Trajectories（多轮，3231）	SWE-bench_Verified 500（problem→patch gold）
code	terminal_bench	Terminal-Bench 2.0 轨迹（reward>0，5000）	TB2.0 任务（instruction→gold solve.sh，89）
tool	toolbench_g1	ToolLLaMA G123 DFS 轨迹（5000）	G1 query（LLM judge）
tool	apibench_hf	apibench huggingface_train（instruction→api_call gold，8191）	huggingface_eval（gold，911）
tool	bfcl	BFCL 16 个 gold 类别（单轮 user→gold 调用 / 多轮逐轮调用，3200）	held-out 10%（gold in meta，356）
game	mastermind	oracle（一致性消元推理轨迹，200）	50 eval seeds（env 评分）
game	sokoban	oracle（BFS 最优推箱，200）	50 eval seeds
game	fifteen_puzzle	oracle（A* 最优解，200）	50 eval seeds
game	minesweeper	oracle（首翻+标雷+清安全格，200）	50 eval seeds

设计说明：

• 游戏无现成轨迹 → 用程序化 oracle 求解器在真环境里跑出最优 golden 轨迹（env.step 校验 reward）。
• bfcl 替换了 tau2（tau2 无 golden 轨迹）；mbpp 已移除（只有单步 gold、无多轮轨迹）。
• games / bfcl-test / toolbench-test 由环境现场评分（引擎 reward / bfcl checker / LLM judge），故 reward=null、gold（若有）在 meta。
• terminal_bench 的实时评测需 terminal-bench/harbor harness + Docker（不影响本数据的使用）。

原生环境资产（供实际跑环境用，非 golden 数据）

部分环境运行时需要原生资产（工具 schema、实例 parquet 等），与 unified/ 并列存放： SWE-smith/、toolbench/、apibench/ 等。运行时另有从公共 Hub 直接拉取的（R2E-Gym-Lite、MBPP、各轨迹池、TB2.0 任务集）。

用法

python scripts/download_data.py          # GymCL setup.sh 会自动调用
# 直接取统一 golden 数据做 SFT / 评测：
#   unified/<task>/train.jsonl   (golden messages, reward=1.0)
#   unified/<task>/test.jsonl    (输入 + meta.gold / 或待跑实例)
#   unified/manifest.json        (各任务 train/test 条数)