mmarco-ja v3

日本語版 mMARCO (hpprc/mmarco-ja) を元に、 新世代の埋め込みモデル cl-nagoya/ruri-v3-310m と リランカー cl-nagoya/ruri-v3-reranker-310m を使って Hard Negative Mining + Cross-Encoder 蒸留スコア付与を施した日本語 retrieval 学習用データセット。

pairs / triplets / n-tuples の 3 形式と、n-tuples に蒸留スコアを付けて学習価値で ソートした top-K サブセット (10k / 50k / 100k) を提供する。 Dense Retriever / Cross-Encoder / SPLADE 等の日本語検索モデル学習および KL Divergence 蒸留に使える。

v2 → v3 の変更点

項目	v2	v3
元データ	hpprc/mmarco-ja	hpprc/mmarco-ja (同一)
Retriever	cl-nagoya/ruri-v3-310m	cl-nagoya/ruri-v3-310m (同一)
Teacher	cl-nagoya/ruri-v3-reranker-310m	cl-nagoya/ruri-v3-reranker-310m (同一)
HN フィルタ	kNN top-5 除外 + リランカー top-5 除外 + pos - neg >= 2.0	pos - neg >= 4.0 (より硬い分離)
neg 不足時の補充	(行 DROP)	kNN top-100 まで段階的拡張
pairs config	(なし)	全 391,060 行
triplets config	HNM 通過行のみ	全 391,060 行 (HNM 通過行は HNM neg、それ以外は best filter / fallback)
n-tuples config	140,389 行	186,764 行
サブセット	n-tuples-10k/50k/100k/140k	n-tuples-10k/50k/100k

Configs

config	rows	columns	説明
pairs	391,060	query, positive	dataset.anc をクエリ、collection.text[pos_ids[0]] を positive とした全行ペア
triplets	391,060	query, positive, negative	クエリごとに 1 件の negative。HNM 通過行は HNM の上位 neg、それ以外はフィルタ通過 best / フォールバック
n-tuples	186,764	query, positive, negative_1〜5, label	HNM 通過行 (pos - neg >= 4.0 & pos >= 2.0 を満たす 5 件の neg を確保できた行) のみ。label は教師リランカーの生 logit (size 6)
n-tuples-10k	10,000	n-tuples と同じ	quality_score 降順 上位 1 万行 (最高品質、デバッグ・早期実験向け)
n-tuples-50k	50,000	n-tuples と同じ	上位 5 万行 (品質と量のバランス)
n-tuples-100k	100,000	n-tuples と同じ	上位 10 万行 (有効行のほぼ全量)

すべての config の split は train。n-tuples-* の top-K サブセットは quality_score 降順 で並んでいるため、行順序は元の n-tuples と一致しない。

label カラムの形式 (n-tuples / n-tuples-* 共通)

List[float] × 6 で [score(query, positive), score(query, neg_1), …, score(query, neg_5)]。 label[0] が positive、label[1:] が negative_1 〜 negative_5 に順序通り対応する。 スコアは Cross-Encoder の 生 logit (sigmoid 適用前)。

使い方

pairs

from datasets import load_dataset

pairs = load_dataset("mahiyama/mmarco-ja-v3", "pairs", split="train")
print(pairs[0])
# {"query": "...", "positive": "..."}

triplets (1 hard negative / query)

triplets = load_dataset("mahiyama/mmarco-ja-v3", "triplets", split="train")
print(triplets[0])
# {"query": "...", "positive": "...", "negative": "..."}

n-tuples (5 hard negatives / query + 蒸留 logit)

ntuples = load_dataset("mahiyama/mmarco-ja-v3", "n-tuples", split="train")
print(ntuples[0])
# {
#   "query": "...",
#   "positive": "...",
#   "negative_1": "...", ..., "negative_5": "...",
#   "label": [12.34, 1.05, -4.21, -2.85, -5.13, -6.02],  # 生 logit
# }

top-K 高品質サブセット (KL 蒸留学習向け)

ds = load_dataset("mahiyama/mmarco-ja-v3", "n-tuples-10k", split="train")
ds = load_dataset("mahiyama/mmarco-ja-v3", "n-tuples-50k", split="train")
ds = load_dataset("mahiyama/mmarco-ja-v3", "n-tuples-100k", split="train")

Hard Negative Mining の方法

各クエリ q_i (元データ行 i) に対して以下を実施:

1. クエリ埋め込み — cl-nagoya/ruri-v3-310m (mean pool, L2 normalize, prefix 検索クエリ: , max_len=128, bf16) で 768 次元にエンコード。
2. コレクション埋め込み — cl-nagoya/ruri-v3-310m (mean pool, L2 normalize, prefix 検索文書: , max_len=256, bf16) で全 8,841,823 件をエンコード。
3. kNN 検索 — GPU 上で (Q @ D.T) を chunk 化して torch.topk で各クエリの top-100 候補を取得 (fp16 内積)。391k クエリ × 8.84M doc を約 1 分 (v2 検証済み)。
4. Positive 除外 — 各行の pos_ids 全体を kNN 結果から除外し、上位 15 件を negative 候補 とする。
5. 教師リランカーで蒸留スコア付与 — cl-nagoya/ruri-v3-reranker-310m (max_len=512, bf16, batch=256, activation_fn=Identity) で (query, positive) および 15 件の (query, neg_candidate) ペアの 生 logit を取得。
6. Hard Negative 選定:
   • positive の logit が 2.0 未満 の行は除外 (weak positive)。
   • pos - neg >= 4.0 を満たさない neg は候補から外す (false negative leak 防止)。
   • 残った neg 候補のうちリランカースコア降順 上位 5 件を negative_1 〜 negative_5 に。
   • 5 件未満の場合は kNN を段階的に top-30 → top-50 → top-100 まで拡張して追加候補を再 score し、リカバリ。それでも 5 件未満なら行 DROP。

統計 (2026-05-14)

指標	値
入力ペア数	391,060
validated 行数 (n-tuples)	186,764 (47.8%)
weak positive 除外 (pos < 2.0)	198,452 (50.7%)
neg 不足で DROP	5,844 (1.5%)
kNN top-30 で補充	38,874
kNN top-50 で補充	18,228
kNN top-100 で補充	19,010
教師の	logit

蒸留スコア付けの方法

n-tuples 配下の label カラムおよび n-tuples-* の top-K サブセットは、 教師モデル cl-nagoya/ruri-v3-reranker-310m の 生 logit を Cross-Encoder スコアとして各 (query, doc) ペア (positive 1 件 + negative 5 件) に付与したもの。

スコア付けの設定

項目	値
Teacher	cl-nagoya/ruri-v3-reranker-310m
Max length	512
推論精度	BF16
Batch size	256
入力フォーマット	単一文ペア (query, document)
出力	生 logit (sigmoid 適用前)。観測 logit レンジ おおむね ±12

KL 蒸留損失 (SparseDistillKLDivLoss / DistillKLDivLoss 等) は softmax(label / T) を target distribution として使うため、 sigmoid 後の [0, 1] 値だと softmax target が一様分布に潰れて ranking 情報が失われる。 これを防ぐため、教師の最終活性化を明示的に Identity に置き換えてスコアを出力した:

import torch.nn as nn
from sentence_transformers import CrossEncoder

teacher = CrossEncoder(
    "cl-nagoya/ruri-v3-reranker-310m",
    max_length=512,
    device="cuda",
    model_kwargs={"dtype": torch.bfloat16},
)
teacher.model.eval()
teacher.default_activation_function = nn.Identity()  # sigmoid を外す

scores = teacher.predict(
    [("query A", "passage A"), ("query A", "passage B")],
    batch_size=256,
    convert_to_numpy=True,
    activation_fn=nn.Identity(),   # sentence-transformers v5 では `activation_fn`
)
assert abs(scores).max() > 1.0  # sigmoid 混入チェック

quality_score: top-K サブセットのソート指標

n-tuples-10k / -50k / -100k は、label から計算した 学習価値ランキング quality_score の 降順 で上位 K 行を抽出したもの。 学習価値が高い行を以下の 3 軸で定義する:

1. positive が信頼できる — 教師が positive を高 logit に置く
2. 偽 negative がない — max(neg) が positive を超えない
3. negative が硬い — negative の logit がそこそこ高く、margin が中程度

import numpy as np

POS_MIN        = 2.0
MARGIN_MIN     = 0.5
MARGIN_PENALTY = 0.1

def quality_score_vec(labels: np.ndarray) -> np.ndarray:
    p      = labels[:, 0]
    neg    = labels[:, 1:]
    max_n  = neg.max(axis=1)
    mean_n = neg.mean(axis=1)
    margin = p - max_n

    fn_mask     = margin <= 0
    weak_mask   = (~fn_mask) & (p < POS_MIN)
    border_mask = (~fn_mask) & (~weak_mask) & (margin < MARGIN_MIN)
    valid_mask  = (~fn_mask) & (~weak_mask) & (~border_mask)

    raw = mean_n - MARGIN_PENALTY * margin
    return np.where(valid_mask, raw, -np.inf)

HNM 段で既に pos >= 2.0 と pos - neg >= 4.0 (margin >= 4.0) を満たしているため、 n-tuples の全行が valid_mask を通過する (fn_mask / weak_mask / border_mask いずれにも該当しない)。 ゆえに top-K 抽出は単に mean(neg) - 0.1 × margin の降順で並べたものに等しい。

KL 蒸留損失への組み込み

import torch.nn.functional as F

def kl_distill_loss(student_logits, teacher_label, T=2.0):
    log_p_student = F.log_softmax(student_logits / T, dim=-1)
    p_teacher     = F.softmax(teacher_label   / T, dim=-1)
    return F.kl_div(log_p_student, p_teacher, reduction="batchmean") * (T * T)

sentence-transformers の SparseDistillKLDivLoss / DistillKLDivLoss を使う場合は、 label カラムをそのまま teacher score として渡せばよい。

License

• Passage 本文は MS MARCO の機械翻訳 (mMARCO) 由来であり、元データの unicamp-dl/mmarco のライセンス (Apache-2.0) に従う。元の MS MARCO は MIT License。
• クエリは hpprc/mmarco-ja 由来。利用・再配布時は元データセットのライセンスと利用条件にも従うこと。

Citation

@misc{hpprc_mmarco_ja,
  author = {Hayato Tsukagoshi},
  title  = {hpprc/mmarco-ja: Japanese MS MARCO},
  year   = {2024},
  url    = {https://huggingface.co/datasets/hpprc/mmarco-ja},
}

@inproceedings{bonifacio2021mmarco,
  title  = {{mMARCO}: A Multilingual Version of the {MS MARCO} Passage Ranking Dataset},
  author = {Bonifacio, Luiz Henrique and Campiotti, Israel and Jeronymo, Vitor and Lotufo, Roberto and Nogueira, Rodrigo},
  year   = {2021},
}

Acknowledgements

• 元データ: hpprc/mmarco-ja (translated from unicamp-dl/mmarco)
• HNM 用 retriever: cl-nagoya/ruri-v3-310m
• 蒸留教師: cl-nagoya/ruri-v3-reranker-310m