WayenVan/ph14t-multilang

PHOENIX-Weather 2014T Multilingual

这是一个基于 PHOENIX-Weather 2014T 视频级数据构建的德语、英语和中文多语言索引数据集。

每个视频在输出中对应三行：

(name, de)
(name, en)
(name, zh)

三行共享同一份视频 metadata 和帧路径，但 translation 与 lang 不同。数据以 Parquet 保存，可由 Hugging Face datasets 直接加载。

数据集还提供通过词性筛选得到的 pseudo_gloss_* 字段。这些字段是从自然语言翻译中抽取的内容词序列，不是 PHOENIX-2014T 官方手语 gloss 标注。

数据来源

• 视频 metadata、帧路径和德语翻译来自 Hugging Face 数据集 WayenVan/PHOENIX-Weather14T 的 video_level config。
• 中文翻译位于 resources/ph14t_chinese/。
• 英文翻译位于 resources/ph14t_english/。

额外语言包的文件命名为：

resources/
├── ph14t_chinese/
│   ├── ph14t_train_Chinese.csv
│   ├── ph14t_dev_Chinese.csv
│   └── ph14t_test_Chinese.csv
└── ph14t_english/
    ├── ph14t_train_English.csv
    ├── ph14t_dev_English.csv
    └── ph14t_test_English.csv

CSV 使用 | 分隔，必须包含：

name|translation

构建脚本要求德语、英语和中文数据中的 name 集合完全一致，并拒绝缺失、null 或重复的 name。

Hugging Face 加载方式

数据上传到 Hugging Face Hub 后，可以直接加载：

from datasets import load_dataset

dataset = load_dataset("WayenVan/ph14t-multilang")

print(dataset)
print(dataset["train"][0])

Dataset Card 将原始 dev 文件公开为 Hugging Face 惯用的 validation split：

train = dataset["train"]
validation = dataset["validation"]
test = dataset["test"]

也可以直接从本地 Parquet 加载：

from datasets import load_dataset

data_files = {
    "train": "data/ph14t_multilingual_train.parquet",
    "validation": "data/ph14t_multilingual_dev.parquet",
    "test": "data/ph14t_multilingual_test.parquet",
}

dataset = load_dataset("parquet", data_files=data_files)

只读取一个 split：

train = load_dataset(
    "parquet",
    data_files="data/ph14t_multilingual_train.parquet",
    split="train",
)

数据组织

输出文件为：

data/
├── ph14t_multilingual_train.parquet
├── ph14t_multilingual_dev.parquet
└── ph14t_multilingual_test.parquet

输出行数应满足：

multilingual rows = origin videos × 3 languages

当前生成文件的规模为：

Hugging Face split	源 split	视频数	多语言行数
train	train	7,096	21,288
validation	dev	519	1,557
test	test	642	1,926

同一视频的三行通过 name 关联：

example_name = train[0]["name"]
rows = train.filter(lambda row: row["name"] == example_name)
print(rows["lang"])

核心字段

字段	类型概念	说明
name	string	视频/样本的唯一标识；同一个 name 对应 de、en、zh 三行
lang	string	当前翻译语言：de、en 或 zh
translation	string	当前语言的自然语言翻译
video	string	从源数据集继承的视频标识或路径
start / end	int64	从源数据集继承的样本边界
speaker	string	signer/speaker 标识
orth	string	从源数据集继承的原始转写字段
frames	sequence[string]	从源视频级数据集继承的帧路径；构建时不解码图像
backend_model	string	生成当前行 pseudo-gloss 时使用的分析模型
tokens	sequence[string]	分词后的完整非空白 token 序列
token_offsets	sequence	每个 token 在 stripped translation 中的 [start, end) 字符位置
content_mask	sequence[int]	与 tokens 对齐；默认规则保留为 1，否则为 0
pseudo_gloss_default	string	保留 NOUN、VERB、ADJ、ADV、NUM、PRON、PROPN；已做 lemma 归一化 + 小写化
pseudo_gloss_strict	string	default 去掉 PRON；同样做了 lemma 归一化 + 小写化
pseudo_gloss_relaxed	string	default 加入 AUX；同样做了 lemma 归一化 + 小写化
pseudo_gloss_offsets	sequence	与 default pseudo-gloss token 对齐的字符位置

确切 Hugging Face 类型可以在加载后检查：

print(dataset["train"].features)

Pseudo-gloss 生成规则

三种语言最终统一使用 UPOS 类别筛选内容词：

default = NOUN + VERB + ADJ + ADV + NUM + PRON + PROPN
strict  = default - PRON
relaxed = default + AUX

语言后端分别为：

语言	后端	默认模型
中文	HanLP tokenizer	CTB9_TOK_ELECTRA_SMALL
中文	HanLP POS	CTB9_POS_ELECTRA_SMALL
英文	spaCy	en_core_web_sm
德文	spaCy	de_core_news_md

HanLP 首先输出 CTB 词性标签，脚本再将其映射为 UPOS。spaCy 的 Token.pos_ 本身就是 UPOS 标签。这样三种语言使用相同的最终筛选集合，但不同模型之间的语言学判断不保证逐词完全等价。

三个 pseudo_gloss_* 变体都会做同样的归一化，保证是"干净"的 gloss：

• 词形还原（lemma）：英/德使用 spaCy 的 lemma，去掉时态变化和单复数（如 gave → give、apples → apple、Katzen → Katze）；中文没有真正的屈折变化，HanLP 的 CTB9 POS 模型也不提供 lemma，因此中文回退为分词后的表层词形。
• 统一小写：所有语言的输出都转小写，避免句首大写、专有名词大写等造成同一个词在不同位置形式不一致。
• 否定词不做归一化处理：如 not/nicht/不/没 等仍按词性正常参与筛选（多为 ADV，属于 default 集合），不会被单独删除或替换——手语 gloss 中否定通常是独立的语义/手势单元，删除会丢失信息。
• tokens 列本身保持未归一化的原始表层分词结果，不受以上处理影响。

德语默认从 de_core_news_sm 换成了 de_core_news_md：md 模型的 lemmatizer 明显更准，能正确处理更多不规则复数/变位（例如 sm 处理不了的 Hunde → Hund、大写异常句里的动词变位等）。

环境准备

构建过程需要：

datasets
polars
spaCy
en_core_web_sm
de_core_news_md
HanLP 2.x
PyTorch 或 HanLP 支持的相应后端

示例安装命令：

python -m pip install datasets polars spacy 'hanlp[pt]'
python -m spacy download en_core_web_sm
python -m spacy download de_core_news_md

如果 spaCy 官方模型源限流（Server error (429)），可以直接从 GitHub Release 装 wheel：

pip install "de_core_news_md @ https://github.com/explosion/spacy-models/releases/download/de_core_news_md-3.8.0/de_core_news_md-3.8.0-py3-none-any.whl"

HanLP 中文模型会在第一次处理中文行时自动下载。

脚本包含 HanLP 2.1.3 对 Transformers 5 的兼容适配：当 encode_plus 和 batch_encode_plus 不存在时，将旧调用转发到当前 tokenizer callable API。该适配只在运行进程内生效，不修改已安装的软件包。

构建数据集

构建所有 split：

./scripts/build_ph14t_multilang.sh

Shell 脚本固定使用两个 worker，并按顺序构建 train、dev、test。

只构建一个或多个指定 split：

./scripts/build_ph14t_multilang.sh train
./scripts/build_ph14t_multilang.sh dev test

直接调用 Python 构建脚本：

python scripts/build_ph14t_multilang_with_spacy.py \
  --mode train \
  --zh-data-root resources/ph14t_chinese \
  --en-data-root resources/ph14t_english \
  --workers 2 \
  --output data/ph14t_multilingual_train.parquet

如果只需要多语言索引而不需要 pseudo-gloss：

python scripts/build_ph14t_multilang_with_spacy.py \
  --mode train \
  --zh-data-root resources/ph14t_chinese \
  --en-data-root resources/ph14t_english \
  --no-gloss \
  --output data/ph14t_multilingual_train.parquet

覆盖语言模型

默认情况下不需要指定模型。需要使用其他 spaCy 模型时，英语和德语必须分别设置：

python scripts/build_ph14t_multilang_with_spacy.py \
  --mode train \
  --zh-data-root resources/ph14t_chinese \
  --en-data-root resources/ph14t_english \
  --en-spacy-model en_core_web_trf \
  --de-spacy-model de_dep_news_trf \
  --workers 2 \
  --output data/ph14t_multilingual_train.parquet

不能用德语 spaCy 模型处理英语行，也不能用英语模型处理德语行。

推送到 Hugging Face

构建完 Parquet 文件后，用脚本把整个仓库（含 data/、README.md）推送到 Hugging Face dataset 仓库 WayenVan/ph14t-multilang：

./scripts/push_to_hg.sh              # 使用默认 commit message
./scripts/push_to_hg.sh "Add zh normalization"   # 自定义 commit message

脚本会优先使用新版 hf CLI（找不到时回退到 huggingface-cli），执行 upload --repo-type dataset，并排除 .git/、scripts/__pycache__/。推送前需要先登录：

hf auth login

或设置 HF_TOKEN 环境变量。

构建时的数据校验

构建脚本在写出 Parquet 前执行以下检查：

• origin、中文和英文数据都必须包含 name、translation。
• name 不得为 null。
• 每个输入中的 name 必须唯一。
• 中文和英文 name 集合必须与 origin 完全一致。
• join 后行数必须严格等于 origin 行数的三倍。
• HanLP tokenizer 输出的 token 数必须等于 POS tag 数。

任何检查失败都会终止构建，不会写出看似成功但行对齐错误的数据集。

项目结构

.
├── README.md
├── data/
├── resources/
│   ├── ph14t_chinese/
│   └── ph14t_english/
└── scripts/
    ├── build_ph14t_multilang.sh
    ├── build_ph14t_multilang_with_spacy.py
    ├── extract_gloss_columns.py
    └── push_to_hg.sh

注意事项

• pseudo_gloss_* 是自然语言内容词序列，不等同于手语标注 gloss。
• 中文 pseudo-gloss 使用空格连接分词结果；原始中文翻译保留在 translation。
• offset 相对于去除首尾空白后的 translation，而不是未经处理的原始字符串。
• Parquet 中的 frames 是源数据集提供的索引信息；本构建脚本不会主动解码或重新编码视频帧。
• 发布派生数据集前，请确认源数据集和中英文翻译资源的许可证、署名及再分发要求。