Datasets:
text string | target_start int64 | target_end int64 | surface string | lemma string | category string | gold_kind string | label int64 | clause_id string | flipped bool | is_hard bool | doc_id string | source string | license string |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
御指導くださる方に感謝する。 | 3 | 7 | くださる | くださる | aux_verb | kana | 0 | C-HOJODOUSHI-1 | false | true | seed-034 | synthetic-seed | CC0-1.0 |
御指導下さる方に感謝する。 | 3 | 6 | 下さる | くださる | aux_verb | kana | 0 | C-HOJODOUSHI-1 | true | true | seed-034 | synthetic-seed+flip | CC0-1.0 |
調査を進めているところである。 | 8 | 11 | ところ | ところ | formal_noun | kana | 0 | C-KEISHIKI-1 | false | true | seed-012 | synthetic-seed | CC0-1.0 |
調査を進めている所である。 | 8 | 9 | 所 | ところ | formal_noun | kana | 0 | C-KEISHIKI-1 | true | true | seed-012 | synthetic-seed+flip | CC0-1.0 |
段階的に整備を進めていく。 | 10 | 12 | いく | いく | aux_verb | kana | 0 | C-HOJODOUSHI-1 | false | true | seed-042 | synthetic-seed | CC0-1.0 |
段階的に整備を進めて行く。 | 10 | 12 | 行く | いく | aux_verb | kana | 0 | C-HOJODOUSHI-1 | true | true | seed-042 | synthetic-seed+flip | CC0-1.0 |
報告書には事の次第を記載する。 | 5 | 6 | 事 | こと | formal_noun | kanji | 1 | C-JISHITSU-1 | false | true | seed-005 | synthetic-seed | CC0-1.0 |
報告書にはことの次第を記載する。 | 5 | 7 | こと | こと | formal_noun | kanji | 1 | C-JISHITSU-1 | true | true | seed-005 | synthetic-seed+flip | CC0-1.0 |
寒さが増してくる。 | 6 | 8 | くる | くる | aux_verb | kana | 0 | C-HOJODOUSHI-1 | false | true | seed-044 | synthetic-seed | CC0-1.0 |
寒さが増して来る。 | 6 | 8 | 来る | くる | aux_verb | kana | 0 | C-HOJODOUSHI-1 | true | true | seed-044 | synthetic-seed+flip | CC0-1.0 |
荷物を棚に置く。 | 5 | 7 | 置く | おく | aux_verb | kanji | 1 | C-HONDOUSHI-1 | false | true | seed-041 | synthetic-seed | CC0-1.0 |
荷物を棚におく。 | 5 | 7 | おく | おく | aux_verb | kanji | 1 | C-HONDOUSHI-1 | true | true | seed-041 | synthetic-seed+flip | CC0-1.0 |
事の重大さに鑑み、速やかに対応する。 | 0 | 1 | 事 | こと | formal_noun | kanji | 1 | C-JISHITSU-1 | false | true | seed-004 | synthetic-seed | CC0-1.0 |
ことの重大さに鑑み、速やかに対応する。 | 0 | 2 | こと | こと | formal_noun | kanji | 1 | C-JISHITSU-1 | true | true | seed-004 | synthetic-seed+flip | CC0-1.0 |
担当者が来る。 | 4 | 6 | 来る | くる | aux_verb | kanji | 1 | C-HONDOUSHI-1 | false | true | seed-045 | synthetic-seed | CC0-1.0 |
担当者がくる。 | 4 | 6 | くる | くる | aux_verb | kanji | 1 | C-HONDOUSHI-1 | true | true | seed-045 | synthetic-seed+flip | CC0-1.0 |
記念品を頂く。 | 4 | 6 | 頂く | いただく | aux_verb | kanji | 1 | C-HONDOUSHI-1 | false | true | seed-029 | synthetic-seed | CC0-1.0 |
記念品をいただく。 | 4 | 8 | いただく | いただく | aux_verb | kanji | 1 | C-HONDOUSHI-1 | true | true | seed-029 | synthetic-seed+flip | CC0-1.0 |
賞状を下さる。 | 3 | 6 | 下さる | くださる | aux_verb | kanji | 1 | C-HONDOUSHI-1 | false | true | seed-035 | synthetic-seed | CC0-1.0 |
賞状をくださる。 | 3 | 7 | くださる | くださる | aux_verb | kanji | 1 | C-HONDOUSHI-1 | true | true | seed-035 | synthetic-seed+flip | CC0-1.0 |
壊れた物を回収する。 | 3 | 4 | 物 | もの | formal_noun | kanji | 1 | C-JISHITSU-1 | false | true | seed-046 | synthetic-seed | CC0-1.0 |
壊れたものを回収する。 | 3 | 5 | もの | もの | formal_noun | kanji | 1 | C-JISHITSU-1 | true | true | seed-046 | synthetic-seed+flip | CC0-1.0 |
書類を机に置いておく。 | 5 | 7 | 置い | おく | aux_verb | kanji | 1 | C-HONDOUSHI-1 | false | true | seed-040 | synthetic-seed | CC0-1.0 |
書類を机に置いておく。 | 8 | 10 | おく | おく | aux_verb | kana | 0 | C-HOJODOUSHI-1 | false | true | seed-040 | synthetic-seed | CC0-1.0 |
書類を机におくておく。 | 5 | 7 | おく | おく | aux_verb | kanji | 1 | C-HONDOUSHI-1 | true | true | seed-040 | synthetic-seed+flip | CC0-1.0 |
書類を机に置いて置く。 | 8 | 10 | 置く | おく | aux_verb | kana | 0 | C-HOJODOUSHI-1 | true | true | seed-040 | synthetic-seed+flip | CC0-1.0 |
資料を下さい。 | 3 | 6 | 下さい | ください | aux_verb | kanji | 1 | C-HONDOUSHI-1 | false | true | seed-033 | synthetic-seed | CC0-1.0 |
資料をください。 | 3 | 7 | ください | ください | aux_verb | kanji | 1 | C-HONDOUSHI-1 | true | true | seed-033 | synthetic-seed+flip | CC0-1.0 |
現地の状況を見る。 | 6 | 8 | 見る | みる | aux_verb | kanji | 1 | C-HONDOUSHI-1 | false | true | seed-038 | synthetic-seed | CC0-1.0 |
現地の状況をみる。 | 6 | 8 | みる | みる | aux_verb | kanji | 1 | C-HONDOUSHI-1 | true | true | seed-038 | synthetic-seed+flip | CC0-1.0 |
時を移さず措置を講じる。 | 0 | 1 | 時 | とき | formal_noun | kanji | 1 | C-JISHITSU-1 | false | true | seed-010 | synthetic-seed | CC0-1.0 |
ときを移さず措置を講じる。 | 0 | 2 | とき | とき | formal_noun | kanji | 1 | C-JISHITSU-1 | true | true | seed-010 | synthetic-seed+flip | CC0-1.0 |
祝いの品を頂いた。 | 5 | 7 | 頂い | いただく | aux_verb | kanji | 1 | C-HONDOUSHI-1 | false | true | seed-030 | synthetic-seed | CC0-1.0 |
祝いの品をいただくた。 | 5 | 9 | いただく | いただく | aux_verb | kanji | 1 | C-HONDOUSHI-1 | true | true | seed-030 | synthetic-seed+flip | CC0-1.0 |
御確認いただくようお願いする。 | 3 | 7 | いただく | いただく | aux_verb | kana | 0 | C-HOJODOUSHI-1 | false | true | seed-027 | synthetic-seed | CC0-1.0 |
御確認頂くようお願いする。 | 3 | 5 | 頂く | いただく | aux_verb | kana | 0 | C-HOJODOUSHI-1 | true | true | seed-027 | synthetic-seed+flip | CC0-1.0 |
確認のため書類を添付する。 | 3 | 5 | ため | ため | formal_noun | kana | 0 | C-KEISHIKI-1 | false | false | seed-026 | synthetic-seed | CC0-1.0 |
三日のうちに回答する。 | 3 | 5 | うち | うち | formal_noun | kana | 0 | C-KEISHIKI-1 | false | false | seed-023 | synthetic-seed | CC0-1.0 |
三日の内に回答する。 | 3 | 4 | 内 | うち | formal_noun | kana | 0 | C-KEISHIKI-1 | true | false | seed-023 | synthetic-seed+flip | CC0-1.0 |
一度検討してみる。 | 6 | 8 | みる | みる | aux_verb | kana | 0 | C-HOJODOUSHI-1 | false | true | seed-036 | synthetic-seed | CC0-1.0 |
一度検討して見る。 | 6 | 8 | 見る | みる | aux_verb | kana | 0 | C-HOJODOUSHI-1 | true | true | seed-036 | synthetic-seed+flip | CC0-1.0 |
災害が起こったときに備える。 | 7 | 9 | とき | とき | formal_noun | kana | 0 | C-KEISHIKI-1 | false | true | seed-008 | synthetic-seed | CC0-1.0 |
災害が起こった時に備える。 | 7 | 8 | 時 | とき | formal_noun | kana | 0 | C-KEISHIKI-1 | true | true | seed-008 | synthetic-seed+flip | CC0-1.0 |
資料を事前に配布しておく。 | 10 | 12 | おく | おく | aux_verb | kana | 0 | C-HOJODOUSHI-1 | false | true | seed-039 | synthetic-seed | CC0-1.0 |
資料を事前に配布して置く。 | 10 | 12 | 置く | おく | aux_verb | kana | 0 | C-HOJODOUSHI-1 | true | true | seed-039 | synthetic-seed+flip | CC0-1.0 |
必要なものを準備しておく。 | 3 | 5 | もの | もの | formal_noun | kana | 0 | C-KEISHIKI-1 | false | true | seed-017 | synthetic-seed | CC0-1.0 |
必要なものを準備しておく。 | 10 | 12 | おく | おく | aux_verb | kana | 0 | C-HOJODOUSHI-1 | false | true | seed-017 | synthetic-seed | CC0-1.0 |
必要な物を準備しておく。 | 3 | 4 | 物 | もの | formal_noun | kana | 0 | C-KEISHIKI-1 | true | true | seed-017 | synthetic-seed+flip | CC0-1.0 |
必要なものを準備して置く。 | 10 | 12 | 置く | おく | aux_verb | kana | 0 | C-HOJODOUSHI-1 | true | true | seed-017 | synthetic-seed+flip | CC0-1.0 |
正しいものと認められる。 | 3 | 5 | もの | もの | formal_noun | kana | 0 | C-KEISHIKI-1 | false | true | seed-016 | synthetic-seed | CC0-1.0 |
正しい物と認められる。 | 3 | 4 | 物 | もの | formal_noun | kana | 0 | C-KEISHIKI-1 | true | true | seed-016 | synthetic-seed+flip | CC0-1.0 |
時を大切にする。 | 0 | 1 | 時 | とき | formal_noun | kanji | 1 | C-JISHITSU-1 | false | true | seed-048 | synthetic-seed | CC0-1.0 |
ときを大切にする。 | 0 | 2 | とき | とき | formal_noun | kanji | 1 | C-JISHITSU-1 | true | true | seed-048 | synthetic-seed+flip | CC0-1.0 |
申請を行うときの手数料を定める。 | 5 | 7 | とき | とき | formal_noun | kana | 0 | C-KEISHIKI-1 | false | true | seed-007 | synthetic-seed | CC0-1.0 |
申請を行う時の手数料を定める。 | 5 | 6 | 時 | とき | formal_noun | kana | 0 | C-KEISHIKI-1 | true | true | seed-007 | synthetic-seed+flip | CC0-1.0 |
詳細は担当まで御連絡ください。 | 10 | 14 | ください | ください | aux_verb | kana | 0 | C-HOJODOUSHI-1 | false | true | seed-032 | synthetic-seed | CC0-1.0 |
詳細は担当まで御連絡下さい。 | 10 | 13 | 下さい | ください | aux_verb | kana | 0 | C-HOJODOUSHI-1 | true | true | seed-032 | synthetic-seed+flip | CC0-1.0 |
現在のところ支障は生じていない。 | 3 | 6 | ところ | ところ | formal_noun | kana | 0 | C-KEISHIKI-1 | false | true | seed-011 | synthetic-seed | CC0-1.0 |
現在の所支障は生じていない。 | 3 | 4 | 所 | ところ | formal_noun | kana | 0 | C-KEISHIKI-1 | true | true | seed-011 | synthetic-seed+flip | CC0-1.0 |
提出された書類に不備がないことを確認する。 | 13 | 15 | こと | こと | formal_noun | kana | 0 | C-KEISHIKI-1 | false | true | seed-001 | synthetic-seed | CC0-1.0 |
提出された書類に不備がない事を確認する。 | 13 | 14 | 事 | こと | formal_noun | kana | 0 | C-KEISHIKI-1 | true | true | seed-001 | synthetic-seed+flip | CC0-1.0 |
次のとおり実施する。 | 2 | 5 | とおり | とおり | formal_noun | kana | 0 | C-KEISHIKI-1 | false | false | seed-024 | synthetic-seed | CC0-1.0 |
次の通り実施する。 | 2 | 4 | 通り | とおり | formal_noun | kana | 0 | C-KEISHIKI-1 | true | false | seed-024 | synthetic-seed+flip | CC0-1.0 |
委員会で事の是非を論じる。 | 4 | 5 | 事 | こと | formal_noun | kanji | 1 | C-JISHITSU-1 | false | true | seed-003 | synthetic-seed | CC0-1.0 |
委員会でことの是非を論じる。 | 4 | 6 | こと | こと | formal_noun | kanji | 1 | C-JISHITSU-1 | true | true | seed-003 | synthetic-seed+flip | CC0-1.0 |
事故が発生したときは直ちに連絡する。 | 7 | 9 | とき | とき | formal_noun | kana | 0 | C-KEISHIKI-1 | false | true | seed-006 | synthetic-seed | CC0-1.0 |
事故が発生した時は直ちに連絡する。 | 7 | 8 | 時 | とき | formal_noun | kana | 0 | C-KEISHIKI-1 | true | true | seed-006 | synthetic-seed+flip | CC0-1.0 |
会場となる所を下見する。 | 5 | 6 | 所 | ところ | formal_noun | kanji | 1 | C-JISHITSU-1 | false | true | seed-047 | synthetic-seed | CC0-1.0 |
会場となるところを下見する。 | 5 | 8 | ところ | ところ | formal_noun | kanji | 1 | C-JISHITSU-1 | true | true | seed-047 | synthetic-seed+flip | CC0-1.0 |
重い物を運搬する際は注意する。 | 2 | 3 | 物 | もの | formal_noun | kanji | 1 | C-JISHITSU-1 | false | true | seed-019 | synthetic-seed | CC0-1.0 |
重いものを運搬する際は注意する。 | 2 | 4 | もの | もの | formal_noun | kanji | 1 | C-JISHITSU-1 | true | true | seed-019 | synthetic-seed+flip | CC0-1.0 |
申請の内容について確認することが必要である。 | 13 | 15 | こと | こと | formal_noun | kana | 0 | C-KEISHIKI-1 | false | true | seed-000 | synthetic-seed | CC0-1.0 |
申請の内容について確認する事が必要である。 | 13 | 14 | 事 | こと | formal_noun | kana | 0 | C-KEISHIKI-1 | true | true | seed-000 | synthetic-seed+flip | CC0-1.0 |
期限までに手続を終えることが求められる。 | 11 | 13 | こと | こと | formal_noun | kana | 0 | C-KEISHIKI-1 | false | true | seed-002 | synthetic-seed | CC0-1.0 |
期限までに手続を終える事が求められる。 | 11 | 12 | 事 | こと | formal_noun | kana | 0 | C-KEISHIKI-1 | true | true | seed-002 | synthetic-seed+flip | CC0-1.0 |
Scribe usage-judgment dataset
Span-level data for judging context-dependent kanji/kana usage in Japanese official writing.
Generated by scripts/build_dataset.py in the GitHub repo.
What the claim rests on
The center of this dataset is the hard split: occurrences of words that appear in both usages
(kana and kanji) across the corpus. Because uniform dictionary replacement collapses a word to a single
spelling, it is structurally forced to mislabel one side of this split. Accuracy here is the headline metric.
Fields
| field | description |
|---|---|
text |
the sentence |
target_start / target_end |
character offsets of the target word (half-open interval) |
surface |
surface form of the target (the wrong spelling in flipped examples) |
lemma |
canonical form (こと, いただく, …) |
category |
formal_noun / aux_verb |
gold_kind |
norm-correct kind, kana / kanji (determined by context, independent of surface) |
label |
0 = kana, 1 = kanji |
clause_id |
supporting clause (C-KEISHIKI-1, …) |
flipped |
whether this is a flip-generated error |
is_hard |
whether it belongs to the hard split |
doc_id |
split unit (a sentence and its flip stay in the same split) |
source / license |
provenance and terms |
How it is built
- Positives — official-style sentences authored for this project (
SEED_SENTENCESinscribe/collect.py), annotated with each target's correct kind. Spans are derived from a morphological analyzer and cross-checked against the annotation, so offset mistakes are impossible. - Flipped errors (
scribe/flip.py) — flip only the target to the opposite spelling, preserving position and gold label. Surface changes but context does not, so a model must learn from context rather than memorize surface. - Hard tagging (
scribe/collect.py:mark_hard) — mark occurrences of words that appear in both usages. - Split — by
doc_idinto train/validation/test (no flip leakage).hardis a separate diagnostic split that cross-cuts the others (it overlaps train), so evaluate generalization ontestand usehardas a diagnostic.
License and redistribution
- All bundled data is synthetic seed text (CC0-1.0); no body text of government documents is included.
- For real-corpus training, see
DocumentSource/KNOWN_SOURCESinscribe/collect.pyand re-confirm each source's terms at fetch time. Non-redistributable sources are used for local training only, never stored. Provenance and terms are recorded insources.json.
Sources of the norm
- "Considerations for Creating Official Documents" (Council for Cultural Affairs recommendation, 7 Jan 2022)
- Cabinet Directive No. 1 of 2010 on kanji use in official documents — the operative lists of words written in kana / kanji
- "Rules for Okurigana" (Cabinet Notification) and the "List of Jōyō Kanji" (Cabinet Notification No. 2)
This dataset carries mappings to clause numbers but does not reproduce the normative text verbatim.
Limitations
- The seed sentences are a small, controlled set and do not represent the distribution of natural text.
- The monitored vocabulary is limited to
data/norms/lexicon.json(representative formal nouns and auxiliary verbs).
- Downloads last month
- 26