Dataset Card for tw-book

本資料集收錄臺灣各級教科書（國中、大學等）以 OCR + 版面解析後輸出的繁體中文純文字段落，並附帶原始 PDF 來源路徑與字數統計，作為臺灣教育類書面語的繁中持續預訓練語料。

Dataset Details

Dataset Description

資料以「教育階段 / 學科」分目錄存放（例如 data/textbook/junior/health/、data/textbook/university/water/），每筆樣本包含：

• id：UUID。
• text：該頁／段落的純文字內容。
• word_count：字元數。
• token_count：tokenizer 切分後的 token 數，部分樣本為 null 預留。
• src：原始 PDF 頁面圖片路徑（保留以利回溯）。

教科書文體乾淨、用詞嚴謹、知識密度高，適合作為繁中模型在「正規教育」語境下的補充預訓練語料。

• Curated by: Huang Liang Hsun
• Language(s) (NLP): Traditional Chinese
• License: cc-by-nc-sa-4.0

Dataset Sources

• Repository: lianghsun/tw-book
• Paper: TBA

Uses

Direct Use

• 繁中模型的持續預訓練，補強教科書文體與正規知識覆蓋。
• 衍生下游教學 chatbot、解題助理之種子資料。

Out-of-Scope Use

• 不適用作為現行課綱／教材之事實依據；教科書版本會逐年更新。
• 不應作為非授權商業用途。

Dataset Structure

{
  "id": "090a391a-8ce8-47c2-9052-e9c8a3a3d15a",
  "text": "Go 健康 健康除暴家 雙語音檔\n第1章 健康家庭加油 ...",
  "word_count": 639,
  "token_count": null,
  "src": "/.../國中健康與教育第二冊一下/page_0001.png"
}

config textbook 涵蓋全部教科書資料；下層目錄依教育階段／學科再分。

Dataset Creation

Curation Rationale

通用網頁語料雖然龐大，但教科書級別的嚴謹文本相對稀少。本資料集刻意以教科書為來源，補強模型對於正規教育文體與知識結構的學習。

Source Data

Data Collection and Processing

1. 蒐集臺灣各級教科書 PDF。
2. 以 OCR + 版面解析將每頁轉為文字段落，保留原圖片路徑作為 src。
3. 計算字元數，並輸出為 JSONL，依教育階段／學科分目錄存放。

Who are the source data producers?

原始教科書內容由各教科書出版社／編輯團隊撰寫。

Annotations

Annotation process

無人工標註；metadata 由處理流程自動產生。

Who are the annotators?

無標註者。

Personal and Sensitive Information

教科書內容無個人識別資料。

Bias, Risks, and Limitations

• OCR 噪音：表格、圖片、特殊符號可能影響文字輸出品質。
• 教科書內容反映特定編寫年代之觀點，與最新研究／教材可能有出入。
• 著作權／授權限制：本資料集僅以 cc-by-nc-sa-4.0 提供，原教科書著作權仍屬出版方。

Recommendations

建議在訓練前再做一次 OCR 噪音過濾；下游若用於商用，需另外取得教科書授權。

Citation

@misc{tw_book,
  title        = {tw-book: Taiwan Textbook OCR Corpus},
  author       = {Huang, Liang Hsun},
  year         = {2024},
  howpublished = {\url{https://huggingface.co/datasets/lianghsun/tw-book}}
}

Dataset Card Authors

Huang Liang Hsun

Dataset Card Contact

Huang Liang Hsun