Dataset Card for tw-paper-translate

⚠️ 授權逐列不同，使用前必讀下方「授權」一節。 本資料集彙整多篇論文的翻譯， 來源論文各有自己的授權（arXiv License、CC BY、CC BY-SA、CC BY-NC-SA…）， 無法用單一授權描述整包，所以 license 是資料欄而不是 dataset 層級的斷言。 你要自己按 license 欄篩出符合你用途的子集。

🚧 持續累積中，且未經逐句人工校對。目前 3 篇 / 579 列。

📖 tw-paper-translate 是 讀紙 ReadPaper 的翻譯副產物： 把 AI 論文翻成繁體中文時，以段落為單位保存英文原文與繁中譯文的對齊配對， 並帶上論文版面資訊（段落類別、頁次、bbox）與翻譯來源 metadata。

Dataset Details

這份資料跟別的翻譯語料差在哪

1. 段落級對齊，不是整篇對整篇——每一列就是一個可直接訓練的翻譯配對。
2. 帶版面標註。段落類別（Text / Section-header / Table / Caption / Formula / Title）來自 layout 模型對 PDF 的版面判讀，所以可以只取內文、 只取圖表說明、或排除表格。這是紙本論文才有、網頁語料沒有的訊號。
3. 術語一致性有跡可循。glossary_terms 記錄該段實際套用了哪些術語詞條—— 翻譯前先掃全文抽術語表、定案譯法，再逐段帶著詞表翻譯，所以同一個詞不會 前後不一致。
4. 刻意不翻的段落也保留並以 translated=false 標記（數學公式保留 LaTeX、 參考文獻保留英文原文），讓你知道那不是漏翻。

產出方式

PDF → 逐頁 150 DPI 轉圖 → layout 模型取版面（bbox / 類別 / 文字）
    → 切段（語意邊界優先於字數：章節標題、公式、表格、圖說各自成段）
    → 第一輪：抽術語表（與全站累積詞表合併，既有譯法優先）
    → 第二輪：逐段翻譯，每段帶著該段用得到的詞條
    → 組裝 markdown（上站）＋ 每段一列（本資料集）

翻譯由 LLM 驅動（模型本身不對外公開資訊，僅說明為 LLM），部署在自架的推論服務上。 pipeline_version 欄記錄切段與 prompt 的版本，改版後重跑的論文會帶新版本號。

欄位

欄位	型別	說明
paper_id	string	arXiv ID，含版本（例 2609.24974v1）
paper_title / paper_title_zhtw	string	論文標題（原文／繁中）
paper_url / paper_date	string	arXiv 連結、投稿日期
license	string	來源論文的授權——篩選用的關鍵欄位
seg_id / seg_index	string / int32	段落 id（{paper_id}#{n}）與全文順序
section	string	所屬章節（原文標題）
category	string	版面類別：Text / Section-header / Table / Caption / Formula / Title
page	int32	該段所在頁次（1-based）
bbox	list<float32>	版面框 [x1,y1,x2,y2]，座標系為 150 DPI 渲染圖的像素
source_text	string	英文原文段落
translated_text	string	繁中譯文（translated=false 時等同原文）
translated	bool	是否真的翻譯過。false＝刻意保留原文
is_reference	bool	是否屬參考文獻區（一律保留原文英文）
glossary_terms	list<string>	該段實際套用的術語詞條
src_chars / tgt_chars	int32	原文／譯文字數
layout_model / translate_model / glossary_model	string	各階段模型
pipeline_version	string	管線版本
translated_at	string	ISO 8601 UTC
translation_error / error_message	bool / string	該段是否失敗及原因

授權

整包沒有單一授權。 每一列的 license 欄記錄該段所屬論文的授權：

license 值	可以怎麼用
CC BY x.x	標示出處即可自由使用與再發布
CC BY-SA x.x	同上，但衍生作品須以相同條款釋出
CC BY-NC-SA x.x	同上，且不得商業利用
arXiv License	arXiv 的非專屬散布授權。它授權 arXiv 散布，並未授權第三方重新發布——這批請自行評估你的用途是否構成合理使用
未標明授權	無明示授權（多為 GitHub 技術報告）＝保留所有權利

不收錄 CC BY-NC-ND 的論文：ND 條款不允許衍生作品，翻譯就是衍生作品。

譯文本身是譯者的衍生作品，隨對應來源論文的條款釋出；CC BY-SA / CC BY-NC-SA 來源的譯文依相同條款釋出。

用途與限制

適合：訓練或評測英→繁中的學術文本翻譯、術語一致性研究、版面感知的文件翻譯。

限制：

• 未經逐句人工校對。這是自動化管線的輸出，抽樣品質良好但必然有錯。
• 原文來自 layout 模型對 PDF 的判讀，可能有 OCR 層級的誤差（尤其表格與公式）。
• 段落切分依語意邊界與字數，不保證與原文的段落一對一。
• 只涵蓋 AI／ML 領域，領域外泛化未經驗證。

Citation

@misc{tw_papertranslate,
  title  = {tw-paper-translate: Paragraph-aligned English-to-Traditional-Chinese parallel corpus of AI papers},
  author = {Huang, Liang Hsun},
  year   = {2026},
  url    = {https://huggingface.co/datasets/lianghsun/tw-paper-translate}
}