--- pretty_name: test strict shuffled task_categories: - text-generation tags: - parquet license: odc-by language: - ja --- [Japanese / 日本語版](#japanese) # ClimbLab-Ja ClimbLab-Ja is a high-quality 300-billion-token Japanese corpus with 20 clusters. It is a Japanese adaptation of the [nvidia/Nemotron-ClimbLab](https://huggingface.co/datasets/nvidia/Nemotron-ClimbLab) approach. Based on [LLM-jp Corpus v4](https://gitlab.llm-jp.nii.ac.jp/datasets/llm-jp-corpus-v4), we semantically reorganized and filtered the dataset into 20 distinct clusters, resulting in a high-quality 300-billion-token corpus. Specifically, we first grouped the data into 1,000 groups based on topic information. Then we assigned six scores from 0 to 5 to each group and document: quality, advertisement, informational value, educational value, cultural value, and creative value. Low-quality clusters and documents were removed based on these scores. This dataset is for research and development only. ## Dataset Details - Intended Usage: Pre-training language models. - Format: Text in parquet format. - Size: 300B tokens. ## Filtering Rather than applying aggressive filtering, we focused on removing clearly low-quality data while retaining a diverse corpus with broad coverage. We removed clusters that did not satisfy the following condition: `quality_mean >= 2 && advertisement_mean >= 2 && any(value_mean >= 3)` where `value_mean` refers to informational value, educational value, cultural value, or creative value. We also removed documents that did not satisfy the following condition: `quality >= 2 && advertisement >= 2 && any(value >= 3)` where `value` refers to informational value, educational value, cultural value, or creative value. ## License The dataset structure, record IDs, filtering scores, mixture weights, and other metadata newly added in this release are licensed under [ODC-BY](https://opendatacommons.org/licenses/by/1-0/). By using this dataset, you are also bound by any license agreements and terms of use of the original data sources listed in the [LICENSES.md](LICENSES.md). This dataset was created using the Supermicro ARS-111GL-DNHR-LCC and FUJITSU Server PRIMERGY CX2550 M7 (Miyabi) at the Joint Center for Advanced High Performance Computing (JCAHPC). --- # ClimbLab-Ja ClimbLab-Jaは、20クラスタからなる高品質な3,000億トークンの日本語コーパスです。[nvidia/Nemotron-ClimbLab](https://huggingface.co/datasets/nvidia/Nemotron-ClimbLab)のアプローチを日本語に適用しています。[LLM-jp Corpus v4](https://gitlab.llm-jp.nii.ac.jp/datasets/llm-jp-corpus-v4)をベースに、データセットを意味的に再編成・フィルタリングし、20の異なるクラスタに分類することで、高品質な3,000億トークンのコーパスを構築しました。具体的には、まずトピック情報に基づきデータを1,000グループに分類しました。次に、各グループおよび各文書に対して、品質・広告性・情報的価値・教育的価値・文化的価値・創造的価値の6つのスコアを0〜5の範囲で付与しました。これらのスコアに基づき、低品質なクラスタおよび文書を除去しました。 本データセットは研究開発目的のみに使用できます。 ## データセットの詳細 - 想定用途：言語モデルの事前学習 - フォーマット：Parquet形式のテキスト - 規模：3,000億トークン ## フィルタリング 厳密なフィルタリングを行うのではなく、明らかに低品質なデータを除去しつつ、カバレッジの広い多様なコーパスを残すことを重視しています。 以下の条件を満たさないクラスタを除去しました： `quality_mean >= 2 && advertisement_mean >= 2 && any(value_mean >= 3)` ここで `value_mean` は、情報的価値・教育的価値・文化的価値・創造的価値のいずれかを指します。 また、以下の条件を満たさない文書を除去しました： `quality >= 2 && advertisement >= 2 && any(value >= 3)` ここで `value` は、情報的価値・教育的価値・文化的価値・創造的価値のいずれかを指します。 ## ライセンス 本リリースで新たに追加されたデータセット構造、レコードID、フィルタリングスコア、混合重み、およびその他のメタデータは、[ODC-BY](https://opendatacommons.org/licenses/by/1-0/)の下でライセンスされています。本データセットを使用することにより、[LICENSES.md](LICENSES.md)に記載された元データソースのライセンス契約および利用規約にも拘束されます。 本データセットは、学際大規模情報基盤共同利用・共同研究拠点（JCAHPC）のSupermicro ARS-111GL-DNHR-LCCおよびFUJITSU Server PRIMERGY CX2550 M7（Miyabi）を用いて作成されました。