Update README.md
Browse files
README.md
CHANGED
@@ -63,15 +63,21 @@ Information about the data used for model training and how it was processed.
|
|
63 |
|
64 |
#### Training Dataset
|
65 |
We extracted high-quality data from Japanese Wikipedia and FineWeb to create instruction data. Our innovative training approach allows for performance improvements across various languages and domains, making the model suitable for global use despite its focus on Japanese data.
|
|
|
66 |
日本語のWikiデータおよび、FineWebから良質なデータのみを抽出し、Instructionデータを作成しました。このモデルでは日本語に特化させていますが、世界中のどんなユースケースでも利用可能なアプローチです。
|
|
|
67 |
https://huggingface.co/datasets/legacy-datasets/wikipedia
|
68 |
https://huggingface.co/datasets/HuggingFaceFW/fineweb
|
69 |
|
70 |
### Data Preprocessing
|
71 |
We used a plain instruction tuning method to train the model on exemplary responses. This approach enhances the model's ability to understand and generate high-quality responses across various languages and contexts.
|
|
|
72 |
プレインストラクトチューニング手法を用いて、模範的回答を学習させました。この手法により、モデルは様々な言語やコンテキストにおいて高品質な応答を理解し生成する能力が向上しています。
|
73 |
-
|
74 |
-
|
|
|
|
|
|
|
75 |
|
76 |
### Hardware
|
77 |
A100 × 4(Running in 32h)
|
|
|
63 |
|
64 |
#### Training Dataset
|
65 |
We extracted high-quality data from Japanese Wikipedia and FineWeb to create instruction data. Our innovative training approach allows for performance improvements across various languages and domains, making the model suitable for global use despite its focus on Japanese data.
|
66 |
+
|
67 |
日本語のWikiデータおよび、FineWebから良質なデータのみを抽出し、Instructionデータを作成しました。このモデルでは日本語に特化させていますが、世界中のどんなユースケースでも利用可能なアプローチです。
|
68 |
+
|
69 |
https://huggingface.co/datasets/legacy-datasets/wikipedia
|
70 |
https://huggingface.co/datasets/HuggingFaceFW/fineweb
|
71 |
|
72 |
### Data Preprocessing
|
73 |
We used a plain instruction tuning method to train the model on exemplary responses. This approach enhances the model's ability to understand and generate high-quality responses across various languages and contexts.
|
74 |
+
|
75 |
プレインストラクトチューニング手法を用いて、模範的回答を学習させました。この手法により、モデルは様々な言語やコンテキストにおいて高品質な応答を理解し生成する能力が向上しています。
|
76 |
+
|
77 |
+
#### Implementation Information
|
78 |
+
[Pre-Instruction Training]
|
79 |
+
|
80 |
+
https://huggingface.co/instruction-pretrain/instruction-synthesizer
|
81 |
|
82 |
### Hardware
|
83 |
A100 × 4(Running in 32h)
|