ayousanz commited on
Commit
5e1629a
·
verified ·
1 Parent(s): b7fb605

Create README.md

Browse files
Files changed (1) hide show
  1. README.md +66 -0
README.md ADDED
@@ -0,0 +1,66 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ annotations_creators:
3
+ - no-annotation
4
+ language:
5
+ - ja
6
+ - en
7
+ license:
8
+ - mit
9
+ multilinguality:
10
+ - multilingual
11
+ size_categories:
12
+ - unknown
13
+ source_datasets:
14
+ - original
15
+ task_categories:
16
+ - text-classification
17
+ ---
18
+
19
+ # VTuber YouTube Channel List Dataset
20
+
21
+ このデータセットは、VTuber チャンネルと VTuber でない(例:料理チャンネルなど)の YouTube チャンネルのメタデータを JSONL 形式でまとめたものです。各レコードは以下のフィールドを含んでいます:
22
+
23
+ - **channel_id**: YouTube チャンネルの固有 ID
24
+ - **title**: チャンネルのタイトル
25
+ - **description**: チャンネルの説明文
26
+ - **text**: タイトルと説明文を連結したテキスト(モデルの入力用に利用できます)
27
+ - **label**: バイナリラベル(VTuber の場合は `1`、非VTuber の場合は `0`)
28
+
29
+ ## データセットの概要
30
+
31
+ - **目的**: このデータセットは、テキスト分類タスクにおいて VTuber チャンネルかどうかを判定するモデルの学習および評価に利用できます。
32
+ - **言語**: 主に日本語ですが、一部英語やその他の言語の記述も含まれる可能性があります。
33
+ - **ライセンス**: MIT License
34
+
35
+ ## 使用上の注意点
36
+
37
+ - **クラスバランス**: データセット内で VTuber(label=1)と非VTuber(label=0)の比率が偏っている可能性があるため、学習時にクラス不均衡対策が必要な場合があります。
38
+ - **データのノイズ**: YouTube の公開メタデータを元にしているため、説明文が短い、あるいは内容が一部不正確なレコードが含まれている可能性があります。
39
+ - **前処理**: 利用にあたっては、テキストのクリーニングや正規化などの前処理が望ましい場合があります。
40
+
41
+ ## 推論例
42
+
43
+ 以下のコード例は、Hugging Face のパイプラインを用いてこのデータセットから学習したモデルを利用する例です。
44
+
45
+ ```python
46
+ from transformers import AutoTokenizer, AutoModelForSequenceClassification, pipeline
47
+
48
+ tokenizer = AutoTokenizer.from_pretrained("ayousanz/your_dataset_or_model_repo")
49
+ model = AutoModelForSequenceClassification.from_pretrained("ayousanz/modernbert-vtuber-finetuned")
50
+
51
+ vtuber_classifier = pipeline("text-classification", model=model, tokenizer=tokenizer)
52
+ result = vtuber_classifier("この動画では、バーチャルなキャラクターがリアルタイムに動く様子を配信しています。")
53
+ print(result)
54
+ ```
55
+
56
+ ## 引用情報
57
+ このデータセットを利用する際は、以下のように引用してください:
58
+
59
+ ```
60
+ @misc{ayousanz_vtuber_dataset,
61
+ title={VTuber YouTube Channel List Dataset},
62
+ author={ayousanz},
63
+ year={2024},
64
+ url={ayousanz/vtuber-youtube-list-dataset}
65
+ }
66
+ ```