jingyaogong
commited on
Commit
•
c0a5307
1
Parent(s):
dccd429
Upload README.md
Browse files
README.md
CHANGED
@@ -167,7 +167,7 @@ python 2-eval.py
|
|
167 |
强大的开源模型例如01万物、千问、chatglm、mistral、Llama3等,它们的tokenizer词表长度如下:
|
168 |
|
169 |
| Tokenizer 模型 | 词表大小 | 来源 |
|
170 |
-
|
171 |
| yi tokenizer | 64,000 | 01万物(中国) |
|
172 |
| qwen2 tokenizer | 151,643 | 阿里云(中国) |
|
173 |
| glm tokenizer | 151,329 | 智谱AI(中国) |
|
|
|
167 |
强大的开源模型例如01万物、千问、chatglm、mistral、Llama3等,它们的tokenizer词表长度如下:
|
168 |
|
169 |
| Tokenizer 模型 | 词表大小 | 来源 |
|
170 |
+
|--------------------|---------|------------|
|
171 |
| yi tokenizer | 64,000 | 01万物(中国) |
|
172 |
| qwen2 tokenizer | 151,643 | 阿里云(中国) |
|
173 |
| glm tokenizer | 151,329 | 智谱AI(中国) |
|