Update README.md
Browse files
README.md
CHANGED
@@ -5,9 +5,9 @@ language:
|
|
5 |
pipeline_tag: text-generation
|
6 |
---
|
7 |
|
8 |
-
## Llama-3-8B-Omnibus-1-PL-v01-GGUF
|
9 |
|
10 |
-
To repozytorum zawiera konwersję modeli Llama-3-8B-Omnibus-1-PL-v01 do formatu GGUF - Q8_0 oraz Q4_K_M. Przetestowana została w dwóch środowiskach uruchomieniowych:
|
11 |
|
12 |
#### LM Studio
|
13 |
Wersja minimum 0.2.20 - koniecznie wybierz format promptu Llama 3 (!) (opcja Preset)
|
@@ -15,9 +15,9 @@ Wersja minimum 0.2.20 - koniecznie wybierz format promptu Llama 3 (!) (opcja Pre
|
|
15 |
#### ollama
|
16 |
Wersja 0.1.32. Konfiguracja ollama plik Modelfile
|
17 |
|
18 |
-
|
19 |
FROM ./Llama-3-Omnibus-PL-v01.Q4_K_M.gguf TEMPLATE """{{ if .System }}<|start_header_id|>system<|end_header_id|> {{ .System }}<|eot_id|>{{ end }}{{ if .Prompt }}<|start_header_id|>user<|end_header_id|> {{ .Prompt }}<|eot_id|>{{ end }}<|start_header_id|>assistant<|end_header_id|> {{ .Response }}<|eot_id|>""" PARAMETER stop "<|start_header_id|>" PARAMETER stop "<|end_header_id|>" PARAMETER stop "<|eot_id|>" PARAMETER stop "<|reserved_special_token"
|
20 |
-
|
21 |
|
22 |
|
23 |
Repozytorium zawiera model Meta Llama-3-8B-Omnibus-1-PL-v01 w wersji polskojęzycznej. Model postał na podstawie finetuningu modelu bazowego Llama-3-8B. Wykorzystano do tego dataset instrukcji Omnibus-1-PL (stworzyłem go na własne potrzeby przeprowadzania eksperymenów finetuningu modeli w języku polskim). Szczegóły parametrów treningu w sekcji Trening. Celem tego eksperymentu było sprawdzenie czy można namówić Llama-3-8B do płynnego rozmawiania w języku polskim (oryginalny model instrukcyjny 8B ma z tym problem - woli zdecydowanie bardziej rozmawiać po angielsku).
|
@@ -54,12 +54,12 @@ Szablon konwersacji to oryginalna wersja Llama3
|
|
54 |
|
55 |
### Wersja instrukcyjna
|
56 |
Wersje poddane quantyzacji są dostępne w repozytorium:
|
57 |
-
* Llama-3-8B-Omnibus-1-PL-v01-GGUF - przetestowane w LM Studio (wybierz szablon - Llama3)
|
58 |
|
59 |
*
|
60 |
| Version | Model card |
|
61 |
| ------- | -------------------------------------------------------------------------- |
|
62 |
-
| Instruct| [🤗 HuggingFace](https://huggingface.co/Remek/Llama-3-8B-Omnibus-1-PL-v01) |
|
63 |
|
64 |
|
65 |
### Trening
|
|
|
5 |
pipeline_tag: text-generation
|
6 |
---
|
7 |
|
8 |
+
## Llama-3-8B-Omnibus-1-PL-v01-INSTRUCT-GGUF
|
9 |
|
10 |
+
To repozytorum zawiera konwersję modeli Llama-3-8B-Omnibus-1-PL-v01-INSTRUCT do formatu GGUF - Q8_0 oraz Q4_K_M. Przetestowana została w dwóch środowiskach uruchomieniowych:
|
11 |
|
12 |
#### LM Studio
|
13 |
Wersja minimum 0.2.20 - koniecznie wybierz format promptu Llama 3 (!) (opcja Preset)
|
|
|
15 |
#### ollama
|
16 |
Wersja 0.1.32. Konfiguracja ollama plik Modelfile
|
17 |
|
18 |
+
|
19 |
FROM ./Llama-3-Omnibus-PL-v01.Q4_K_M.gguf TEMPLATE """{{ if .System }}<|start_header_id|>system<|end_header_id|> {{ .System }}<|eot_id|>{{ end }}{{ if .Prompt }}<|start_header_id|>user<|end_header_id|> {{ .Prompt }}<|eot_id|>{{ end }}<|start_header_id|>assistant<|end_header_id|> {{ .Response }}<|eot_id|>""" PARAMETER stop "<|start_header_id|>" PARAMETER stop "<|end_header_id|>" PARAMETER stop "<|eot_id|>" PARAMETER stop "<|reserved_special_token"
|
20 |
+
|
21 |
|
22 |
|
23 |
Repozytorium zawiera model Meta Llama-3-8B-Omnibus-1-PL-v01 w wersji polskojęzycznej. Model postał na podstawie finetuningu modelu bazowego Llama-3-8B. Wykorzystano do tego dataset instrukcji Omnibus-1-PL (stworzyłem go na własne potrzeby przeprowadzania eksperymenów finetuningu modeli w języku polskim). Szczegóły parametrów treningu w sekcji Trening. Celem tego eksperymentu było sprawdzenie czy można namówić Llama-3-8B do płynnego rozmawiania w języku polskim (oryginalny model instrukcyjny 8B ma z tym problem - woli zdecydowanie bardziej rozmawiać po angielsku).
|
|
|
54 |
|
55 |
### Wersja instrukcyjna
|
56 |
Wersje poddane quantyzacji są dostępne w repozytorium:
|
57 |
+
* Llama-3-8B-Omnibus-1-PL-v01-instruct-GGUF - przetestowane w LM Studio (wybierz szablon - Llama3) oraz ollama
|
58 |
|
59 |
*
|
60 |
| Version | Model card |
|
61 |
| ------- | -------------------------------------------------------------------------- |
|
62 |
+
| Instruct| [🤗 HuggingFace](https://huggingface.co/Remek/Llama-3-8B-Omnibus-1-PL-v01-instruct) |
|
63 |
|
64 |
|
65 |
### Trening
|