Remek commited on
Commit
49734f9
1 Parent(s): 3af5882

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +6 -6
README.md CHANGED
@@ -5,9 +5,9 @@ language:
5
  pipeline_tag: text-generation
6
  ---
7
 
8
- ## Llama-3-8B-Omnibus-1-PL-v01-GGUF
9
 
10
- To repozytorum zawiera konwersję modeli Llama-3-8B-Omnibus-1-PL-v01 do formatu GGUF - Q8_0 oraz Q4_K_M. Przetestowana została w dwóch środowiskach uruchomieniowych:
11
 
12
  #### LM Studio
13
  Wersja minimum 0.2.20 - koniecznie wybierz format promptu Llama 3 (!) (opcja Preset)
@@ -15,9 +15,9 @@ Wersja minimum 0.2.20 - koniecznie wybierz format promptu Llama 3 (!) (opcja Pre
15
  #### ollama
16
  Wersja 0.1.32. Konfiguracja ollama plik Modelfile
17
 
18
- ```
19
  FROM ./Llama-3-Omnibus-PL-v01.Q4_K_M.gguf TEMPLATE """{{ if .System }}<|start_header_id|>system<|end_header_id|> {{ .System }}<|eot_id|>{{ end }}{{ if .Prompt }}<|start_header_id|>user<|end_header_id|> {{ .Prompt }}<|eot_id|>{{ end }}<|start_header_id|>assistant<|end_header_id|> {{ .Response }}<|eot_id|>""" PARAMETER stop "<|start_header_id|>" PARAMETER stop "<|end_header_id|>" PARAMETER stop "<|eot_id|>" PARAMETER stop "<|reserved_special_token"
20
- ```
21
 
22
 
23
  Repozytorium zawiera model Meta Llama-3-8B-Omnibus-1-PL-v01 w wersji polskojęzycznej. Model postał na podstawie finetuningu modelu bazowego Llama-3-8B. Wykorzystano do tego dataset instrukcji Omnibus-1-PL (stworzyłem go na własne potrzeby przeprowadzania eksperymenów finetuningu modeli w języku polskim). Szczegóły parametrów treningu w sekcji Trening. Celem tego eksperymentu było sprawdzenie czy można namówić Llama-3-8B do płynnego rozmawiania w języku polskim (oryginalny model instrukcyjny 8B ma z tym problem - woli zdecydowanie bardziej rozmawiać po angielsku).
@@ -54,12 +54,12 @@ Szablon konwersacji to oryginalna wersja Llama3
54
 
55
  ### Wersja instrukcyjna
56
  Wersje poddane quantyzacji są dostępne w repozytorium:
57
- * Llama-3-8B-Omnibus-1-PL-v01-GGUF - przetestowane w LM Studio (wybierz szablon - Llama3)
58
 
59
  *
60
  | Version | Model card |
61
  | ------- | -------------------------------------------------------------------------- |
62
- | Instruct| [🤗 HuggingFace](https://huggingface.co/Remek/Llama-3-8B-Omnibus-1-PL-v01) |
63
 
64
 
65
  ### Trening
 
5
  pipeline_tag: text-generation
6
  ---
7
 
8
+ ## Llama-3-8B-Omnibus-1-PL-v01-INSTRUCT-GGUF
9
 
10
+ To repozytorum zawiera konwersję modeli Llama-3-8B-Omnibus-1-PL-v01-INSTRUCT do formatu GGUF - Q8_0 oraz Q4_K_M. Przetestowana została w dwóch środowiskach uruchomieniowych:
11
 
12
  #### LM Studio
13
  Wersja minimum 0.2.20 - koniecznie wybierz format promptu Llama 3 (!) (opcja Preset)
 
15
  #### ollama
16
  Wersja 0.1.32. Konfiguracja ollama plik Modelfile
17
 
18
+
19
  FROM ./Llama-3-Omnibus-PL-v01.Q4_K_M.gguf TEMPLATE """{{ if .System }}<|start_header_id|>system<|end_header_id|> {{ .System }}<|eot_id|>{{ end }}{{ if .Prompt }}<|start_header_id|>user<|end_header_id|> {{ .Prompt }}<|eot_id|>{{ end }}<|start_header_id|>assistant<|end_header_id|> {{ .Response }}<|eot_id|>""" PARAMETER stop "<|start_header_id|>" PARAMETER stop "<|end_header_id|>" PARAMETER stop "<|eot_id|>" PARAMETER stop "<|reserved_special_token"
20
+
21
 
22
 
23
  Repozytorium zawiera model Meta Llama-3-8B-Omnibus-1-PL-v01 w wersji polskojęzycznej. Model postał na podstawie finetuningu modelu bazowego Llama-3-8B. Wykorzystano do tego dataset instrukcji Omnibus-1-PL (stworzyłem go na własne potrzeby przeprowadzania eksperymenów finetuningu modeli w języku polskim). Szczegóły parametrów treningu w sekcji Trening. Celem tego eksperymentu było sprawdzenie czy można namówić Llama-3-8B do płynnego rozmawiania w języku polskim (oryginalny model instrukcyjny 8B ma z tym problem - woli zdecydowanie bardziej rozmawiać po angielsku).
 
54
 
55
  ### Wersja instrukcyjna
56
  Wersje poddane quantyzacji są dostępne w repozytorium:
57
+ * Llama-3-8B-Omnibus-1-PL-v01-instruct-GGUF - przetestowane w LM Studio (wybierz szablon - Llama3) oraz ollama
58
 
59
  *
60
  | Version | Model card |
61
  | ------- | -------------------------------------------------------------------------- |
62
+ | Instruct| [🤗 HuggingFace](https://huggingface.co/Remek/Llama-3-8B-Omnibus-1-PL-v01-instruct) |
63
 
64
 
65
  ### Trening