0x7o commited on
Commit
e5efcb2
·
verified ·
1 Parent(s): 03761f5

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +45 -8
README.md CHANGED
@@ -1,5 +1,4 @@
1
  ---
2
- base_model: unsloth/Mistral-Nemo-Instruct-2407-bnb-4bit
3
  tags:
4
  - text-generation-inference
5
  - transformers
@@ -9,15 +8,53 @@ tags:
9
  - orpo
10
  license: apache-2.0
11
  language:
12
- - en
 
 
13
  ---
14
 
15
- # Uploaded model
 
 
 
 
 
 
 
 
 
 
16
 
17
- - **Developed by:** 0x7o
18
- - **License:** apache-2.0
19
- - **Finetuned from model :** unsloth/Mistral-Nemo-Instruct-2407-bnb-4bit
20
 
21
- This mistral model was trained 2x faster with [Unsloth](https://github.com/unslothai/unsloth) and Huggingface's TRL library.
22
 
23
- [<img src="https://raw.githubusercontent.com/unslothai/unsloth/main/images/unsloth%20made%20with%20love.png" width="200"/>](https://github.com/unslothai/unsloth)
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
  ---
 
2
  tags:
3
  - text-generation-inference
4
  - transformers
 
8
  - orpo
9
  license: apache-2.0
10
  language:
11
+ - ru
12
+ datasets:
13
+ - 0x7o/poemma-10k
14
  ---
15
 
16
+ >Жить бы и радоваться,
17
+ >
18
+ >Не по себе, —
19
+ >
20
+ >Творческий кризис,
21
+ >
22
+ >Что это такое?
23
+ >
24
+ >Я не поэт,
25
+ >
26
+ >Я интеллектуальный автомат.
27
 
28
+ # Poemma 12B
 
 
29
 
30
+ Language model, fine tuning over Mistral Nemo using ORPA to generate poems in Russian with imitation of the style of some classics.
31
 
32
+ ## Usage
33
+
34
+ A model can write poetry from scratch, or imitate the style of the following authors:
35
+ ```
36
+ 'Марина Цветаева', 'Александр Пушкин', 'Александр Блок',
37
+ 'Анна Ахматова', 'Владимир Высоцкий', 'Иосиф Бродский',
38
+ 'Константин Бальмонт', 'Владимир Маяковский', 'Николай Гумилев',
39
+ 'Федор Тютчев', 'Сергей Есенин', 'Игорь Северянин', 'Осип Мандельштам',
40
+ 'Агния Барто', 'Евгений Евтушенко', 'Роберт Рождественский',
41
+ 'Иван Бунин', 'Андрей Дементьев', 'Самуил Маршак'
42
+ ```
43
+
44
+ ```python
45
+ from transformers import pipeline
46
+
47
+ messages = [
48
+ {"role": "user", "content": "Напиши стих о размышлениях нейронной сети в стиле Пушкина. Используй высокую лексику."},
49
+ ]
50
+ pipe = pipeline("text-generation", model="0x7o/poemma-12B")
51
+ pipe(messages)
52
+ ```
53
+
54
+ ## Dataset
55
+
56
+ https://huggingface.co/datasets/0x7o/poemma-10k
57
+
58
+ ## Author
59
+
60
+ https://t.me/kononyuk