piotr-ai's picture
Update README.md
8ec7140 verified
|
raw
history blame
1.74 kB
---
license: apache-2.0
language:
- pl
---
Example 1:
```python
from transformers import AutoTokenizer, AutoModelForCausalLM
import torch
import os
device = "cuda"
device_map = {
"lm_head": device,
"model": device
}
model_name = "piotr-ai/polanka__qwen2__3.4b__v0.2__ckpt-2237500"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name, torch_dtype=torch.bfloat16, device_map=device_map)
prompt = "Lubię zupę pomidorową ponieważ"
model_inputs = tokenizer(prompt, return_tensors="pt").to(device)
generated_ids = model.generate(model_inputs.input_ids, max_new_tokens=100, temperature=0.6, do_sample=True)
print(tokenizer.decode(generated_ids[0]))
```
>Lubię zupę pomidorową ponieważ jest bardzo smaczna i aromatycznie pachnąca. Zupa ta świetnie sprawdza się w przypadku, kiedy chcemy zrobić coś szybko a jednocześnie zdrowo.
>Pomidory są niskokaloryczne dlatego można je podawać na ciepło lub jako przekąskę do obiadu.
>
>Dzięki tym daniom możemy przygotować pyszny sok warzywny -
Example 2:
```python
prompt = """
Q: Co to jest psychologia?
A:
""".strip()
model_inputs = tokenizer(prompt, return_tensors="pt").to(device)
generated_ids = model.generate(model_inputs.input_ids, max_new_tokens=100, temperature=0.6, do_sample=True)
print(tokenizer.decode(generated_ids[0]))
```
```
Q: Co to jest psychologia?
A: Psychologia, jako nauka o umyśle i zachowaniu człowieka, skupia się na badaniach nad mózgiem oraz jego funkcjonowanie w życiu codziennym. Wyróżnia ją kilku kluczowych aspektów:
* **Psychologiczne podstawowe mechanizmy:** Jak ludzie myślący wpływają ze swoimi emocjami? Czy istnieją uniwersalne procesy psychicznych
```