Update README.md
Browse files
README.md
CHANGED
|
@@ -57,8 +57,6 @@ Abaixo está uma instrução que descreve uma tarefa, juntamente com uma entrada
|
|
| 57 |
### instrução: Me indique uma programação para fazer no final de semana com minha esposa. <|im_end|>
|
| 58 |
<|im_start|>"""
|
| 59 |
|
| 60 |
-
|
| 61 |
-
|
| 62 |
pipe = pipeline("text-generation",
|
| 63 |
model=model,
|
| 64 |
tokenizer=tokenizer,
|
|
@@ -81,7 +79,6 @@ pipe(prompt)[0]['generated_text'].split('assistant')[1]
|
|
| 81 |
#3. Depois do café da manhã, faça uma caminhada de compras para escolher algumas roupas ou acessórios novos.
|
| 82 |
#4. Retorne para casa para preparar uma refeição deliciosa juntos.
|
| 83 |
#5. Depois do almoço, você pode assistir a um filme ou jogar jogos de tabuleiro para relaxar
|
| 84 |
-
|
| 85 |
```
|
| 86 |
|
| 87 |
If you are having a memory problem such as "CUDA Out of memory", you should use 4-bit or 8-bit quantization.
|
|
@@ -105,7 +102,6 @@ model = AutoModelForCausalLM.from_pretrained(
|
|
| 105 |
quantization_config=bnb_config,
|
| 106 |
device_map={"": 0}
|
| 107 |
)
|
| 108 |
-
|
| 109 |
```
|
| 110 |
|
| 111 |
|
|
|
|
| 57 |
### instrução: Me indique uma programação para fazer no final de semana com minha esposa. <|im_end|>
|
| 58 |
<|im_start|>"""
|
| 59 |
|
|
|
|
|
|
|
| 60 |
pipe = pipeline("text-generation",
|
| 61 |
model=model,
|
| 62 |
tokenizer=tokenizer,
|
|
|
|
| 79 |
#3. Depois do café da manhã, faça uma caminhada de compras para escolher algumas roupas ou acessórios novos.
|
| 80 |
#4. Retorne para casa para preparar uma refeição deliciosa juntos.
|
| 81 |
#5. Depois do almoço, você pode assistir a um filme ou jogar jogos de tabuleiro para relaxar
|
|
|
|
| 82 |
```
|
| 83 |
|
| 84 |
If you are having a memory problem such as "CUDA Out of memory", you should use 4-bit or 8-bit quantization.
|
|
|
|
| 102 |
quantization_config=bnb_config,
|
| 103 |
device_map={"": 0}
|
| 104 |
)
|
|
|
|
| 105 |
```
|
| 106 |
|
| 107 |
|