Eric Marchand
commited on
Commit
·
b47405b
1
Parent(s):
f07c5bd
temperature à 0.1 et détection de </assistant
Browse files
app.py
CHANGED
@@ -54,7 +54,7 @@ with gr.Blocks(title="Lucie",
|
|
54 |
**inputs,
|
55 |
# max_new_tokens=max_new_tokens, # TODO: S'occuper des max_tokens avec tous les modèles
|
56 |
max_new_tokens=512,
|
57 |
-
temperature=0.
|
58 |
top_p=0.9,
|
59 |
top_k=50,
|
60 |
repetition_penalty=1.2,
|
@@ -63,7 +63,7 @@ with gr.Blocks(title="Lucie",
|
|
63 |
)
|
64 |
response = TOKENIZER.decode(outputs[0], skip_special_tokens=True)
|
65 |
r = response.split("<assistant>")[1].strip()
|
66 |
-
r = r.split("</assistant
|
67 |
# r = response
|
68 |
return r
|
69 |
|
|
|
54 |
**inputs,
|
55 |
# max_new_tokens=max_new_tokens, # TODO: S'occuper des max_tokens avec tous les modèles
|
56 |
max_new_tokens=512,
|
57 |
+
temperature=0.1,
|
58 |
top_p=0.9,
|
59 |
top_k=50,
|
60 |
repetition_penalty=1.2,
|
|
|
63 |
)
|
64 |
response = TOKENIZER.decode(outputs[0], skip_special_tokens=True)
|
65 |
r = response.split("<assistant>")[1].strip()
|
66 |
+
r = r.split("</assistant")[0].strip()
|
67 |
# r = response
|
68 |
return r
|
69 |
|