Eric Marchand commited on
Commit
b47405b
·
1 Parent(s): f07c5bd

temperature à 0.1 et détection de </assistant

Browse files
Files changed (1) hide show
  1. app.py +2 -2
app.py CHANGED
@@ -54,7 +54,7 @@ with gr.Blocks(title="Lucie",
54
  **inputs,
55
  # max_new_tokens=max_new_tokens, # TODO: S'occuper des max_tokens avec tous les modèles
56
  max_new_tokens=512,
57
- temperature=0.0,
58
  top_p=0.9,
59
  top_k=50,
60
  repetition_penalty=1.2,
@@ -63,7 +63,7 @@ with gr.Blocks(title="Lucie",
63
  )
64
  response = TOKENIZER.decode(outputs[0], skip_special_tokens=True)
65
  r = response.split("<assistant>")[1].strip()
66
- r = r.split("</assistant>")[0].strip()
67
  # r = response
68
  return r
69
 
 
54
  **inputs,
55
  # max_new_tokens=max_new_tokens, # TODO: S'occuper des max_tokens avec tous les modèles
56
  max_new_tokens=512,
57
+ temperature=0.1,
58
  top_p=0.9,
59
  top_k=50,
60
  repetition_penalty=1.2,
 
63
  )
64
  response = TOKENIZER.decode(outputs[0], skip_special_tokens=True)
65
  r = response.split("<assistant>")[1].strip()
66
+ r = r.split("</assistant")[0].strip()
67
  # r = response
68
  return r
69