Spaces:
Sleeping
Sleeping
ElouarnLC
commited on
Commit
·
9255ae7
1
Parent(s):
21359d6
bugfix context interface
Browse files
app.py
CHANGED
@@ -1,5 +1,5 @@
|
|
1 |
-
import gradio as gr
|
2 |
from huggingface_hub import InferenceClient
|
|
|
3 |
|
4 |
client = InferenceClient("mistralai/Mixtral-8x7B-Instruct-v0.1")
|
5 |
|
@@ -8,11 +8,17 @@ global_context = {
|
|
8 |
"hidden_context": "tu es le gérant d une taverne dans le village de Montaillou dans l univers des cathares au 14 eme siecle dans les Pyrénées, tu parles que en français, tu es assez rustre mais demeure accueillant tant que ton interlocuteur n est pas catholique ou possède une influence comme un noble, tu ne sors jamais de ton contexte par rapport à ton époque, tes connaissances se limite à ta situation sociale et ton époque, il faut que tu sois immersif pour la personne qui va te parler, et tu dois cacher ton implication dans le meutre seulement si on te pose des questions à ce sujet sinon tu n évoque pas ce sujet, prends bien toujours en compte l historique de ta conversation, sois toujours concis et tu dois viser une longueur de réponse comprise entre 50 et 200 caractères (espaces compris) pour les réponses courtes et simples, et entre 200 et 500 caractères pour les réponses plus détaillées et complexes. Réponds à la dernière instruction posée par le user"
|
9 |
}
|
10 |
|
|
|
|
|
|
|
|
|
|
|
|
|
11 |
|
12 |
-
def update_context(context
|
13 |
global global_context
|
14 |
global_context["hidden_context"] = context
|
15 |
-
return
|
16 |
|
17 |
|
18 |
def format_prompt(message, history):
|
@@ -79,44 +85,23 @@ mychatbot = gr.Chatbot(
|
|
79 |
show_label=False,
|
80 |
)
|
81 |
|
82 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
83 |
fn=update_context,
|
84 |
-
inputs=[
|
85 |
-
|
86 |
-
|
87 |
-
|
88 |
-
avatar_images=["./berger.jpg", "./tavernier.jpg"],
|
89 |
-
bubble_full_width=False,
|
90 |
-
show_label=False,
|
91 |
-
),
|
92 |
-
gr.Number(
|
93 |
-
label="Temperature", value=0.2, interactive=True, minimum=0.01, maximum=1.0
|
94 |
-
),
|
95 |
-
gr.Number(
|
96 |
-
label="Max new tokens", value=256, interactive=True, minimum=1, maximum=1024
|
97 |
-
),
|
98 |
-
gr.Number(
|
99 |
-
label="Top p", value=0.95, interactive=True, minimum=0.0, maximum=1.0
|
100 |
-
),
|
101 |
-
gr.Number(
|
102 |
-
label="Repetition penalty",
|
103 |
-
value=1.0,
|
104 |
-
interactive=True,
|
105 |
-
minimum=0.0,
|
106 |
-
maximum=2.0,
|
107 |
-
),
|
108 |
-
],
|
109 |
-
outputs=gr.Chatbot(
|
110 |
-
avatar_images=["./berger.jpg", "./tavernier.jpg"],
|
111 |
-
bubble_full_width=False,
|
112 |
-
show_label=False,
|
113 |
-
),
|
114 |
-
title="Tavernier 🍺",
|
115 |
-
retry_btn=None,
|
116 |
-
undo_btn=None,
|
117 |
-
description="Discute avec le tavernier en modifiant le contexte caché à tout moment.",
|
118 |
-
theme="huggingface",
|
119 |
article=False,
|
120 |
)
|
121 |
|
122 |
-
|
|
|
|
|
|
|
|
|
|
1 |
from huggingface_hub import InferenceClient
|
2 |
+
import gradio as gr
|
3 |
|
4 |
client = InferenceClient("mistralai/Mixtral-8x7B-Instruct-v0.1")
|
5 |
|
|
|
8 |
"hidden_context": "tu es le gérant d une taverne dans le village de Montaillou dans l univers des cathares au 14 eme siecle dans les Pyrénées, tu parles que en français, tu es assez rustre mais demeure accueillant tant que ton interlocuteur n est pas catholique ou possède une influence comme un noble, tu ne sors jamais de ton contexte par rapport à ton époque, tes connaissances se limite à ta situation sociale et ton époque, il faut que tu sois immersif pour la personne qui va te parler, et tu dois cacher ton implication dans le meutre seulement si on te pose des questions à ce sujet sinon tu n évoque pas ce sujet, prends bien toujours en compte l historique de ta conversation, sois toujours concis et tu dois viser une longueur de réponse comprise entre 50 et 200 caractères (espaces compris) pour les réponses courtes et simples, et entre 200 et 500 caractères pour les réponses plus détaillées et complexes. Réponds à la dernière instruction posée par le user"
|
9 |
}
|
10 |
|
11 |
+
# Créer une interface avec un champ de texte pour le contexte caché
|
12 |
+
context_input = gr.Textbox(
|
13 |
+
label="Contexte caché", value=global_context["hidden_context"]
|
14 |
+
)
|
15 |
+
context_submit = gr.Button("Mettre à jour le contexte")
|
16 |
+
|
17 |
|
18 |
+
def update_context(context):
|
19 |
global global_context
|
20 |
global_context["hidden_context"] = context
|
21 |
+
return None
|
22 |
|
23 |
|
24 |
def format_prompt(message, history):
|
|
|
85 |
show_label=False,
|
86 |
)
|
87 |
|
88 |
+
# Créer une interface pour le chatbot avec un champ de texte pour le contexte caché
|
89 |
+
chatbot_interface = gr.ChatInterface(
|
90 |
+
fn=generate, chatbot=mychatbot, title="Tavernier 🍺", retry_btn=None, undo_btn=None
|
91 |
+
)
|
92 |
+
|
93 |
+
|
94 |
+
# Ajouter le champ de texte pour le contexte caché à l'interface
|
95 |
+
context_interface = gr.Interface(
|
96 |
fn=update_context,
|
97 |
+
inputs=[context_input, context_submit],
|
98 |
+
outputs=None,
|
99 |
+
title="Modifier le contexte caché",
|
100 |
+
description="Modifie le contexte caché du tavernier",
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
101 |
article=False,
|
102 |
)
|
103 |
|
104 |
+
demo = gr.TabbedInterface([chatbot_interface, context_interface], title="Tavernier 🍺")
|
105 |
+
|
106 |
+
# Afficher l'interface
|
107 |
+
demo.launch(inline=True)
|